高岗出身农家，小时候在米脂县龙镇小学读书，后考入横山县立第一高等小学堂学习。1925年进入陕西六中，加入进步组织共进社。

高岗由史巍然介绍于1926年加入中国共产党。1928年4月，高岗协助谢子长、刘志丹等领导陕西渭华起义，参与创建陕北革命根据地。同年冬奉刘志丹之命潜入驻肤施县（延安）的国军，被发现后逃回横山。1930年潜入驻宁夏的国军发动兵变，此年率部在甘肃加入刘志丹的部队。1933年陕甘边区红军临时总指挥部成立，高岗任政委。

  1935年中央红军到达陕北后，高岗受到毛泽东的重用，担任共产党西北区书记等职务。1945年举行的党的七大上，当选为13人组成的中共中央政治局委员。1945年10月下旬，高岗和张闻天一起乘坐美国调停小组的飞机从延安飞往东北。11月任北满军区司令。1946年6月任中共中央东北局副书记（书记彭真）、东北民主联军副政委（政委林彪）。1948年底辽沈战役结束后，林彪、罗荣桓率领大军入关，高岗留在东北，先后担任共产党东北局第一书记、东北人民政府主席、东北军区司令兼政委等职务，是当时六个大区唯一一个身兼党政军四大要职的领导人，是名符其实的“东北王”。

1949年7-8月，高岗与刘少奇密访莫斯科。7月27日，在苏共中央政治局扩大会议上，高岗建议把东北宣布为苏联的第十七个加盟共和国，认为以此可以避免东北遭到美国侵袭，使之成为南进击败蒋介石的可靠的基地。高岗的建议引发了刘少奇的不满。

1949年9月，高岗当选中华人民共和国中央人民政府副主席。1950年朝鲜战争期间，高岗主政东北。1951年10月，高岗又兼任中央人民政府人民革命军事委员会副主席