学校前身是1941年在延安成立的中国人民抗日军政大学第三分校俄文队，后更名为中央军委军事学院俄文科、中央军委俄文学校、延安外国语学校；1946年延安外国语学校部分领导和俄文系师生迁至东北，后更名为东北民主联军总司令部附设外国语学校、哈尔滨外国语专门学校、哈尔滨外国语专科学校、 哈尔滨外国语学院；1958年更名为黑龙江大学；1961年黑龙江科技大学（筹建）并入；1972年哈尔滨外国语专科学校并入；2003年中国农业科学院甜菜研究所并入；2004年黑龙江水利高等专科学校并入。