哈爾濱中俄工業(yè)學校（即哈爾濱工業(yè)大學的前身）是1920年5月開始籌建的，10月17日舉行開學典禮。當時設鐵路建設和電氣機械工程兩個科。首屆三個班共招收103名學生，實行學分制，學制四年，一律用俄語教學。

1922年4月2日，學校改名中俄工業(yè)大學校，學校由四年改為五年，原設兩個科分別改為鐵路建筑系和機電工程系。畢業(yè)生經考試委員會答辯合格，授予工程師稱號。

1928年2月4日，學校隸屬關系發(fā)生變化，改由中華民國東省特區(qū)領導，校名改為東省特區(qū)工業(yè)大學校，東省特區(qū)行政長官張寰湘將軍擔任校理事會主席，東北政府國民教育部總長劉哲任校長，為學校歷史上第一位中國校長。1928年10月20日，將法政學院和商學院并入，學校更名為哈爾濱工業(yè)大學校，由中蘇共管，張學良將軍任校理事會主席。

1931年春，開始招收研究生。

隨著日本帝國主義入侵東北，到1935年學校完全被日本人接管，改用日語授課，指定招收中、日籍學生。1936年1月1日，學校改名為國立哈爾濱高等工業(yè)學校。1937年1月以后，學校完全轉入按日本方式辦學階段。日本人鈴木正雄任校長，直至1945年8月離任。

1938年1月1日起，學校改名為哈爾濱工業(yè)大學。從此，哈爾濱工業(yè)大學的校名就一直沿用至今。

1945年”九·三“抗日戰(zhàn)爭勝利后，哈工大由中蘇兩國政府共同管理，由中長鐵路局領導。這時的辦學宗旨是為中長鐵路培養(yǎng)工程技術人員，學制5年，一律用俄語上課，到1950年新中國接管前，設有土木建筑、電氣機械、工程經濟、采礦、化工和東方經濟等系及預科。這段時期哈工大不僅醫(yī)治了戰(zhàn)爭創(chuàng)傷，而且有所發(fā)展，積累了一定的辦學經驗，為新中國接辦、改造和發(fā)展哈工大打下了一定的基礎。

從1920年建校到解放前，哈工大一直按俄或日式辦學，用俄語或日語授課，這使哈工大自建校起就具有鮮明的國際性特征。