哈爾濱的歷史源遠流長，是一座從來沒有過城墻的城市。早在22000年前，舊石器時代晚期，這里就已經有人類活動。大約5000年前，哈爾濱地區進入新石器時代。大約3000年前，殷商晚期，哈爾濱進入青銅時代，屬于黑龍江地區最早的古代文明國家——白金寶文化的分布區域。

哈爾濱是金、清兩代王朝的發祥地。公元1115年，金代在上京（哈爾濱阿城區）建都。19世紀末，哈爾濱已出現村屯數十個，居民約3萬人，交通、貿易、人口等經濟因素開始膨脹，為城市的形成與發展奠定了基礎。

1896年至1903年，隨著中東鐵路建設，工商業及人口開始在哈爾濱一帶聚集。中東鐵路建成時，哈爾濱已經形成近代城市的雛形。20世紀初，哈爾濱就已成為國際性商埠，先后有33個國家的16萬余僑民聚集這里，19個國家在此設領事館。[6] 與此同時，中國民族資本也有了較大發展，建立起哈爾濱在當時的北滿經濟中心和國際都市地位。

哈爾濱是中國馬克思主義思想傳播較早、工人和學生運動比較活躍的城市。1923年，哈爾濱成立東北地區第一個黨組織。1927年，在哈爾濱召開了東北地區第一次黨代會，并成立滿洲臨時省委。哈爾濱成為黨領導東北人民進行革命斗爭和后來抗日斗爭的指揮中心。