哈尔滨铁路江上俱乐部坐落在风光旖旎的松花江南岸，占地面积4550平方米。数幢古朴典雅的俄罗斯木结构建筑被遮掩在绿树丛中，造型精巧的亭台、黄绿相间的建筑、精雕细镂的木装饰，彰显出俄罗斯建筑的艺术特色。主建筑廊台的一半建在江堤，一半伸向江面，凭栏远眺，一江碧水和江对岸的太阳岛一览无余。

始建于1912年的江上俱乐部，原名游艇俱乐部，内设西餐厅和舞厅，设计者为俄国设计师米亚科夫斯基。1935年3月，日本接管中东铁路后，江上俱乐部被日伪控制。1945年8月，苏联红军进入哈尔滨，江上俱乐部由苏联红军使用。1950年，东北铁路总工会将其收回，命名为哈尔滨铁路江上俱乐部。

回到人民怀抱的江上俱乐部，成为铁路职工和人民群众的乐园。每逢国庆节和五一国际劳动节，江上俱乐部便张灯结彩，组织劳动模范和职工代表欢度佳节。改革开放后，江上俱乐部新增加了两艘游船和60只舢板船，组织铁路职工开展水上娱乐活动。

江上俱乐部多次接待外宾和国家领导人。上世纪60年代，贺龙元帅在此检阅了游泳大军并观看了水上运动表演。在这里还拍摄过电影《徐秋影案件》和电视连续剧《雪城》等。著名电视制片人靳羽西在此拍摄的电视风光片，曾在央视《世界各地》节目中播放。1985年、1986年，江上俱乐部被全国铁路总工会评为六好文化事业单位。

江上俱乐部因系木质建筑，且处在江堤上，终因年代久远腐蚀，成为江堤防汛危险地段。1994年，江上俱乐部拆除重建，1996年竣工。新落成的江上俱乐部建筑整体提高40公分，努力将原建筑风貌保留了下来。主体建筑由二层增高为三层，建筑承重部分采用钢筋混凝土结构，内外部装修以木质和仿木质材料为主。新建了水暖设备，冬季亦可开展活动。

2015年，随着哈尔滨市沿江风景线的改造升级，江上俱乐部又进行了修缮，本着修旧如旧的原则，内外都进行了改动，12月竣工。重新开放的江上俱乐部，俄罗斯木结构建筑风格特征更加突出，休闲、娱乐和餐饮等设施更加完善，成为沿江风景线中一颗璀璨的明珠。