上海铁路博物馆位于天目东路与康乐路口，其展馆建筑与室外样貌是按照1909年建成、具有英式古典建筑风格的沪宁铁路上海站（老北站）的原样，在其原址上建成的。在这里可以看到实物的火车头以及各种火车零件设备与仿真模型，还可以亲手操作控制台，体验当一回动车组的驾驶员。

走进馆区，首先看到的就是两辆老式火车头实物，还有一节经典的绿皮车厢，而一旁是火车站月台，是拍照留念的好场景。展馆是复古式样的建筑，里面的构造和装饰很有年代感，但展馆内不大，只有一层。馆内有丰富的图字资料以及各个年代的铁路刊物、徽章，介绍了上海及华东铁路一百多年来所走过的历程。

在馆内可以看到很多与火车及铁轨有关的设备器材，还有各种列车车厢上使用的方向牌和各个年代车厢里的日常物品，不过较吸引小朋友们的可能要属各种仿真微缩火车头模型了。此外，馆内还设有模拟的动车驾驶室，你可以尝试当一回驾驶员，驾驶列车驰向远方。