上海文庙始建于元朝（1294年），几经迁移后落于现址，如今看到的文庙是清咸丰五年（1855年）所建，这里既有大气的明清风格建筑，又有环境清幽的江南园林风貌，还能看到奇石、根雕展和茶壶展，以及上海古代文人碑刻展示。

文庙庙第为三进式院落，一进分上下两院，二进为棂星门，院子两端有奎文阁和尊经阁，三进是大成门、大层殿和两座钟鼓楼构成的四合院。大成殿前左右有东西庑殿，与大成门及围墙组成一封闭院落，两座殿内有明清楹联壁碑展。

大成殿前还有孔子雕像和大成钟，每年考前都有不少学子来这里许愿撞钟，并在殿前的树上系上红丝带以求好运。大成殿是祭孔正殿，殿内展有上海书法家刘小晴以楷书写的《论语》全文16400余字，被刻在52块青石板上，镶嵌于大成殿内壁四周，刻工相当精细。

往东走来到尊经阁，它始建于明代成化年间，是上海较早的官方图书馆，阁前有灵璧石，形似麒麟。尊经阁南面坐落的明伦堂曾是儒生讲学之所，里面可以看到排放整齐的学案。在堂前放置着青铜方鼎，鼎上铭刻着“博学于文，约之于礼”和“学而不厌，诲人不倦”。

文庙的东首有一座高三层的魁星阁，建于1855年，是学宫的主要建筑。魁星阁是上海市区少见的楼阁古迹，飞檐、攒尖顶的外观很有历史感，据说以前登临此阁可以俯瞰上海老城厢的全貌。阁前有一方池塘，这里草木葱郁，好似一座袖珍的园林，而池塘中立着的“龙吟虎啸”灵璧石非常形象。

文庙周边，沿老道前街、梦花街、学宫街开设具有浓厚文化色彩的古玩、书画轩、古钱币、邮品等商店，有时也会有年长者摆地摊卖古玩。这一带更有许多街头小吃及公仔店、文具店、小商品店，成为学生和年轻人爱去逛的地方。

值得一提的是，文庙东北角有一条书市交易区，有卖打折书。而每周日在文庙内有旧书市场（雨天没有），花一块钱便可进入，古书、二手书、新书、漫画、外文书应有尽有，耐心淘上个把钟头必有所获，是爱书者必去之地。