于山位于福州城区中心，相传战国时有一支"于越族"迁居于此，因而将这座山取名为“于山”，最高处海拔58.6米，面积11.9公顷，整座山形状如巨鳌，于是有六鳌胜迹：揽鳌亭、倚鳌轩、应鳌石、接鳌门、步鳌坡、耸鳌峰。
于山历来就是游览胜地，山上名胜古迹众多，有24景，如九日台、狮子岩、集仙岩、小华峰等；还有纪念明代抗倭名将戚继光的戚公祠、平远台、醉石、蓬莱阁。此外，还有不少小巧玲珑的亭榭，如万象亭、吸翠亭、补山精舍等。这些亭榭依岗峦起伏，隐约在松竹花卉之间，风景清幽，引人入胜。
于山还有为数众多的摩崖石刻。现存宋、元、明、清及近代的摩崖石刻113段，其中宋刻35段，明、清占大半。这些石刻大部分分布在鳌顶峰、金粟台、戚公祠、蓬莱峰等处。鳌顶峰上北宋淳化元年（990年）吕文仲的题名石刻，是福州宋代最早的摩崖石刻。山南的《南校场演武厅铭>219字，字径20厘米，全段高3.3米，宽4.55米，是福州面积最大的摩崖石刻。宋太守元绛手书的“金粟台”3个篆字，苍劲沉着；明万历年间闽县张炜所书的“平远台”行书，雄浑厚重；由宋代音乐家陈旸命名、高僧鸿份手书的“廓然台”3字，挺秀洒脱。这三台榜书，风格各异，都是福州著名的石刻。于山摩崖石刻，不但保存许多优秀的书法艺术，其中大部分还具有史料价值，明代督舶太监尚春的诗刻，就是一份福州对外贸易的史料。
