铁船峰俗称“桅杆石”，与龙首崖隔涧相望。高峰矗立，似巨舰昂首，故名。相传，东晋大将军王敦，军事大权在握，欲篡夺帝位。一天在建康（今南京市）邀请许逊等人，席间让人释梦。言昨晚梦一木破，问是否吉祥。许逊等人知其用心，便释为“木上破天，乃“未”字，公欲用刀兵，未可轻举妄动“。王敦听后不悦，暗起杀心。许逊等人也已料到，遂乘船逃走。船行江中，王敦果然派兵追来，幸好许逊学有法术，呼来二龙挟船开飞，并告诫众人紧闭双目，不得窥视。当船飞临庐山紫霄峰上空时，云雾迷漫，船底擦着树梢沙沙作响，舟人奇而窃视，二龙突然离去，船随即坠于紫霄峰下的石门洞旁，而成为铁船峰。
1992年在铁船峰顶建有静观亭及近人石刻等。