传说圌山原名瑞山，秦始皇东巡途经此地，见瑞气升腾有帝王气，传旨将瑞字左边的“王”去掉，用“囗”将余下的“耑”框起来，以免王气外泄危及万年江山。于是这座山便叫做“圌山”。
圌山壑深谷幽，怪石嶙峋，古木参天，竹林摇曳。山上36处悬崖，72道险坡，一步一景，素为佛家修行的好去处。极盛时期这里仅尼姑庵便有数十座。现有西林寺、东霞寺、绍隆寺、楞俨禅寺，长年香客信众络绎不绝。长江第一塔－报恩塔直冲云霄，令人流连。
圌山扼长江江防，还是拱卫镇江和南京的门户。唐代这里便设有谯山戍（即镇海军），宋代建圌山寨，宋将韩世忠在此屯兵抗金，明代是抵抗倭寇的地方，1842年英国侵略军发动扬子江之役，圌山炮台守军英勇杀敌，打得侵略者魂飞魄散。