灵山寺位于宜阳县城西7.5公里处的洛河南岸灵山，系熊耳山余脉，灵山海拔500米，灵山寺在海拔370米的半山腰。

灵山寺坐落于灵山山腰，"紫崖仙洞罗列在前，秦松汉柏荷插在后"，全寺因山势而建，座南向北，寺址占地18667.6平方米，寺内现有殿亭楼阁近百间，自北而南沿着中轴线上有五重建筑，为省级文物保护单位。