与奥之院并称“高野山两大圣地”的壇上伽蓝区域内约有20个建筑物并列，表现了壇上伽蓝的佛教世界。
高度约50m的“根本大塔”是真言密教的根本道场。另外还有进行高野山重要行事的高野山总本堂“金堂”，也是壇上伽蓝重要的建筑物之一。

山整体都是寺院，作为佛教境内地的高野山，其广大的境内分布坐落着以总本山寺院——金刚峯寺为中心的超过100间寺院。
高格调的书院造建筑的主殿、日本国内最大级枯山水的石庭等众多可看之处也是金刚峯寺的魅力之一。

弘法大师入于禅定的“御庙”坐落于奥之院，是高野山的信仰圣地。渡过被看作正式入口的“一之桥”，到“御庙”的约两公里的参拜道两旁矗立着杉木，有超过20万座历史名人、皇室、文人的坟墓和纪念碑坐落于此。白天的奥之院庄严肃静，晚上的在灯笼照射下的树丛则散发出幻想的气氛。