與奧之院並稱“高野山兩大聖地”的壇上伽藍區域內約有20個建築物並列，表現了壇上伽藍的佛教世界。
高度約50m的“根本大塔”是真言密教的根本道場。另外還有進行高野山重要行事的高野山總本堂“金堂”，也是壇上伽藍重要的建築物之一。

山整體都是寺院，作為佛教境內地的高野山，其廣大的境內分佈坐落著以總本山寺院——金剛峯寺為中心的超過100間寺院。
高格調的書院造建築的主殿、日本國內最大級枯山水的石庭等眾多可看之處也是金剛峯寺的魅力之一。

弘法大師入於禪定的“御廟”坐落於奧之院，是高野山的信仰聖地。渡過被看作正式入口的“一之橋”，到“御廟”的約兩公里的參拜道兩旁矗立著杉木，有超過20萬座歷史名人、皇室。文人的墳墓和紀念碑坐落於此。白天的奧之院莊嚴肅靜，晚上的在燈籠照射下的樹叢則散發出幻想的氣氛。