在中國，有關山神的傳說源遠流長。成書於二千多年前的《山海經》，就已記載了有關山神的種種傳說。《太平廣記》裡也收錄了大禹囚禁商章氏、兜廬氏等山神的故事。《五藏山經》裡還對諸山神的狀貌作了詳盡的描述。

古代中國人民將山嶽神化而加以崇拜。從山神的稱謂上看山神崇拜極為複雜，各種鬼怪精靈皆依附於山。最終，各種鬼怪精靈的名稱及差異分界都消失了，或者你中有我，我中有你而互相融合了。演變成了每一地區的主要山峰皆有人格化了的山神居住。《禮記·祭法》：“山林川穀丘陵，能出雲，為風雨，見怪物，皆曰神。”虞舜時即有“望于山川，遍於群神”的祭制，傳說舜曾巡祭泰山、衡山、華山和恆山。歷代天子封禪祭天地，也要對山神進行大祭。祭山時大多用玉石和玉器埋於地下，也有用“投”和“懸”的祭法，即將祭品雞、羊、豬或玉石投入山谷或懸在樹梢。