長白山古時稱為不咸山、“太白山”，清朝時滿族人稱之為白山(GolminSanggiyanAlin)或“白頭山”，近代朝鮮半島人和日語中的漢字也都以“白頭山”稱之。長白山也以“白山”(指長白山)與黑龍江的“黑水”(指黑龍江)并稱，是中國東北的代名詞。

最早記錄我國東北長白山的史籍是戰(zhàn)國和西漢初成書的地理書《山海經(jīng)·大荒北經(jīng)》。書中稱：“東北海之外，……大荒之中有山名曰不咸，有肅慎氏之國。”肅慎是東北的古老民族，活動在今延邊和綏芬河一帶?！逗鬂h書·東夷傳》和《晉書·四夷傳》皆有“肅慎氏一名挹婁，在不咸山北”的記載。

晉代以前長白山一直名稱不咸山。后魏又稱“徒太山”、“太皇山”?！段簳の鸺獋鳌份d：“勿吉國南有從太山者，華言太皇，俗甚敬畏之?！钡搅颂拼?，又改稱為“太白山”，《新唐書》載：粟末部“居最南，抵太白山，亦曰徒太山?！?/p>

長白山之名始于金代，而且一直沿用至今。《金史·世紀(jì)》載：“生女真地有混同江、長白山，混同江亦號黑龍江，所謂白山、黑水是也。”金代統(tǒng)治者認(rèn)為“長白山在興王之地，禮合尊崇議封爵，建廟宇”。因此，在大定十二年(公元1172年)十二月，封長白山為“興國靈應(yīng)王，即其山北地建廟宇”。大定十五年三月，奏定封冊儀物，每逢春秋二季，擇日致祭。明昌四年(公元1193年)十月，復(fù)冊為開天弘圣帝。

到了清代，滿族統(tǒng)治天下，長白山在滿語里叫“果勒敏(長)珊延(白)阿林(山)”。清朝以長白山為發(fā)祥地，康熙十六年(公元1677年)，特命大臣覺羅武木納前往長白山拜謁，回京奏疏，議封長白山神，每年遣使致祭。康熙二十一年(公元1682年)，康熙皇帝東巡到吉林時，在松花江畔舉行了隆重的望祭長白山活動。清朝幾百年間，將長白山列為封禁之地。