崂山是中国海岸线第一高峰，有着海上“第一名山”之称。当地有一句古语说：“泰山虽云高，不如东海崂。”
崂山，东高而悬崖傍海，西缓而丘陵起伏，山区面积446平方公里。山脉以崂顶为中心，向四方延伸，尤以西北、西南两个方向延伸较长，形成了巨峰、三标山、石门山和午山四条支脉，崂山的余脉沿东海岸向北至即墨市的东部，西抵胶州湾畔，西南方向的余脉则延伸到青岛市区，形成了市区的十余个山头和跌宕起伏的丘陵地形。
崂山是一块巨大的花岗岩体，形成于遥远的白垩纪。
崂山地貌中，最有特色的是剑峰千仞、山峦巍峨和各种奇石怪岩。
崂山地貌按高程大致可分为上下两层。上层为犬齿交错的山峰，海拔近1000米，它们是1万多年前末次冰期时形成的。自然环境十分恶劣，第四纪几度进侵的海水已退却到冲绳附近一带，黄渤海成为一片荒原，气候干冷。此时，日夜之间、冬夏之间温差很大，花岗岩在寒冻作用下，机械风化很快，大块大块岩石崩裂，形成参差不齐、面貌峥嵘的山峰。
下层的花岗岩地貌，多是1万年来冰后期形成的。此时，大海回归，化学风化占了优势，雨水和地衣植物参与这种风化，将质地均匀的花岗岩由表及里一层层剥离，一些早期崩落的巨大岩块，或原来没动的岩石，遂形成一个球形巨石。若干秀峰奇石，构成了崂山的这种雄伟、奇特的地貌形态。
崂山原名“牢山”，后逐渐演变为“崂山”。“牢山”出自416年晋法显《佛国记》。驱之不动，为牢固之山，故称“牢山”。另一说法，在三十六天罡星中，天牢星与此山相对，故以“牢山”名之。