1131年（金天會九年，偽齊阜昌二年）置棲霞縣，因“日曉輒有丹霞流宕，照耀城頭霞光萬道”而得名。據《三齊記》：“山頂方平，東一峰特起，春日晴明，云霧周護起伏變幻，若海市然，棲霞之名蓋以此。”1941年析置棲東縣，1953年并入棲霞縣。1995年11月30日，撤銷棲霞縣，設立棲霞市。
1958年8月，棲霞縣轄17個鄉鎮；1958年9月改為17個公社。1959年2月，將官道公社并入觀里公社。1962年4月后，官道公社由觀里公社析出，增設大柳家公社。全縣共有18個公社：蘇家店公社、寺口公社、小莊公社、官道公社、觀里公社、楊礎公社、蛇窩泊公社、大柳家公社、唐家泊公社、桃村公社、鐵口公社、大莊頭公社、廟后公社、亭口公社、臧家莊公社、寨里公社、松山公社城鎮公社。
1984年3月，改公社為鄉（鎮）體制，同時調整部分區劃，全縣設8鎮15鄉：棲霞鎮、桃村鎮、臧家莊鎮、亭口鎮、唐家泊鎮、觀里鎮、寺口鎮、蛇窩泊鎮、蘇家店鄉、小莊鄉、官道鄉、楊礎鄉、連家莊鄉、大柳家鄉、鐵口鄉、大莊頭鄉、廟后鄉、占疃鄉、中橋鄉、寨里鄉、松山鄉、金山鄉、劉家河鄉。其中連家莊鄉由蛇窩泊鎮析出；占疃鄉由亭口鎮析出；金山鄉由松山鄉析出；劉家河鄉由棲霞鎮析出；中橋鄉由臧家莊鎮析出。
1992年9月19日，撤銷鐵口鄉、中橋鄉、蘇家店鄉，分別設立鐵口鎮、中橋鎮、蘇家店鎮。1993年6月，撤銷寨里鄉，設立寨里鎮。1993年7月，撤銷楊礎鄉，設立楊礎鎮。1994年3月，撤銷小莊鄉，設立西城鎮。1994年4月18日，撤銷官道鄉，設立官道鎮。
1995年12月，撤銷占疃鄉，其區劃并入亭口鎮；撤銷劉家河鄉，其區劃并入棲霞鎮。調整后，全市轄15個鎮、6個鄉：棲霞鎮、西城鎮、蘇家店鎮、寺口鎮、官道鎮、觀里鎮、楊礎鎮、蛇窩泊鎮、桃村鎮、唐家泊鎮、鐵口鎮、亭口鎮、中橋鎮、臧家莊鎮、寨里鎮、大柳家鄉、大莊頭鄉、廟后鄉、松山鄉、連家莊鄉、金山鄉。
2000年3月15日，撤銷大莊頭鄉，設立大莊頭鎮（魯政函民字[2000]28號）。2000年5月18日，撤銷廟后鄉，設立廟后鎮；撤銷連家莊鄉，將其行政區域并入蛇窩泊鎮；撤銷松山鄉、金山鄉，以原松山鄉、金山鄉的行政區域設立松山鎮，鎮人民政府駐原松山鄉人民政府駐地（魯政函民字[2000]39號）。調整后，全市轄18個鎮、1個鄉鎮：棲霞鎮、西城鎮、蘇家店鎮、寺口鎮、官道鎮、觀里鎮、楊礎鎮、蛇窩泊鎮、桃村鎮、大莊頭鎮、廟后鎮、唐家泊鎮、鐵口鎮、亭口鎮、中橋鎮、臧家莊鎮、寨里鎮、松山鎮、大柳家鄉。
2000年第五次人口普查，棲霞市總人口651357人，其中：棲霞鎮113932人，觀里鎮34214人，蛇窩泊鎮44970人，唐家泊鎮28781人，桃村鎮45163人，亭口鎮33583人，臧家莊鎮35554人，寺口鎮22461人，蘇家店鎮36201人，鐵口鎮25317人，中橋鎮22560人，楊礎鎮27655人，西城鎮27406人，官道鎮31579人，寨里鎮25053人，大莊頭鎮20605人，松山鎮35914人，廟后鎮21482人，大柳家鄉18927人。
2000年12月19日，撤銷鐵口鎮、大莊頭鎮，將其行政區域并入桃村鎮；撤銷中橋鎮、寨里鎮，將其行政區域并入臧家莊鎮；撤銷大柳家鄉，將其行政區域并入蛇窩泊鎮。撤銷棲霞鎮，分別設立莊園街道辦事處和翠屏街道辦事處，將原棲霞鎮的上宋家等45個村劃歸莊園街道辦事處管轄，辦事處機關駐古鎮都；將原棲霞鎮的城關等55個村劃歸翠屏街道辦事處管轄，辦事處機關駐原棲霞鎮人民政府駐地（魯政函民字[2000]84號）。調整后，全市轄莊園、翠屏2個街道辦事處及桃村、臧家莊、蛇窩泊、亭口、松山、廟后、蘇家店、西城、楊礎、寺口、觀里、官道、唐家泊13個鎮，2個經濟技術開發區，953個行政村。2000年底，全市總面積2016.02平方千米。總人口65.96萬人，其中非農業人口7.79萬人。
2001年底，全市總面積2016平方千米。總人口65.44萬人，其中非農業人口7.89萬人。轄2個街道、13個鎮，2個經濟技術開發區，953個行政村（居委會）。
2002年底，全市總面積2016平方千米。總人口64.98萬人，其中非農業人口8.16萬人。轄2個街道、13個鎮，2個工業園，1個開發區，953個行政村（居委會）。
2003年9月27日，將楊礎鎮的中富源、西富源、南富源等3個村劃歸翠屏街道辦事處管轄。2003年底，全市總面積2016平方千米。總人口64.23萬人，其中非農業人口8.42萬人。轄2個街道、13個鎮：莊園街道、翠屏街道、觀里鎮、蛇窩泊鎮、唐家泊鎮、桃村鎮、亭口鎮、臧家莊鎮、寺口鎮、蘇家店鎮、楊礎鎮、西城鎮、官道鎮、松山鎮、廟后鎮，1個開發區，953個行政村（居委會）。
2007年底，全市總面積2016平方千米。總人口62.7萬人，其中非農業人口15.2萬人。有少數民族22個，241人。轄3個街道、13個鎮，953個行政村（居委會）。