春秋時期，境內(nèi)有瑯琊、安陵兩城邑。戰(zhàn)國初，越滅吳，于公元前468年徙都瑯琊，今縣域南部沿海一帶屬越，歷224年。后越敗于楚，地屬楚。戰(zhàn)國后期，縣域全部屬齊。秦統(tǒng)一六國，境內(nèi)設(shè)瑯琊郡，并附郭置瑯琊縣，治所均在瑯琊（今夏河城），縣域?qū)佻樼鹂h。漢承秦制，并增瑯琊國、柜縣和祝茲侯國治于境內(nèi)；晉省瑯琊，隋復(fù)置瑯琊縣；唐代又裁，境地歸膠州、諸城，此后廢置千余年。
　　1943年，建立抗日民主政府諸膠邊辦事處，1944年析置藏馬、諸膠邊兩縣，屬濱海行署。1946年9月，劃膠縣洋河以南9個區(qū)和青島辦事處的薛家島區(qū)建立膠南縣，因在原膠縣南部而得名，屬濱北專區(qū)。1950年5月濱北專區(qū)撤銷，藏馬、膠南兩縣屬膠州專區(qū)。1956年3月藏馬縣并入膠南縣。是年膠州專區(qū)撤銷，膠南縣屬昌濰專區(qū)。1958年10月膠南縣改屬青島市，1961年4月復(fù)屬昌濰專區(qū)，1978年11月（一說1979年1月）再度劃歸青島市。1990年12月18日，國務(wù)院批準同意撤銷膠南縣，設(shè)立縣級膠南市。
　　1991年1月14日，撤銷海青鄉(xiāng)，設(shè)立海青鎮(zhèn)；撤銷小場鄉(xiāng)，設(shè)立信陽鎮(zhèn)。1992年12月28日，撤銷隱珠鄉(xiāng)，設(shè)立隱珠鎮(zhèn)。1993年10月26日,撤銷寨里鄉(xiāng)，設(shè)立寨里鎮(zhèn)；撤銷張家樓鄉(xiāng)，設(shè)立張家樓鎮(zhèn)；撤銷藏南鄉(xiāng)，設(shè)立藏南鎮(zhèn)；撤銷薛家莊鄉(xiāng)，設(shè)立黃山鎮(zhèn)。
　　1995年1月4日，將隱珠鎮(zhèn)的廣城、豆金河、兩河、辛屯、山前、孟家灘、薛家灘、向陽嶺、石咀子、煙臺前、新建、孫家灘等12個村劃出，設(shè)立靈海辦事處，辦事處機關(guān)駐上海路孟家灘村；撤銷寶山鄉(xiāng)、膠河鄉(xiāng)、鐵山鄉(xiāng)，設(shè)立寶山鎮(zhèn)、膠河鎮(zhèn)、鐵山鎮(zhèn)。1995年4月28日，撤銷膠南鎮(zhèn)，設(shè)立珠海、珠山兩個街道。珠海街道機關(guān)駐珠海路中心，珠山街道機關(guān)駐原膠南鎮(zhèn)人民政府駐地。
　　1996年4月26日，將膠南市靈山衛(wèi)鎮(zhèn)的臺子溝、八里莊、荒里、扒山、岔河、戴戈莊、兩埠岸、王家港、花科子、薛辛莊、高家臺、周家夼12個行政村劃歸黃島區(qū)長江路街道；將膠南市紅石崖鎮(zhèn)的張戈莊、龍灣崖、郭家臺子、法家園、管家洼、龍鳳村、可洛石、龍斗山前8個行政村劃歸黃島區(qū)黃島街道（魯政字[1996]73號）。
　　1997年，膠南市面積1935平方千米，人口85.5萬人。轄3個街道、19個鎮(zhèn)、4個鄉(xiāng)：珠山街道、珠海街道、靈海街道、王臺鎮(zhèn)、紅石崖鎮(zhèn)、膠河鎮(zhèn)、寶山鎮(zhèn)、黃山鎮(zhèn)、六汪鎮(zhèn)、鐵山鎮(zhèn)、隱珠鎮(zhèn)、靈山衛(wèi)鎮(zhèn)、大村鎮(zhèn)、藏南鎮(zhèn)、張家樓鎮(zhèn)、大珠山鎮(zhèn)、寨里鎮(zhèn)、海青鎮(zhèn)、大場鎮(zhèn)、信陽鎮(zhèn)、泊里鎮(zhèn)、瑯琊鎮(zhèn)、市美鄉(xiāng)、理務(wù)關(guān)鄉(xiāng)、塔山鄉(xiāng)、靈山島鄉(xiāng)。市政府駐珠海街道的王戈莊。
　　2000年第五次人口普查，膠南市總?cè)丝?27771人，其中：珠海街道78333人、珠山街道72388人、靈海街道28249人、隱珠鎮(zhèn)37462人、大珠山鎮(zhèn)38899人、張家樓鎮(zhèn)25436人、寨里鎮(zhèn)24223人、瑯琊鎮(zhèn)35601人、藏南鎮(zhèn)27726人、泊里鎮(zhèn)51481人、信陽鎮(zhèn)18441人、大場鎮(zhèn)34502人、海青鎮(zhèn)41167人、大村鎮(zhèn)32755人、六汪鎮(zhèn)22741人、膠河鎮(zhèn)21276人、寶山鎮(zhèn)29509人、鐵山鎮(zhèn)22725人、黃山鎮(zhèn)21792人、王臺鎮(zhèn)46145人、紅石崖鎮(zhèn)31123人、靈山衛(wèi)鎮(zhèn)29049人、塔山鄉(xiāng)17960人、理務(wù)關(guān)鄉(xiāng)18741人、市美鄉(xiāng)17856人、靈山島鄉(xiāng)2191人。
　　2001年，撤銷靈山島鄉(xiāng)，并入積米崖港區(qū)；撤銷塔山鄉(xiāng)，并入大場鎮(zhèn)；撤銷信陽鎮(zhèn)，并入泊里鎮(zhèn)；撤銷市美鄉(xiāng)，原市美鄉(xiāng)10個村并入六汪鎮(zhèn)，其余18個村并入大村鎮(zhèn)；撤銷寨里鎮(zhèn)，原寨里鎮(zhèn)22個村并入張家樓鎮(zhèn)，6個村并入藏南鎮(zhèn)，5個村并入瑯琊鎮(zhèn)；撤銷黃山鎮(zhèn)，成立黃山經(jīng)濟區(qū)；撤銷膠河鎮(zhèn)，成立膠河經(jīng)濟開發(fā)區(qū)；撤銷靈海街道；將瑯琊鎮(zhèn)部分村莊和原寨里鎮(zhèn)的部分村莊劃歸瑯琊臺旅游度假區(qū)，將珠海街道的部分村莊和大珠山鎮(zhèn)的部分村莊劃歸海濱工業(yè)園。全市由原來的27個鄉(xiāng)鎮(zhèn)街道、經(jīng)濟區(qū)，調(diào)整為19個鄉(xiāng)鎮(zhèn)街道、經(jīng)濟區(qū)。
　　2001年底，全市總面積1894平方千米。總?cè)丝?3.67萬人，其中非農(nóng)業(yè)人口13.36萬人。轄2個街道（珠山、珠海）、15個鎮(zhèn)（大珠山、瑯琊、泊里、隱珠、大場、海青、大村、六汪、王臺、紅石崖、靈山衛(wèi)、張家樓、藏南、鐵山、寶山）、1個鄉(xiāng)（理務(wù)關(guān)）、5個區(qū)，49個居委會、1001個行政村（《山東年鑒2002年》數(shù)據(jù)：1008個行政村、49個居委會）。
　　2002年6月19日，省政府批復(fù)同意：膠南市撤銷理務(wù)關(guān)鄉(xiāng)，設(shè)立理務(wù)關(guān)鎮(zhèn)；其行政區(qū)域和人民政府駐地不變。2002年底，全市總面積1894平方千米。總?cè)丝?3.7萬人，其中非農(nóng)業(yè)人口14.4萬人。少數(shù)民族1384人。轄2個街道（珠山、珠海）、16個鎮(zhèn)（大珠山、瑯琊、泊里、隱珠、大場、海青、大村、六汪、王臺、紅石崖、靈山衛(wèi)、張家樓、藏南、鐵山、寶山、理務(wù)關(guān)），39個社區(qū)、1001個行政村（《山東年鑒2003年》數(shù)據(jù)：1057個行政村、居委會）。
　　2003年11月19日，膠南市紅石崖鎮(zhèn)劃歸青島市黃島區(qū)管轄。2003年底，全市總面積1846平方千米。總?cè)丝?0.6萬人，其中非農(nóng)業(yè)人口15萬人。轄2個街道、15個鎮(zhèn)，1016個行政村（居委會）。
　　2004年底，全市總面積1846平方千米，總?cè)丝?0.8萬人，其中非農(nóng)業(yè)人口14.4萬人。轄15個鎮(zhèn)、2個街道、5個園區(qū)。隱珠鎮(zhèn)：面積98平方千米，轄50個行政村、4.3萬人。大珠山鎮(zhèn)：面積90平方千米，轄30個行政村和7個居委會、3.1萬人。張家樓鎮(zhèn)：面積134平方千米，轄63個行政村、4.6萬人。泊里鎮(zhèn)：面積152.4平方千米，轄101個行政村、7.5萬人。瑯琊鎮(zhèn)：面積82平方千米，轄59個行政村、3.6萬人。藏南鎮(zhèn)：面積105平方千米，轄43個行政村、3.2萬人。大場鎮(zhèn)：面積127平方千米，轄87個行政村、5.4萬人。海青鎮(zhèn)：面積100平方千米，轄64個行政村、4.4萬人。理務(wù)關(guān)鎮(zhèn)：面積65平方千米，轄33個行政村、1.98萬人。大村鎮(zhèn)：面積152平方千米，轄82個村、4.47萬人。六汪鎮(zhèn)：面積151.2平方千米，轄43個行政村、3.2萬人。寶山鎮(zhèn)：面積117平方千米，轄44個行政村、3.1萬人。鐵山鎮(zhèn)：面積101平方千米，轄43個行政村、2.35萬人。王臺鎮(zhèn)：面積85平方千米，轄52個行政村和1個居委會、4.6萬人。靈山衛(wèi)鎮(zhèn)：面積36平方千米，轄29個行政村、2.3萬人。珠山街道：面積43.6平方千米，轄20個行政村和4個農(nóng)村居委會及12個城市居委會、7.1萬人。珠海街道：面積44平方千米，轄18個行政村和18個城市居委會、6.4萬人。山東省膠南經(jīng)濟開發(fā)區(qū)：面積23.4平方千米，轄12個行政村、7個居委會，人口2.8萬人（其中非農(nóng)人口1.1萬人）。青島瑯琊臺省級旅游度假區(qū)：面積9.8平方千米，轄7個行政村、3897人。黃山經(jīng)濟區(qū)：面積76平方千米，轄37個行政村、2萬人。膠河經(jīng)濟區(qū)：面積56平方千米，轄32個行政村、2.25萬人。積米崖港區(qū)：面積9.53平方千米，轄積米崖港和靈山島管區(qū)、4500余人。膠南市海濱工業(yè)園：面積27.9平方千米，轄11個行政村、5.6萬人。（數(shù)據(jù)來源：《青島年鑒2005版》）
　　2005年，撤銷隱珠、靈山衛(wèi)、鐵山、大珠山四個鎮(zhèn)，分別在原行政區(qū)域設(shè)立隱珠、靈山衛(wèi)、鐵山、濱海街道。12月18日4個街道正式掛牌成立。