夏商周时期，市境为"淮夷"、"徐夷"聚居地。春秋战国时期，既有吴王夫差开凿的邗沟（即淮扬运河）沟通江、淮，又有陆上干道——善道通达南北。《淮系年表•序言》称包括市境在内的古淮河中下游地区"交通灌溉之利甲于全国"，成为列强争夺的重要地区，先后为吴、越、楚国所有。
    秦统一六国后，推行郡县制。市境分属泗水郡和东海郡，始置县邑有淮阴（治今淮阴区码头镇）、盱眙（治今盱眙县城东北）、东阳（治今盱眙县马坝东南）。西汉年间，市境大体属临淮郡，又增置淮浦（治今涟水县西）、射阳（治今淮安区东南）、富陵（治今洪泽湖中）等县。东汉分属下邳国和广陵郡。
    魏晋南北朝时期，市境长期处于战争和对峙的前沿，建置紊乱，隶属多变，今市区码头镇、淮城镇其时均为军事要塞，多设州郡治所，为边帅驻节之地。长年战乱带来的是"江淮之间，赤地千里"的凄惨景象，经济和文化遭到严重破坏。南齐永明七年（489），割直渎破釜以东，淮阴镇下流杂100户置淮安县，"淮安"之名始见。
    隋唐五代时期，境内长期处于安定的环境，建置也较稳定，大抵淮北属泗州（治今盱眙县城北淮河对岸），淮南属楚州（治今淮安区淮城），经济得以持续发展和重新繁荣。楚州、泗州成为运河沿线的两座全国性名城，楚州更被白居易誉为"淮水东南第一州"。
    北宋年间，境内较为太平，市境先属淮南路，分属楚州、泗州；后分淮南路为淮南东、西路，市境属淮南东路。南宋和金、元对峙时期，市境再度成为前线，为双方反复争夺，建置亦复紊乱多变。
    元代，境内先后置淮东安抚司、淮东总管府、淮安路（治今淮安区淮城镇）。淮安路辖境包括今苏北地区大部和皖北一部。
    明清时期，境内置淮安府。明代淮安府辖山阳、清河、安东、盐城、桃源、宿迁、沭阳、睢宁、赣榆、邳州、海州，计9县2州，范围包括今苏北五市绝大部分地域。其间，还有漕运总督、南河总督驻节淮安。漕运总督还经常兼巡抚江淮，节制淮（安）、扬（州）、庐（州）、凤（阳）四府及徐（州）、滁（州）、和（州）三州，管辖范围包括今江苏、安徽二省的长江以北广大地区。清末，一度设立江淮行省，淮安是江淮巡抚驻节之所，即省会所在地。
    民国元年（1912），淮安府撤销，市境大部始属淮扬道（道署设今清浦区），后属淮阴行政督察区、第七行政督察区。抗日战争和解放战争时期，境内成为重要的根据地和解放区，中共中央华中局、新四军军部、中共中央华中分局、华中军区、苏皖边区政府等都曾驻节境内。由于处在敌后环境，根据地和解放区的政区变化很大，头绪繁多，大抵分属淮海区、盐阜区、淮南区、淮北区。抗战胜利后至1946年9月的一年间，淮安是华中解放区的中心、苏皖边区的首府，时苏皖边区南界长江、北界陇海铁路、东至黄海、西至裕溪口一线，横跨苏皖豫鲁四省之境，辖53个旧县。1948年12月，市境全部解放。1949年5月，成立淮阴专区。
    新中国成立后，淮阴专区先属苏北行政区，后属江苏省。经过1950年6月、1954年8月、1954年12月、1971年3月的几次区划调整，今市境始全属淮阴专区。1983年，淮阴专区改为淮阴市，辖宿迁、沭阳、灌南、泗洪、泗阳、涟水、淮阴、淮安、洪泽、盱眙、金湖11个县和清河、清浦两区，原辖县灌云划归连云港市。1987年，辖县淮安、宿迁改为县级市。1996年8月，宿迁、泗阳、沭阳、泗洪4县（市）从淮阴市析出，成立地级宿迁市，同时灌南县划归连云港市。2001年2月，淮阴市更名为淮安市，原县级淮安市改为淮安市楚州区，原淮阴县改为淮安市淮阴区。2012年2月23日，楚州区更名为淮安区。2016年，淮安市清河区、清浦区合并更名为清江浦区，洪泽县更名为淮安市洪泽区。至此，淮安市下辖4区3县：清江浦区、淮阴区、淮安区、洪泽区、涟水县、盱眙县、金湖县。