商丘是中华远古文明的发祥地之一，四五千年前龙山文化、仰韶文化时期，先民就已经在这片土地上渔猎耕作，繁衍生息。先秦时，商丘为宋国地界，汉代为梁国，以后称梁郡。唐代改为宋州。宋代开国皇帝赵匡胤发迹与此，国号因之为宋。北宋初期，商丘达到历史上的鼎盛时期，此后历代，商丘一直为州府治所。

　　1948年商丘解放后，商丘始建为县级市。1949年4月，撤消商丘市，将城关镇划归商丘县，在朱集镇建朱集市，为县级市。1950年5月，省政府将商丘县城关镇改为商丘市，为县级市，与朱集市同属商丘地区管辖。1951年8月，朱集市、商丘市合并，取消朱集市名称，定名为商丘市，为县级市，属商丘地区所辖。1958年12月，开封、商丘两专区合并，定名为开封专区。1960年8月，撤消商丘县，将其并入商丘市。1961年10月，恢复商丘县。至此，商丘县、市分置。1961年12月，开封、商丘两专区分开，恢复商丘专员公署名称，商丘市归其管辖。1968年1月商丘地区革命委员会成立，商丘市在其管辖范围内。1979年10月，取消革命委员会，设立商丘地区行政公署，商丘市作为商丘地区行政公署所在地。1997年7月11日，经国务院批准，商丘地区撤地建市，为地级市，原地区所辖县市归并商丘市，市区由梁园区及睢阳区组成，市人民政府所在地设在梁园区，2003年12月市人民政府又从梁园区迁驻睢阳区。