巨野，古系沼泽之地，因古有大野泽而得名。早在原始社会，就有氏族部落聚居。伏羲氏族曾在大野泽“农耕渔猎”。西汉前，就已有“桑麻之业”。巨野县设置于西汉初，唐武德四年置麟州，故巨野又称麟州,至今有两千余年历史。夏商时期，巨野地属徐州北境；西周至春秋为鲁国西境，是鲁哀公西狩获麟之地；战国时属宋，后改属齐国；秦属砀郡；汉至三国时期属山阳郡；晋至南北朝为高平郡；隋朝时期，巨野分属郓州、曹州和金乡县；唐至五代属河南道郓州；宋归属济州；元明时属济宁府、兖州府；清雍正十三年改属曹州府；民国十七年为山东省直属县。
1949年8月20日，平原省人民政府成立。巨野县隶属平原省湖西专区。1949年9月，巨南、郓巨两县撤销。1952年12月撤销平原省，巨野县隶属山东省湖西专区。1953年7月20日（县志一说1953年8月20日），撤销湖西专区，巨野县改属山东省菏泽专署。1958年10月，撤销菏泽专署，巨野县改属济宁专署。1959年6月，恢复菏泽专署，巨野县复属菏泽专署。1967年至1977年，巨野县属菏泽地区“革命委员会”所辖。1978年，撤销各级“革命委员会”，巨野县改属菏泽地区行政公署。2000年6月23日，设立地级菏泽市。巨野县属菏泽市管辖。
