จังหวัดพิบูลสงคราม เป็น 1 ใน 4 จังหวัดที่ประเทศไทยได้ดินแดนคืนจากฝรั่งเศสในช่วง พ.ศ. 2484 โดยยกท้องที่การปกครองเสียมราฐขึ้นเป็นจังหวัด ภายหลังสงครามโลกครั้งที่ 2 ไทยต้องส่งดินแดนจังหวัดพิบูลสงครามคืนให้แก่ฝรั่งเศส ซึ่งปกครองประเทศกัมพูชาอยู่ในขณะนั้น ปัจจุบัน คือ จังหวัดเสียมราฐ จังหวัดอุดรมีชัย และจังหวัดบันเตียเมียนเจย ในประเทศกัมพูชา พื้นที่ของจังหวัดนี้เดิมอยู่ในมณฑลบูรพาในสมัยรัชกาลที่ 5 และตกอยู่ภายใต้ความปกครองของฝรั่งเศสเมื่อปี พ.ศ. 2450
ชื่อจังหวัดพิบูลสงครามนี้ตั้งขึ้นเพื่อเป็นเกียรติแก่จอมพลแปลก พิบูลสงคราม นายกรัฐมนตรีไทยในขณะนั้น ทั้งนี้ ยังปรากฏว่ามีการสร้างอนุสาวรีย์ไก่ขาวกางปีกซึ่งเป็นสัญลักษณ์ของจอมพลแปลกไว้เป็นอนุสรณ์ของจังหวัดนี้ เมื่อมีการกำหนดให้มีตราประจำจังหวัดทั่วประเทศ กรมศิลปากรก็ได้นำอนุสาวรีย์ดังกล่าวมาผูกเป็นรูปตราประจำจังหวัดไว้ด้วย ส่วนชื่ออำเภอต่าง ๆ ที่ตั้งขึ้นในทั้ง 4 จังหวัด ที่ได้คืนมาจากฝรั่งเศสนั้น ส่วนหนึ่งตั้งชื่อตามบุคคลที่มีบทบาทอย่างสูงในการรบสงครามอินโดจีน
อย่างไรก็ตาม ในการได้ดินแดนเสียมราฐคืนมาเป็นจังหวัดพิบูลสงครามนั้น นครวัด ยังคงอยู่ในเขตของฝรั่งเศส และปราสาทบันทายศรีแม้ตามเส้นแบ่งแดนจะอยู่ในเขตจังหวัดพิบูลสงคราม แต่ฝรั่งเศสได้ขอให้ขีดวงล้อมให้ดินแดนที่ตั้งของปราสาทบันทายศรี เป็นของฝรั่งเศสตามเดิม ทั้งนี้ ญี่ปุ่นซึ่งเป็นผู้ไกล่เกลี่ยได้เห็นชอบตามคำขอของฝรั่งเศส ปราสาททั้งสองจึงไม่อยู่ในเขตอธิปไตยของไทยในช่วงสงครามโลกครั้งที่ 2
เมื่อแรกตั้งจังหวัดนั้น ได้แบ่งการปกครองออกเป็น 6 อำเภอ ตามประกาศเรื่องตั้งอำเภอ ลงวันที่ 23 กรกฎาคม พุทธศักราช 2484 ดังนี้
หลังจากนั้นวันที่ 8 สิงหาคม พ.ศ. 2484 สภาผู้แทนราษฎรได้พิจารณาจัดตั้งศาลจังหวัด โดยคณะผู้สำเร็จราชการแทนพระองค์ ประกาศในราชกิจจานุเบกษา วันที่ 12 สิงหาคม พ.ศ. 2484 ต่อมาทางการได้ปรับปรุงเขตการปกครองจังหวัดพิบูลสงครามใหม่ โดยโอนท้องที่อำเภอจอมกระสานต์ จังหวัดพิบูลสงครามไปขึ้นจังหวัดนครจัมปาศักดิ์ และโอนท้องที่อำเภอศรีโสภณ และอำเภอสินธุสงครามชัย จังหวัดพระตะบอง มาขึ้นจังหวัดพิบูลสงครามแทนในเดือนธันวาคม ปีเดียวกัน
จังหวัดพิบูลสงครามจึงมีเขตการปกครองจนถึง พ.ศ. 2489 รวมทั้งสิ้น 7 อำเภอ คือ อำเภอไพรีระย่อเดช อำเภอกลันทบุรี อำเภอพรหมขันธ์ อำเภอเกรียงศักดิ์พิชิต อำเภอวารีแสน อำเภอศรีโสภณ และอำเภอสินธุสงครามชัย
ในระหว่างที่จังหวัดนี้อยู่ในการปกครองของประเทศไทย ได้มีการจัดการเลือกตั้งขึ้น 2 ครั้ง ครั้งแรกเมื่อ 6 มกราคม พ.ศ. 2489 นายประยูร อภัยวงศ์ได้เป็นส.ส. ของจังหวัดพิบูลสงครามและเมื่อเลือกตั้งเพิ่มเติมเมื่อ 5 สิงหาคม พ.ศ. 2489 ได้นายญาติ ไหวดี เป็น ส.ส.จังหวัดพิบูลสงครามเพิ่มเติม ก่อนจะคืนดินแดนดังกล่าวให้ฝรั่งเศส