จังหวัดนครจัมปาศักดิ์ เป็น 1 ใน 4 จังหวัดที่ประเทศไทยได้ดินแดนคืนจากฝรั่งเศสในช่วง พ.ศ. 2484 โดยยกท้องที่การปกครองเมืองจำปาศักดิ์ ซึ่งเดิมขึ้นอยู่กับมณฑลอุบลราชธานีในสมัยรัชกาลที่ 5 และตกอยู่ภายใต้การปกครองของฝรั่งเศสเมื่อปี พ.ศ. 2447 ขึ้นเป็นจังหวัด ภายหลังสงครามโลกครั้งที่ 2 ไทยต้องส่งดินแดนดังกล่าวให้แก่ฝรั่งเศส ซึ่งปกครองประเทศลาวในขณะนั้น ภายหลังเมื่อประเทศลาวได้รับเอกราชจากฝรั่งเศสแล้ว พื้นที่ดังกล่าวจึงได้ยกขึ้นเป็นแขวงจำปาสักของลาวในปัจจุบัน
อนึ่ง พื้นที่ของจังหวัดนี้ยังกินอาณาบริเวณพื้นที่ส่วนหนึ่งของจังหวัดสตึงแตรง และพื้นที่ส่วนใหญ่ของจังหวัดพระวิหาร ในประเทศกัมพูชาในปัจจุบันนี้ด้วย
กรมศิลปากรได้กำหนดให้จังหวัดจัมปาศักดิ์ใช้ตราประจำจังหวัดเป็นรูปปราสาทวัดภู อันเป็นโบราณสถานสำคัญของเมืองจำปาสัก อย่างไรก็ตาม ในหนังสือตราประจำจังหวัดของกรมศิลปากร พิมพ์เมื่อ พ.ศ. 2542 ไม่ได้ลงพิมพ์รูปตราดังกล่าวไว้ด้วย
เมื่อแรกตั้งจังหวัดนั้น ได้แบ่งการปกครองออกเป็น 6 อำเภอ ตามประกาศเรื่องตั้งอำเภอ ลงวันที่ 23 กรกฎาคม พุทธศักราช 2484 ดังนี้
หลังจากนั้นวันที่ 8 สิงหาคม พ.ศ. 2484 สภาผู้แทนราษฎรได้พิจารณาจัดตั้งศาลจังหวัด โดยคณะผู้สำเร็จราชการแทนพระองค์ ประกาศในราชกิจจานุเบกษา วันที่ 12 สิงหาคม พ.ศ. 2484 ต่อมาทางการได้ปรับปรุงเขตการปกครองจังหวัดนครจัมปาศักดิ์ใหม่ โดยโอนท้องที่อำเภอจอมกระสานต์ จังหวัดพิบูลสงคราม มาขึ้นจังหวัดนครจัมปาศักดิ์ ทำให้จังหวัดนครจัมปาศักดิ์มีเขตการปกครองจนถึง พ.ศ. 2489 รวมทั้งสิ้น 6 อำเภอ คือ อำเภอเมืองนครจัมปาศักดิ์ อำเภอวรรณไวทยากร อำเภอธาราบริวัตร อำเภอมะโนไพร อำเภอจอมกระสานติ์ และกิ่งอำเภอโพนทอง
อนึ่ง ทางราชการได้คืนฐานะให้เจ้ายุติธรรมธร (หยุย ณ จำปาศักดิ์) อดีตเจ้าผู้ครองนครจำปาสักก่อนที่จะตกเป็นเมืองขึ้นของฝรั่งเศส ให้มีฐานะเป็นเจ้าผู้ครองนครอีกครั้งหนึ่ง (แทนการแต่งตั้งผู้ว่าราชการจังหวัด) พระองค์ได้อยู่ในตำแหน่งดังกล่าวจนถึงแก่พิราลัยเมื่อวันที่ 2 มีนาคม พ.ศ. 2489
ชื่ออำเภอต่างๆ ที่ตั้งขึ้นในทั้ง 4 จังหวัด ที่ได้คืนมาจากฝรั่งเศสนั้น ส่วนหนึ่งตั้งชื่อตามบุคคลที่มีบทบาทอย่างสูงในสงครามอินโดจีน เฉพาะจังหวัดนครจัมปาศักดิ์ มีชื่ออำเภอลักษณะดังกล่าว 1 อำเภอ คือ อำเภอวรรณไวทยากร ซึ่งตั้งตามพระนามของพระเจ้าวรวงศ์เธอ พระองค์เจ้าวรรณไวทยากร กรมหมื่นนราธิปพงศ์ประพันธ์ ที่ปรึกษาสำนักนายกรัฐมนตรีและกระทรวงการต่างประเทศ และหัวหน้าคณะผู้แทนเจรจาสันติภาพฝ่ายไทยในกรณีพิพาทอินโดจีน