ชื่อมาจากหน่วยเงินของอินเดีย รูปี อินโดนีเซียได้ใช้เงินกิลเดอร์ดัตช์ระหว่าง พ.ศ. 2153 ถึง พ.ศ. 2360 ซึ่งมีการออกเงินกิลเดอร์อินเดียตะวันออก เงินรูเปียะฮ์ออกใช้เป็นครั้งแรกระหว่างการยึดครองของญี่ปุ่นสมัยสงครามโลกครั้งที่ 2 และหลังจากสงครามสิ้นสุดลง ธนาคารชวาได้ออก รูเปียะฮ์ชวา มาแทนที่ชั่วคราว กิลเดอร์นีกา (NICA gulden) ของประเทศเนเธอร์แลนด์ และหน่วยเงินต่าง ๆ ที่เกี่ยวข้องกับกองกำลังโจรก็ใช้กันทั่วหมู่เกาะด้วยเช่นกัน
4 ปีหลังจากประกาศเอกราช ได้มีการนำรูเปียะฮ์อินโดนีเซียออกมาใช้ในวันที่ 2 พฤศจิกายน พ.ศ. 2492 เป็นหน่วยเงินประจำชาติสกุลใหม่ หมู่เกาะเรียว และเกาะนิวกินีประเทศอินโดนีเซีย (อีเรียนบารัต) ก็มีการออกรูเปียะฮ์ของตัวเองเช่นกัน แต่ต่อมาได้รวมเข้ากับรูเปียะฮ์ของชาติเมื่อ พ.ศ. 2507 และ พ.ศ. 2514 ตามลำดับ หลังจากที่มีการลดค่าจากภาวะเงินเฟ้ออย่างรุนแรง ในวันที่ 13 ธันวาคม พ.ศ. 2508 ได้มีการออกรูเปียะฮ์ใหม่ (New Rupiah) โดยมีอัตราแลกเปลี่ยน 1000 รูเปียะฮ์เก่า เป็น 1 รูเปียะฮ์ใหม่
วิกฤตเศรษฐกิจในเอเชียเมื่อ พ.ศ. 2540 ทำให้เกิดการลดค่ารูเปียะฮ์ถึงร้อยละ 35 ในช่วงเวลาเพียงข้ามคืน และนำไปสู่การโค่นล้มซูฮาร์โต
เงินรูเปียะฮ์สามารถแลกได้อย่างอิสระ แต่มีอัตราแลกเปลี่ยนมีค่าปรับเพิ่มเติม เนื่องจากภาวะเงินเฟ้อสูงอย่างต่อเนื่อง ในเดือนกันยายน พ.ศ. 2547, 1 ดอลลาร์สหรัฐ เท่ากับประมาณ 9,230 รูเปียะฮ์
