ทฤษฎีความอลวน (อังกฤษ: chaos theory) เป็นทฤษฎีที่อธิบายถึงลักษณะพฤติกรรมของระบบพลวัต (คือ ระบบที่มีการเปลี่ยนแปลง เช่น เปลี่ยนแปลงตามเวลาที่เปลี่ยนไป) โดยลักษณะการเปลี่ยนแปลงของระบบที่เรียกว่าเคออสนี้ จะมีลักษณะที่ปั่นป่วนจนดูคล้ายว่า การเปลี่ยนแปลงนั้นเป็นแบบสุ่มหรือไร้ระเบียบ (random/stochastic) แต่จริง ๆ แล้ว ระบบเคออสนี้เป็นระบบแบบไม่สุ่ม หรือระบบที่มีระเบียบ (deterministic)
ในทางคณิตศาสตร์และฟิสิกส์ คำจำกัดความของระบบเคออส คือ ระบบไม่เชิงเส้น (nonlinear system) ประเภทหนึ่ง ที่มีความไวต่อสภาวะเริ่มต้น กล่าวอีกนัยหนึ่งคือ ถ้าระบบ 2 ระบบนั้นเริ่มต้นจากสภาวะที่แตกต่างกันเพียงเล็กน้อย คือเกือบจะเหมือนกันทุกประการ เมื่อระบบได้มีการเปลี่ยนไปสักระยะหนึ่ง สภาวะของระบบทั้งสองที่เราสังเกตได้เมื่อเวลาผ่านไปจะแตกต่างกันอย่างสังเกตเห็นได้ชัด
เรามักจะได้ยินคำพูดที่นิยมพูดกันอย่างกว้างขวางที่ว่า "เด็ดดอกไม้สะเทือนถึงดวงดาว" หรือ "ผีเสื้อขยับปีกทำให้เกิดพายุ" (จาก "butterfly effect") ซึ่งมีคนจำนวนไม่น้อยที่ตีความคำพูดนี้ในลักษณะของขนาดความรุนแรงของผลลัพธ์เท่านั้น ระบบเคออสนั้นไม่จำเป็นจะต้องแตกต่างกันในแง่ของ ขนาด ของผลลัพธ์เสมอไป แต่อาจแตกต่างกันในแง่ของ พฤติกรรม การเปลี่ยนแปลงก็ได้ จากตัวอย่างข้างต้น การเปลี่ยนแปลงของระบบทั้งสองนั้นจะมีลักษณะที่คล้ายคลึงกันมากในขณะเริ่มต้น เมื่อเวลาผ่านไป การเปลี่ยนแปลงนั้นแทบจะเรียกได้ว่าไม่มีอะไรที่เหมือนกันเลย
จุดเริ่มต้นของทฤษฎีความอลวนนี้ สามารถสืบย้อนกลับไปได้ถึงในช่วงปี พ.ศ. 2443 (ค.ศ. 1900) จากการศึกษาปัญหาวงโคจรของวัตถุสามชิ้นในสนามแรงดึงดูดระหว่างกัน ซึ่งมีชื่อเรียกเป็นทางการว่า ปัญหาสามวัตถุ โดย อองรี ปวงกาเร ซึ่งได้ค้นพบว่า วงโคจรที่ศึกษานั้นอาจจะมีลักษณะที่ไม่ได้เป็นวงรอบ (periodic) คือไม่ได้มีทางวิ่งซ้ำเป็นวงรอบ ยิ่งไปกว่านั้น วงโคจรนั้นก็ไม่ได้ขยายวงออกไปเรื่อย ๆ หรือมีลักษณะที่ลู่เข้าหาจุดใด ๆ ต่อมาได้มีการศึกษาถึงปัญหาสมการเชิงอนุพันธ์ไม่เป็นเชิงเส้นที่เกี่ยวข้อง โดยที่ เบอร์คอฟ (G.D. Birkhoff) นั้นศึกษาปัญหาสามวัตถุ คอลโมโกรอฟ ศึกษาปัญหาความปั่นป่วน (หรือ เทอร์บิวเลนซ์) และปัญหาเกี่ยวกับดาราศาสตร์. ส่วน คาร์ทไรท์ (M.L. Cartwright) และ ลิตเติลวูด (J.E. Littlewood) นั้นศึกษาปัญหาทางวิศวกรรมการสื่อสารด้วยคลื่นวิทยุ สเมล (Stephen Smale) นั้นอาจเป็นนักคณิตศาสตร์คนแรก ที่ทำการศึกษาถึงปัญหาทางด้านพลศาสตร์ของระบบไม่เป็นเชิงเส้น ถึงแม้ว่าความอลวนของเส้นทางโคจรของดาว นั้นยังไม่ได้มีการทำการสังเกตบันทึกแต่อย่างใด แต่ก็ได้มีการสังเกตพบ พฤติกรรมความอลวนในความปั่นป่วนของการเคลื่อนที่ของของไหล และ ในการออสซิลเลท แบบไม่เป็นวงรอบของวงจรวิทยุ ซึ่งไม่มีทฤษฎีใดในขณะนั้นสามารถอธิบายพฤติกรรมเหล่านี้ได้
ความตื่นตัวในการพัฒนาทฤษฎีความอลวนนี้ เกิดขึ้นในช่วงกลางของศตวรรษที่ 20 เมื่อเป็นที่ประจักษ์ว่า ทฤษฎีของระบบเชิงเส้นนั้นไม่สามารถใช้อธิบายพฤติกรรมบางอย่าง แม้กระทั่งพฤติกรรมของระบบที่ไม่ซับซ้อนอย่าง แมพลอจิสติก (Logistic map) อีกปัจจัยหนึ่งที่ส่งผลให้พัฒนาการของทฤษฎีความอลวนเป็นไปอย่างรวดเร็วก็คือ คอมพิวเตอร์ การคำนวณในทฤษฎีความอลวนนั้น โดยส่วนใหญ่จะมีลักษณะคำนวณค่าแบบซ้ำ ๆ จากสูตรคณิตศาสตร์ และสามารถใช้คอมพิวเตอร์ช่วยในการคำนวณได้อย่างมีประสิทธิภาพ
เอ็ดเวิร์ด ลอเรนซ์ (Edward Lorenz) เป็นผู้ริเริ่มบุกเบิกทฤษฎีความอลวน เขาได้สังเกตพฤติกรรมความอลวน ในขณะทำการทดลองทางด้านการพยากรณ์อากาศ ในปี ค.ศ. 1961 ลอเรนซ์ใช้คอมพิวเตอร์ซิมูเลชันแบบจำลองสภาพอากาศ ซึ่งในการคำนวณครั้งถัดมาเขาไม่ต้องการเริ่มซิมูเลชันจากจุดเริ่มต้นใหม่ เพื่อประหยัดเวลาในการคำนวณ เขาจึงใช้ข้อมูลในการคำนวณก่อนหน้านี้เพื่อเป็นค่าเริ่มต้น ปรากฏว่าค่าที่คำนวณได้มีความแตกต่างไปจากเดิมอย่างสิ้นเชิง เขาพบว่าสาเหตุเกิดจากการปัดเศษ ของค่าที่พิมพ์ออกมา จากค่าที่ใช้ในคอมพิวเตอร์ ซึ่งมีค่าน้อยมาก แต่สามารถนำไปสู่ความแตกต่างอย่างมากมาย เรียกว่า ไวต่อสภาวะเริ่มต้น
คำ "butterfly effect" ซึ่งเป็นคำที่นิยมใช้เมื่อกล่าวถึงทฤษฎีความอลวน นั้นมีที่มาไม่ชัดเจน เริ่มปรากฏแพร่หลายหลังจากการบรรยายของ ลอเรนซ์ ในปี ค.ศ. 1972 ภายใต้ชื่อหัวข้อ "Does the Flap of a Butterfly's Wings in Brazil Set Off a Tornado in Texas?" นอกจากนี้แล้วยังอาจมีส่วนมาจาก รูปแนวโคจรของตัวดึงดูดลอเรนซ์ (ดังรูปด้านขวามือ) ที่มีรูปร่างคล้ายผีเสื้อ ซึ่งเขาได้ตีพิมพ์ในบทความวิชาการก่อนหน้านี้
