ยะลาเดิมเป็นท้องที่หนึ่งของเมืองปัตตานี ในสมัยพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว (รัชกาลที่ 5) ได้มีการปรับปรุงการปกครองใหม่เป็นการปกครองแบบเทศาภิบาลและได้ออกประกาศข้อบังคับสำหรับปกครอง 7 หัวเมือง รัตนโกสินทรศก 120 ซึ่งประกอบด้วยเมืองปัตตานี หนองจิก ยะหริ่ง สายบุรี ยะลา ระแงะ และรามัน ในแต่ละเมืองจะแบ่งเขตการปกครองเป็นอำเภอ ตำบล และหมู่บ้าน ต่อมาในปี พ.ศ. 2447 ประกาศจัดตั้งมณฑลปัตตานีขึ้นดูแลหัวเมืองทั้ง 7 แทนมณฑลนครศรีธรรมราช และยุบเมืองเหลือ 4 เมือง ได้แก่ ปัตตานี ยะลา สายบุรี และระแงะ ต่อมา พ.ศ. 2450 เมืองยะลาแบ่งเขตการปกครองเป็น 2 อำเภอ ได้แก่อำเภอเมืองยะลาและอำเภอยะหา ต่อมา พ.ศ. 2475 ได้มีการยกเลิกมณฑลปัตตานี และในปี พ.ศ. 2476 เมืองยะลาได้รับการเปลี่ยนแปลงฐานะเป็นจังหวัดยะลาตามพระราชบัญญัติราชอาณาจักรสยาม พ.ศ. 2476 เรื่อง การจัดระเบียบราชการบริหารส่วนภูมิภาค ออกเป็นจังหวัด เป็นอำเภอ และให้มีข้าหลวงประจำจังหวัด และกรมการจังหวัดเป็นผู้บริหารราชการ
เหตุที่เรียกชื่อว่ายะลานั้นเพราะพระยาเมืองคนแรกได้ตั้งที่ทำการขึ้นที่บ้านยะลา คำว่า ยะลา (มาเลย์: Jala, ????) หรือสำเนียงภาษามลายูพื้นเมืองเรียกว่า ยาลอ (มาเลย์: Jalor, ?????) แปลว่า "แห" ซึ่งเป็นคำยืมมาจากภาษาบาลี-สันสกฤตว่า ชาละ หรือ ชาลี หมายถึง "แห" หรือ "ตาข่าย" มีภูเขาลูกหนึ่งในเขตอำเภอเมืองยะลามีลักษณะเหมือนแหจับปลา โดยผูกจอมแหแล้วถ่างตีนแหไปโดยรอบ ผู้คนจึงเรียกผู้เขานี้ว่า ยะลา หรือ ยาลอ แล้วนำมาตั้งนามเมือง
แต่ตามประวัติศาสตร์ซึ่งได้เขียนไว้ในสมัยเจ็ดหัวเมือง โดยเจ้าผู้ครองเมืองเดิมได้เขียนไว้เป็นประวัติศาสตร์เป็นภาษามลายูว่า “เมืองยะลา” เป็นสำเนียงภาษาอาหรับ โดยชาวอินโดนีเซียที่เข้ามาเผยแพร่ศาสนาอิสลามในบริเวณเจ็ดหัวเมืองซึ่งอยู่ในแหลมมลายูเป็นผู้ตั้งชื่อเมืองไว้
เมืองยะลาเดิมตั้งอยู่ใกล้ภูเขายาลอ ห่างจากที่ว่าการอำเภอเมืองยะลาปัจจุบันไปทางทิศตะวันตกประมาณ 12 กิโลเมตร ต่อมาเมืองยะลาได้ยกฐานะเป็นเมือง ๆ หนึ่งของบริเวณเจ็ดหัวเมือง คำว่าเมืองยะลาหรือยาลอ ยังคงเรียกกันจนถึงปัจจุบันนี้
ยะลาเป็นจังหวัดที่เทศบาลมีการจัดวางผังเมืองแบบใยแมงมุมที่สวยที่สุดของประเทศไทย และได้รับรางวัลชนะเลิศการประกวดความสะอาด 3 ปีซ้อนระหว่าง พ.ศ. 2528-2530 และได้รับการยกฐานะเป็นเทศบาลนครยะลา ในปี พ.ศ. 2538 ในปี พ.ศ. 2540 ได้รับการคัดเลือกจากองค์การอนามัยโลกให้เป็นเป็น 1 ใน 5 เมืองของประเทศไทย
และประชากรส่วนใหญ่เป็นชาวไทยเชื้อสายมลายูถึงร้อยละ 66.1 นอกจากนั้นก็จะมีชาวไทยพุทธ, ชาวไทยเชื้อสายจีน และชาวซาไก ซึ่งตั้งถิ่นฐานในเขตหมู่ 3 ตำบลบ้านแหร อำเภอธารโต แต่ปัจจุบันส่วนใหญ่ได้อพยพไปอยู่ในมาเลเซีย ด้วยเหตุผลด้านที่ทำกินและวิถีชีวิตที่ดีกว่า ประกอบกับเหตุผลด้านความไม่สงบ
จังหวัดยะลาเป็นหนึ่งในสี่จังหวัดของไทยที่ประชากรส่วนใหญ่นับถือศาสนาอิสลาม ร้อยละ 75.42 รองลงมาคือศาสนาพุทธร้อยละ 24.25 และศาสนาอื่น ๆ ร้อยละ 0.33 มีมัสยิดทั้งหมด 453 แห่ง, วัดในพุทธศาสนา 45 แห่ง, โบสถ์คริสต์ 6 แห่ง และคุรุดวาราศาสนาซิกข์ 1 แห่ง
อย่างไรก็ตามจังหวัดยะลาเป็นหนึ่งในสามจังหวัดชายแดนภาคใต้ที่มีสัดส่วนของผู้ที่นับถือศาสนาพุทธมากที่สุด