1856 yılında imzalanan Paris Antlaşması ile Osmanlı Devletinin Avrupa Devleti sayılmasının bir gereği olarak, Maarif Nezareti 1860 yılında kabul ettiği vilayet, liva ve kasabalarda Rüştiye Mekteplerinin açılması için emir vermiştir. O zamanlarda Isparta Livasının bağlı bulunduğu Konya Vilayetinin merkezinde ve diğer livalarında hiç bir teşebbüs yok iken Isparta Livası Kaymakamı Ali Necip Bey’in gayretleri ile şimdiki Milli Eğitim Müdürlüğünün bulunduğu binanın yeri istimlâk edilmiş, toplanan 135 bin kuruşla bir kütüphane, kışlık ve yazlık dershaneler ile 3 büyük salondan oluşan ahşap bir Rüştiye Mektebi binası yapılmaya başlanmıştır.Mektebin inşaatı 1.katı yığma taş, 2. katı kesme köfke, 3. katı da ahşap olarak 1861 yılında tamamlanmıştır. Büyük bir törenle açılışı yapılmıştır. Açılış tarihi bir taş kitabeye işlenerek binanın bir köşesine yerleştirilmiş, ancak; 1914’te meydana gelen büyük depremle hasır gören binanın 3. katının bazı köşeleri çatlamış ve yıkılmış olduğundan bu kat tamamen alınmıştır.

         Binanın tamir ve tadilatı esnasında açılışını belirleyen taş kitabe bu esnada kaybolmuştur. İlk Rüştiye Mektebi, şimdiki Cumhuriyet İlkokulunun yerinde Sadrazam Halil Hamit Paşa’nın annesi Ispartalı Hacı Zeynep için 1790 yılında yapılan İrfaniye Medresesinde, eğitim ve öğretime 1860’da başladı. Okulda Türkçe Resmi Kitabet, Farsça, Ahlak, Hesap, Hendese, Cebir, Tarih, Coğrafya dersleri okutuluyordu. Maarif nezaretinde  birinci muallimliğe Yalvaçlı Mehmet Necati Efendi, ikinci  muallimliğe, Bosnalı İbrahim Efendi tayin edilmişlerdi. 1870 ders yılında okulda okuyan öğrenci sayısında büyük artışlar meydana gelince 1871 yılında Müderrislerden, Müderris Girosunoğlu Osman Efendinin başkanlığında öğretmen ve halktan müteşekkil bir komisyon kurulmak Rüştiye okula alınacak öğrenciler için bir şartname hazırlanmıştır. Rüştiye Mektebinde 42 sene zarfında pek çok subay, adli ve mülki memur, profesör ve öğretmen yetişmiştir. Isparta Erkek Rüştiyesi 19 Ağustos 1902 tarihinde altı sınıflı Liva Lisesi olarak başlamış,1904 senesinde son sınıfı lağvedilerek beş sınıflı liseye dönüştürülmüştür. Müdürlüğüne de Sinoplu Mehmet Tevfik Bey getirilmiştir. Isparta İdadisi olarak varlığını 1925 yılına kadar sürdürmüş, Maarif Vekâletinde yapılan değişikler sonucu söz konusu tarihten itibaren Isparta Ortaokulu olmuştur.1927 yılından itibaren kız öğrenci alınmaya başlanmış, binanın yetersiz kalması sonucu 1928 yılında 2 lira harcanarak zemin katta iki oda ile tavan arası da imar edilerek dershane sayısı arttırılmıştır.Binanın yetersiz kalması sonucu 1930 senesinde okulun kuzey cephesindeki (şimdiki öğretmen evi) 5.183 m² alana 2.325 liraya istimlâk edilerek 4 dershaneli pavyon binasının inşaatına 1931’de başlanmış ve pavyon binası 14.831 lira harcanarak 1932 senesinde hizmete sunulmuştur.   

     1969 yılı eylül ayına kadar Ortaokul ve Lise birlikteyken bu tarihten itibaren ortaokulu Merkez Ortaokulu adı ile maruf binaya taşınması sonucu varlığını müstakil lise olarak sürdürmüştür. İlin tek lisesi oluşu nedeniyle öğrenci sayısının çok fazla artması sonucu 1981-1982 öğretim yılında çift öğretime geçmiştir.1988-1989 öğretim yılında ise Isparta ilinde yeni liselerin açılması sonucu yeniden normal eğitim ve öğretime geçilmiştir. Milli Eğitim Gençlik ve Spor Bakanlığının 22.11.1985 tarih ve 44249 sayılı olurları ile okulun adı “Isparta Lisesi” olmuştur. Daha sonra Milli Eğitim Bakanlığı Ortaöğretim Genel Müdürlüğü’nün 13.05.1992 tarih ve 11084 sayılı emirleri ile adı tekrar “Şehit Ali İhsan Kalmaz  Lisesi” olarak değiştirilmiştir. Milli Eğitim Bakanlığı’nın Anadolu Liseleri ile Yabancı Dil Ağırlıklı Liselerin (Süper Lise) kademeli olarak Anadolu Lisesi adıyla tek program altında birleştirilmesi kararıyla birlikte Bakanlığın 05.07.2005 tarih ve 7374 sayılı olurlarıyla 2005-2006 öğretim yılından itibaren  “Şehit Ali İhsan Kalmaz Anadolu Lisesi” adını almıştır.