Okulumuz ilk olarak 1974 yılında okul koruma derneği tarafından yaptırılan binasında 1976-1977 öğretim yılında 115 öğrenci mevcuduyla eğitim öğretime başlamıştır. Dernek mülkiyetinde olan bina 28.08.1977 yılında bakanlığa devredilmiştir. Daha sonra binanın ihtiyaca cevap verememesinden dolayı mevcut binanın güney cephesine tamamen koruma derneği yöneticileri ve dönemin okul müdürlerinin çabaları ile ek bina inşa edilmiştir. 1984-1985 öğretim yılından itibaren devlet parasız yatılı öğrenci alımlarına başlanarak pansiyonlu okul olarak eğitim öğretime devam etmiştir.     

    2020-2021 Eğitim Öğretim yılında Millî Eğitim Bakanlığı Kurum Açma, Kapatma ve Ad Verme Yönetmeliği, Sivas Valiliğinin 06.10.2020 tarih ve 36835241-756.01.E.14244809 sayılı yazısıkararı ile Sivas ili Yıldızeli ilçesinde yapımı tamamlanan 16 derslikli öğretim binasında erkek öğrencilerin öğrenim göreceği  Anadolu İmam Hatip Lisesi ve okula bağlı 100 öğrenci kapasiteli  Devlet Parasız ve Paralı Yatılı Pansiyonu açılarak okulun Yıldızeli Anadolu İmam Hatip Lisesi olarak eğitim öğretime devam etmesi ve okul bünyesinde imam hatip ortaokulu açılması kararı alınmıştır.