Yeşilhisar in kurulusu kesin olarak bilinmemekle beraber, tarihlerin kaydedebildiği zamanlarda Hititlerle meskun olduğu bilinmektedir. Hititlerden sonra Perslerin , M.Ö.3500 yıllarında da İskender in emrine geçmiştir. Pers Komutanı Orgüs Oktav, Komutan ve ünlü hatip Ciceron'u Kapadokya meselesini halletmek üzere buraya göndermiştir. Böylece M.Ö. 317 yılında bu bölge Roma İmparatorluğu'nun hakimiyetine geçmiştir. Kapadokya bölgesinin sekiz büyük şehri içinde adı geçen KBISTRA veya SiYiERA bugünkü YEŞİLHİSAR'dır .

M.Ö. 256 yılında Iran in , sonra tekrar Bizans İmparatorluğu'nun hakimiyetine giren Kbistra, 672 yılında Battal Gazi'nin fethi ile ilk defa Müslümanların eline geçmiştir. M.S. 20 yılında Yeşilhisar, Romalılar'ın eline geçti. Adi KUViSTRA olarak değiştirildi. Halk 313 yılında ilan edilen Milano Fermanı'na kadar, Roma döneminin zulmünden çok çekti.

İmparatorun Hıristiyanlığı kabulü ile birlikte Yeşilhisar, Ürgüp un Göreme'siyle birlikte önemli bir dini merkez haline geldi.

Roma Kralı I. Teodesyos, imparatorluğu iki oğlu arasında paylaştırınca Yeşilhisar, Bizans in hissesine düştü ve doğrudan İstanbul'a (Kostantinapolis) bağlandı. Halen Yeşilhisar da bu doneme ait yazılı taslara ve diğer tarihi eşyalara rastlanmaktadır. Yeşilhisar zaman içerisinde iki defa daha Bizans hakimiyetine girmişse de önce Abbasi'ler sonra Danişment'ler tarafından geri alınmıştır. 1114 yılında Selçuklular'a, sonra Ilhanlilar'a, daha sonra da 1324 yılında Melik Ertana Devleti'ne geçmiştir. Sultan Alparslan; Malazgirt'te Bizans İmparatoru Romen Diojen i büyük bir yenilgiye uğratınca bütün Anadolu ile birlikte Yeşilhisar da Selçuklular'ın eline geçti. Bu donemde Yeşilhisar, Develi Karahisar olarak anıldı. Karahisar anlamına gelen Zencibar in Türkçe ye tercüme edilmesi ve Derevliye'nin Develi seklinde okunmasıyla bu isim elde edilmiştir. Ayrıca, yol üzerinde bulunması, halkın devecilik ve kervancılıkla uğraşması da bu ismin verilmesinde etkili oldu. Bu tarihe kadar irk, dil, sanat ve kültür açısından tarihin akışına uyarak, galip tarafın hüküm ve etkisi altında kalmış olan yerli halk 1071 tarihinden itibaren Müslüman olup Türkçe konuşmaya başladı; sanat ve kültür bakımından da tamamen doğuya bağlandı. Bir sure Karamanoğulları egemenliğine giren Yeşilhisar (Karahisar) Yıldırım Beyazıt zamanında Osmanlılar'ın hakimiyetine geçmiş fakat Timur'un Anadolu'yu istilası ile tekrar Karamanoğulları'nın hakimiyetine girmiştir. Osmanlı döneminde Yeşilhisar'ı yöneten Karamanoğlu Ahmet Bey buraya çok hizmet etti. Şehrin güneyindeki Dündarlı Suyu'nun Yeşilhisar Ovası'na dökülmesini sağlayarak kendi adıyla anılan Karamanoğlu Hark ini açtı. Şehrin batısında da Karaman Yolu'nu inşa etti.

Bu donemde Yeşilhisar'dan Osmanlı sarayına damat olarak giren Hamza Paşa devlet hizmetinde büyük yararlılıklar gösterdi. Hamza Pasa 1724 yılında Yeşilhisar da doğdu, 1740 yılında İstanbul a giderek Saray da Silahtarlığa ve daha sonra da Vezir-i Azamlığa kadar yükseldi. İlçede onun adini taşıyan tarihi bir cami halen ibadete açıktır. Karamanoğlu Ahmet Bey in 1463 yılında ölümünden sonra Fatih Sultan Mehmet, bu beyliği ortadan kaldırıp Yeşilhisar'ı Cem Sultan'ın kardeşi Sultan Mustafa'ya verdi. Ayrıca ordunun değerli komutanlarından biri olan Karacabey, konaklama sırasında vefat etmiş ve kendisi Köşk Tekkesi diye anılan makama defnedilmişti. Bugün Karacabey adi ile anılan mahalleye bu isim, o büyük komutandan dolayı verilmiştir. Damat İbrahim Pasa, doğum yeri olan Muskara Koyu'nun Nevşehir yapmak için etrafta bulunan önemli merkezlerin askeri ve mali güçlerini ferman ile Nevşehir'e kaldırırken Yeşilhisar'in Zencibar kalesinde mevcut olan 39.000 akçe tımar ile otuz üç neferlik muhafız birliğini de Nevşehir e götürdü. O tarihten sonra Yeşilhisar eski önemini kaybetti. Osmanlı döneminde Yeşilhisar da fıkıh, tasavvuf, felsefe ve edebiyat alanlarında unlu kişiler yetişmiştir. Koyunlu Baba, Mir atı Dede, Kocabeyoğlu Hacı Ali Rıza, Koçum-zade Mehmet Efendi ve Ömer Gulşani Dede bunlardan bazılarıdır. Osmanlı Padişahlarından III. Mustafa zamanına kadar Karaman Eyalet inin Niğde Sancağı'na bağlı bir kaza merkezi olan Yeşilhisar 1856 yılında Nahiye olarak Kayseri ye, 1902 yılında İncesu İlçesi'ne bağlandı.

O zamana kadar Develi Karahisar adıyla anılırken isim benzerliği olan yerlerle karıştığı için 1945 yılında Yeşilhisar olarak değiştirildi. 1945 yılında yapılan müracaatla Kayseri ye bağlanan Yeşilhisar, 11.06.1947 tarih ve 5071 sayılı kanun ile ilce olmuştur.

İlçe nüfusu 2000 yılı nüfus sayımına göre merkezde 14.099, köylerde 11.114 toplamda ise 25.243 kişi barınmaktadır. Halkın yüzde 75 i tarım ve hayvancılıkla uğraşırken yüzde 25 i de diğer mesleklere yönelmişlerdir. İlçemizde okuma yazma oranı erkeklerde yüzde 90, kadınlarda yüzde 70 düzeyindedir.

İlçede kullanılan tarım arazisinin yaslı olması ve sulama suyunun yetersizliği tarım maliyetini yükseltmiştir. Bu durum, 1970 li yıllardan itibaren eğitim oranının da yükselmesi ile halkın ilce dışına göç etmesine sebep olmuştur. Periyodik nüfus sayımlarındaki oranların düşüşü bunu açıkça göstermektedir.

Eğitim düzeyi Türkiye ortalamasına yakındır. 20 okulda 3.530 öğrenci öğrenim görmektedir. İlköğretim cağındaki tüm çocuklarımıza eğitim olanağı sağlanmış durumdadır. Derslik basına merkez ilköğretim okullarında 36, köy ilköğretim okullarında 23, lise ve dengi okullarda 14 öğrenci düşmektedir. İlce genelinde 20 öğrenciye 1 öğretmen düşmektedir.

Yeşilhisar, eğitim yönünden tarihin her döneminde ileridedir. Tarihçesinden de anlaşılacağı üzere asırlardır pek çok milletin ikametgahı olmuştur. Özellikle 1960 li yıllardan sonra okullaşma şayisi artmış, halen; 6 ilköğretim okulu, 4 lise ve dengi okul vardır.

Köylerimizde ise 8 köy haricinde her köyde ilköğretim okulu bulunmakta, diğer köylerde öğrenci şayisinin yetersizliği nedeniyle merkeze taşımalı eğitim yapılmaktadır.

Cumhuriyet ten sonra her gecen gün eğitim seviyesi her gecen gün yükselen ilçemizde, okuma yazma oranı erkeklerde yüzde 90, kadınlarda ise yüzde 70 seviyesindedir.

İlçemiz kültür bakımında tipik orta Anadolu kültürüne sahiptir. Mahalli geleneklerde Anadolu da görülenlerden ayrıntılar dışında farklılık göstermez. Geleneksel el sanatları, gelinlik kızların çeyiz hazırlıkları, halıcılık, özellikle Soğanlı koyun de bez bebek yapımı halkın geçim kaynağı durumuna gelmiştir.

Eskiden halk deyimi ile "ıstar" denilen tezgahlarda hali kilim ve namazlık gibi dokumacılık yaygın iken maliyet ucuzluğu nedeniyle hazır fabrika dokumasına yonelinmis, bunun sonucu olarak da sanat değeri yüksek dokumacılıktan uzaklaşılmıştır.