Yapılış tarihi kesin olarak bilinmemektedir. Kentte askeri bir garnizon bulunduran Hititler tarafından yapıldığı sanılmaktadır. Ama bu düşünce arkeolojik verilere dayanarak doğrulanmamıştır. Hititlerden bu yana hep aynı yerde bulunan, Romalılar, Bizanslılar ve Selçuklular dönemlerinde birçok kez onarılan Ankara kalesi, tepenin yüksek bölümünü kaplayan iç kale ve çevresini kuşatan dış kaleden oluşur (dış kalenin 20′ye yakın kulesi vardır). Dış kale eski Ankara şehrini çevirir. İç kale yaklaşık 43.000 km2′lik bir yer kaplar. 14-16 m yüksekliğindeki duvarların üstünde çoğu 5 köşeli 42 kule vardır. Dış surları kuzey-güney doğrultusunda yaklaşık 350 m, batı-doğu doğrultusunda ise 180 m. boyunca uzanır. İçkalenin güney ve batı duvarları bir dik açı oluşturur. Doğu duvarı tepenin girinti çıkıntılarını izler.Kuzey yamaç ise farklı tekniklerle yapılmış duvarlarla korunur.Koruma düzeninin en ilgi çekici yanı; doğu,batı ve güney duvarları boyunca 15-20 m.’de bir yer alan 42 tane beşgen burçtur. Dışkale ile içkale,doğuda Doğukalesi’nde batıda hatip çayına bakan yamaçta birleşir. İçkale’nin güneydoğu köşesinde ise kalenin en yüksek yeri olan Akkale (Halk arasında Alitaşı)yer alır. Dört katlı olan iç kale Ankara taşından ve toplama taşlarla yapılmıştır. İç kalenin iki büyük kapısı vardır. Biri dış kapı, diğeri ise hisar kapısı adını taşır. Kapı üzerinde bir de İlhanlılar’a ait kitabe bulunur. Kuzeybatı kısmında Selçukluların yaptırdığını gösteren bir yazı bulunmaktadır. Duvarların alt bölümü mermer ve bazalttan yapılmıştır, üst kesimlerine doğru bloklar arasında tuğla bölümlerin büyük ölçüde zarar görmesine karşın, iç kale bozulmadan günümüze kadar gelmiştir. VIII ve IX.yy’larda kent istilalara uğrayınca, kaleyi hızla onarmak için, o sıralarda yıkıntı halinde olan Roma anıtlarının mermer blokları, sütun başlıkları, su yollarının mermer olukları kullanılmıştır. (bunlara özellikle iç kalenin güney yönünde rastlanır)

     Kale tarih içinde çeşitli dönemler yaşamıştır. İ.Ö. 2. yy. başında Romalıların Galatya’yı ( Ankara yöresi) işgalinden sonra kent büyüyerek kale dışına taştı. Roma İmparatoru Caracaila İ.S. 217′ de kalenin surlarını onarttı. 222 – 260 arasında İmparator Severus Alexander ve Velerianus, Perslere yenilince kale kısmen tahrip edildi. 7. yy ‘ ın 2. yarısından sonra Romalılar kaleyi onarmaya başladı. İmparator Konstantinos 688′de dışkaleyi yaptı. IV. Leon ise 740′ da kale duvarlarını onartırken içkale surlarını da yükselmiştir. İmparator Nikephoros ve İmparator Basileios da 9.yy’ da kaleyi onarttılar.

     Ankara Kalesi 1073′ de Selçukluların eline geçti. 1101′ de Haçlı komutanı Raimond tarafından alınan kale, 1227′ de bir kez daha Selçukluların eline geçti. Selçuklu Sultanı 1. Alaeddin Keykubat’ ın onarttığı kaleye Sultan II. Keykavus da 1249′da bazı ekler yaptırdı. Osmalılar döneminde onarım görmeyen kalenin surlarını Mısır Valisi M.Ali Paşa’ nın oğlu İbrahim Paşa 1832′ de onarttı. Surların bazı yerlerinde rastlanan sütun başlıkları, lahit ve heykel parçaları, onarımlarda toplama malzemeden yararlanıldığını gösterir.

     Bugün kale içindeki değişik dönemlerden kalmış birçok eski Ankara Evi bulunmaktadır. Kaleiçi Mahallesi’nde bulunan eski Ankara evleri, sur duvarları ile çevrili dar ve dik bir alanda konumlandıkları için, planları dar alanlardan en çok faydalanmayı gözeterek yapılmış. İki ya da üç katlı olarak ahşap, kerpiç ve tuğladan inşa edilmişler. Arazi yapısının düz olmaması, alt kat planlarının da düzgün olmamasına yol açmış, ama üst katlar cumba tipindeki çıkıntılarla düzgün bir plana kavuşturulmuş. Alt katlar kışlık olarak, kalın duvarlı ve küçük pencereli yapılmış, üst katlar ise yazlık olarak ince duvarlı ve havadar yapılmış. Geniş saçaklar ve “Cihannüma” denilen yazlık odalar Ankara evlerinin belirleyici özelliklerinden. Ahşap tavan süslemelerinde geometrik kompozisyonlar kullanılmıştır. Bazıları çeşitli hizmetlerde kullanılmaktadır. 17.yüzyılın ortasına doğru, 1640 yılında Ankara’ ya gelen Evliya Çelebi, kenti ve kentteki yaşamı ayrıntılı biçimde anlatmaktadır. Evliya Çelebi önce ünlü Ankara Kalesinden söz eder. “Ankara’nın yüksek bir dağın tepesine dört kat beyaz taştan yapılmış sağlam bir kalesi vardır. Kale iç içe üç kat surlarla çevrilidir. İç kalenin çevresi kayalıktır. Bu yalçın kayalardan kaleye tırmanmak çok zordur. İç kalede topları çeşitli silahlar, cephane ve 600 ev bulunur. İç Kale aşağılarda ikinci sıra surlarla çevrilidir. Dağın eteklerinde ise üçüncü sıra dış surlar yer alır. Bu dış surlarla tüm kent güvenlik altına alınmıştır.”