Tekoälyn juuret ulottuvat kauas ennen alan varsinaista perustamista. Jo vuonna 1726 Jonathan Swift kuvasi romaanissaan Gulliverin retket kuvitteellista konetta, joka pystyi tuottamaan tekstiä yhdistämällä sanoja eri järjestyksiin. 1800-luvulla Ada Lovelace kirjoitti Charles Babbagen analyyttisesta koneesta huomioita, joita pidetään ensimmäisenä tietokoneohjelmana. Lovelace kuitenkin väitti, ettei kone voi "luoda mitään omaperäistä". Vuonna 1914 espanjalainen insinööri Leonardo Torres y Quevedo esitteli ensimmäisen shakkia pelaavan koneen El Ajedrecistan. Vuonna 1943 McCulloch ja Pitts julkaisivat artikkelin, joka esitti aivojen toiminnan laskennallisena järjestelmänä ja loi pohjan keinotekoisille neuroverkoille.

Alan varsinaisena lähtökohtana pidetään vuoden 1956 Dartmouthin konferenssia, jossa termi "tekoäly" otettiin käyttöön. Tätä edelsi Alan Turingin vuoden 1950 artikkeli, jossa hän esitti kuuluisan Turingin testin koneiden älykkyyden arvioimiseksi. Varhaisvuosikymmeninä kehitettiin merkittäviä järjestelmiä: Rosenblatin Perceptron (1957) oli varhainen neuroverkko, ELIZA (1965) simuloi ihmiskeskustelua ja DENDRAL oli ensimmäinen asiantuntijajärjestelmä. Vuonna 1973 Lighthillin raportti kritisoi alan edistymättömyyttä, mikä johti rahoituksen vähenemiseen ja ensimmäiseen tekoälytalveen. Toinen taantuma seurasi 1980-luvun puolivälissä. Ratkaiseva käännekohta oli vuoden 1986 backpropagation-algoritmin julkaisu, joka mahdollisti monikerroksisten neuroverkkojen tehokkaan kouluttamisen ja loi perustan 2000-luvun syväoppimisen vallankumoukselle.