Az ír származású, bevándorló szülők gyermeke tanulmányait szülővárosában Pozsonyban, majd Győrben, Bécsben és Rómában végezte. Filozófiát, jogot tanult, a rézmetszést gyakorolta, de a matematika és a fizika is érdekelte.

Bécsben tanult jogot és filozófiát, majd ugyanitt tisztviselőként kezdett el dolgozni. 1767-ben mint Bácska telepítési kormánybiztosa, betelepítette a néptelenné vált területeket, selyemgyárakat létesített, faluközösségeket szervezett. 1770 táján – elsőként a világon – beszélőgépeket szerkesztett, melyek a belenyomott levegőt az emberi hanghoz hasonló levegőrezgésekké alakították át. Az egyetlen megmaradt példány ma a müncheni Deutsches Museumban van. A beszédkeltő gép élethű, működő mása a Magyar Tudományos Akadémia Nyelvtudományi Intézetében, a Magyar kísérleti beszédkutatás című állandó kiállításon tekinthető meg (bejelentkezés: 06-1-3214830/172 mellék). Tanulmánya az emberi beszédről a modern fonetikai kutatások megalapozója (Mechanismus der menschlichen Sprache nebst der Beschreibung seiner sprechenden Maschine. Wien, 1791.).

Újabb találmánya volt a gőzkondenzátorral tervezett gőzgép, amelyet a bécsi Stubentornál állítottak fel. Buda vízellátásának javítására vízemelőt tervezett két szivattyúval. A Duna partján fúrt kutakból a mai Várbazár helyén felállított lóhajtásos szivattyúk húzták fel a vizet. Kempelen megszerkesztette a gőzturbina ősét és 1788-ban benyújtotta találmányát II. József császárhoz.

Másik híres találmánya a sakkozógép, melyet 1769-ben készített. A Török néven híressé vált gépben ugyan egy ember is el volt rejtve, de ez a találmány újszerűségéből keveset von le, hiszen az ember nem volt a közönség számára látható, hanem rafináltan elhelyezett tükrök és rések segítségével belülről tájékozódott. Ötvösként, költőként, íróként, és építészként is tevékenykedett (a budai vár egyes részeit ő építette újjá, ő tervezte a Várszínházat, a pozsonyi várban vízvezetékrendszert épített ki, és a schönbrunni szökőkutak is az ő alkotásai. Emellett nyomdai szedőládát, nyomtatógépet a vakok oktatásához és gőzgépet is készített. 1772-ben írógépet készített Paradis Teréz, a vak bécsi zongoraművésznő részére, mozgatható betegágyat épített a himlőben megbetegedett Mária Teréziának. Szegényen halt meg, mert I. Ferenc megszüntette támogatását, valószínűleg jakobinus kapcsolatai miatt.