Pavlov egy falusi lelkész legidősebb fiaként, és egy sekrestyés unokájaként látta meg a napvilágot 1849-ben. Gyermekkorát Rjazanyban töltötte. Szülei előbb a templomi iskolába, majd papneveldébe járatták, ahol teljesen lenyűgözte az az elhivatottság, melyet tanárai mutattak a tudományok iránt. 1870-ben azonban félbehagyta teológiai tanulmányait, és beiratkozott a Szentpétervári Egyetem kémia-élettan szakára. Doktori disszertációját 1883-ban készítette el, majd 1886-ig Németországban kutatott – Lipcsében a szív- és érrendszert tanulmányozó fiziológus, Carl Ludwig mellett, Breslauban pedig a gyomor- és bélrendszer iránt érdeklődő Rudolf Heidenhain irányítása alatt. Első önálló kutatásában a keringési rendszert vizsgálta, majd 1888 és 1890 között Szentpétervárott a szív élettanát és a vérnyomás-szabályozást tanulmányozta. Olyannyira tehetséges sebésszé vált, hogy képes volt például fájdalommentesen, érzéstelenítés nélkül katétert helyezni egy kutya combcsonti artériájába.

1890-ben az Orvosi Akadémia élettan professzorává nevezték ki, ahol egészen az 1924-es lemondásáig dolgozott. Kiállt amellett, hogy az újonnan alapított Kísérleti Orvostani Intézetben az állatok szakszerű műtéti eljárásban részesüljenek, és felhívta a figyelmet az operáció utáni gondozás és egészségmegőrzés fontosságára is.

1890 és 1900 között az emésztés szekréciós folyamatát tanulmányozta. Olyan műtéti eljárást dolgozott ki, melynek során egy úgynevezett miniatűr gyomrot lehet létrehozni, vagyis el lehet különíteni a gyomrot az elfogyasztott tápláléktól úgy, hogy idegi ellátása továbbra is biztosított legyen. Ilyen módon végigkísérhette egy állat emésztését. Az emésztőmirigyekről szerzett tapasztalatait az 1897-ben megjelent, Лекции о работе главных пищеварительных желез (Előadások a fő emésztőrendszeri mirigyek működéséről) című könyvében összegezte. 1904-ben orvosi Nobel-díjat kapott az emésztőrendszerrel kapcsolatos kutatásaiért.