巴甫洛夫出生在俄羅斯的梁贊，父亲是东正教的一名牧师。[3]他剛開始是一位神學院的學生，但後來退出，1870年進入聖彼得堡大學學習自然科學。[4]在1879年得到博士學位。大学毕业时，获金质奖章。后在德国学习两年。
一隻巴甫洛夫的狗，巴甫洛夫博物館，2005年
在1890年代，巴甫洛夫研究了狗的胃，透過唾腺來研究在不同條件下對食物的唾液分泌。他注意到狗在食物送進嘴裡之前便開始分泌口水，並開始研究這個他所稱的"靈魂分泌液"。他認為這些現象比起唾液的化學成分更加有趣，於是便改變了他的研究焦點。以調整食物出現之前的刺激來開始一連串的實驗。因此建立了他所稱的条件反射（如唾液分泌受動物先前的經驗而制約）。這些實驗在1890年代和1900年代透過翻譯被介紹到西方科學界，但直到1927年才有完整的英文書籍出版。
巴甫洛夫是一位在工作和習慣上非常規律的實驗操作者，他準時地在12點整吃午餐、每天晚上準時在同樣的時間睡覺、每天準時餵他的狗，並且每年的同一天離開列寧格勒（聖彼得堡）前往愛沙尼亞。如此的習慣直到他因為他的兒子維克多（Victor）在俄羅斯白軍運動中過世而失眠為止。
不同於許多革命前的俄國科学家，巴甫洛夫受到苏联政府的高度認可，且能够继续他的研究直到相當大的年紀。 巴甫洛夫承認本身並不熱衷於马克思主义，但由於诺贝尔奖得獎者的身分，被視為有價值的政治資產。當他在1923年從第一次美國訪問歸國之後（第二次在1929年），他公然指責共產主義，認為國際馬克思主義的思想基礎是錯誤的，並說「我不會為了你們所做的社會實驗犧牲一隻青蛙的後腿！」。1927年，巴甫洛夫更是寫信給斯大林，稱他是「俄國人的恥辱」。 1934年謝爾蓋·基洛夫被謀殺後，巴甫洛夫寫了幾封信給莫洛托夫，批評這樣的迫害，並希望重新考慮關於幾個他所認識的人的案件[5]。
晚年巴甫洛夫試著用制約理論去建立關於誘發神經官能症的實驗模型。1936年在列寧格勒過世，他的實驗室受到安全的保存。直到死前巴甫洛夫依然神志清醒，且繼續他的研究。他要求一位學生坐在他的床邊紀錄他邁向死亡的詳細情形，想要建立關於他生命最後一段時間的主觀經驗的獨特證明。[6]
1936年2月27日，巴甫洛夫因双肺炎去世，享年86岁。人们为他举行了隆重的葬礼，为了纪念他，他的实验室被当做博物馆保存了下来。[5]