Павлов родился 26 сентября 1849 года в Рязани в семье молодого священника, служившего в бедном приходе.
Павлов был первенцем. Его назвали простым народным именем - Иван. Это имя пользовалось большой любовью в семье Павловых: дед Павлова назвал им двух своих сыновей, братьев Петра - отца великого физиолога. Дед Ивана Петровича Павлова вышел из крестьян и был пономарем в селе Кривополянье, расположенном в 200 км от Рязани. Когда его дети подросли и их надо было учить, для них был один путь - в семинарию. По окончании семинарии все они сделались священниками, однако для двух из них эта карьера была недолговечной. Старший дядя Павлова - Иван, надев рясу, остался главным героем деревенских кулачных боев и за это вскоре был лишен духовного звания. Другой дядя - тоже Иван - вел себя совсем не по рангу:

закончив службу, он выходил на паперть и заводил с паствой вольнодумные разговоры. Его тоже лишили сана. Как видно, Павловы отличались неугомонными, своеобразными характерами. Павловы жили скромной и бедной жизнью. У них прочно установилась традиция, шедшая от предков-хлеборобов, - черпать дополнительные средства к существованию в земледельческом труде. Дети Петра Димитриевича Павлова принадлежали к разночинной интеллигенции; они воспитывались не в привилегированных учебных заведениях, а в семинарии, где в то время уже царили настроения протеста, где увлекались Писаревым и естествознанием, откуда семинаристы изгоняли тлетворный дух старой бурсы.