W roku 1532 przybywa do Rzymu i co się później okaże pozostanie w tym mieście do końca swoich dni. Dzięki swoje dobroci i radosnemu podejściu do życia szybko znalazł mieszkanie u pewnego florentczyka. Za wynajęcie mieszkania Filip uczy jego dzieci. Filip Neri obok swojej pracy wychowawcy podjął studia. Opiekował się chorymi i cierpiącymi po szpitalach.

Zgiełk miasta i olbrzymie zaangażowanie w pracę, osłabiało Filipa. Aby zregenerować swoje siły duchowe, Święty udawał się na modlitwę. Szczególną czcią otaczał Ducha Świętego. Na modlitwę udawał się zawsze do katakumb św. Sebastiana i właśnie w tym miejscu otrzymał wielki dar, mianowicie Stygmaty Ducha Świętego. Jest jedynym świętym posiadającym taki stygmat. Po siedemnastu latach pobytu w Rzymie Filip przyjmuje święcenia kapłańskie.