Ce n'est pas Rome qui a "hérité" de l'autorité de saint Pierre, mais les successeurs de saint Pierre. Saint Pierre est mort à Rome, et c'est là que le pape Saint Linus lui a succédé. Le pape reste le pape, quel que soit l'endroit où il se trouve. Il fut un temps où les papes valides étaient en poste à Avignon, en France.

C'est à Rome que le successeur de saint Pierre est traditionnellement évêque, car c'est là que sont morts les saints Pierre et Paul, et c'est historiquement là que le pape s'est presque toujours trouvé (à l'exception des années d'Avignon). Les premiers Pères de l'Église faisaient souvent référence au pape saint Linus comme succédant à Pierre à Rome. Les évêques d'Antioche et de Jérusalem ne peuvent prétendre avoir succédé à saint Pierre, car ce dernier était toujours actif après avoir quitté ces villes.

Les évêques de Rome étaient considérés comme la haute autorité de l'Église primitive, comme en témoigne la lettre du pape Clément à Corinthe, dans laquelle il ne doute pas d'avoir le pouvoir d'intervenir dans le conflit de l'Église locale. Au troisième siècle, saint Cyprien n'hésitait pas à parler de Rome comme de la chaire de Pierre et de "l'Église principale".