È probabile che la chiesa sia stata fondata nella zona extraurbana del cimitero romano, a poca distanza di tempo dal martirio di Severino Boezio nel 525, le cui spoglie vi dovettero essere traslate assai presto. Di certo sappiamo che a Pavia una basilica di San Pietro apostolo, citata da Paolo Diacono, esisteva nel 604, ma non ne conosciamo le forme né l’ubicazione precisa.
Tra il 723 e il 725 il re longobardo Liutprando rinnovò la basilica, detta allora“in cielo aureo” forse per un soffitto ligneo dorato o per un mosaico absidale a fondo oro, e vi collocò con tutti gli onori, in una cassetta d’argento, il corpo di Sant’Agostino che aveva fatto trasportare dalla Sardegna a Pavia capitale del regno. Lo affidò alle cure di una comunità monastica benedettina, istituita in San Pietro in ciel d’oro, dove lo stesso re ebbe poi la propria sepoltura (oggi ricordata da un’epigrafe nel pilastro sud occidentale che regge la cupola).
A sua volta Carlo Magno diede impulso a una scuola di studi superiori ospitata nel monastero, nella quale nell’825 quasi certamente insegnò il monaco irlandese Dungallo. Si trattava di una scuola di grammatica e di retorica ad altissimo livello: vi si conservavano e copiavano codici antichi, primo nucleo della biblioteca che fiorì per secoli presso il monastero (in età moderna saccheggiata fino alla completa dispersione).
Papi e imperatori concessero donazioni e privilegi che tra l’VIII e il XIV secolo ne fecero uno dei più potenti e significativi centri culturali e religiosi del Medioevo europeo.
Vi furono ospitati importanti personaggi come San Maiolo e l’imperatore Enrico II. Accanto ai santi anche i principi vi trovarono sepoltura, da Liutprando a Galeazzo II Visconti e al figlio Gian Galeazzo.