K nejpalčivějším problémům jeho pontifikátu patřilo vyrovnání se s Langobardy ohrožujícími Řím a epidemií moru. Zvolen papežem byl 26. 11. 579 bez císařova potvrzení. Řím byl právě v obležení Langobardů. Byzantinci ani Frankové nebyli příliš ochotni papeži pomoci. Ke sporu s Byzantinci také přispěl fakt, že konstantinopolský patriarcha Jan začal používat titul ekumenický patriarcha, proti čemuž se Pelagius II. postavil a zakázal to.