Toscano de nascimento, João havia sucedido ao Papa Hormisda em 15 de agosto de 523. Há quem o identifique com o João Diácono, autor de uma Epístola ad Senarium, importante pela história da liturgia batismal, porque é talvez o único documento que ateste a tradição da Igreja Romana de erigir e consagrar no sábado santo sete altares e de derramar no cálice uma mistura de leite e mel. João Diácono é reconhecido também como autor do tratado A Fé Católica, transmitido pelos antigos entre as obras de Severino Boécio.
Quando o filho de Constâncio se tornou Papa, há apenas cinco anos, Hormisda e o Imperador Justino, tio de Justiniano, tinham feito cessar o cisma entre Roma e Constantinopla, estourado em 484 pelo Henoticon do Imperador Zenão, que havia tentado um impossível compromisso entre católicos e monofisitas. Como a jogada obtivera também interessantes resultados políticos e os Godos eram Arianos, lá pelo fim de 524, Justino publicou um Edito com o qual ordenava o fechamento das Igrejas de Constantinopla e a exclusão dos hereges de toda a função civil e militar. O Rei Ariano Teodorico então obrigou o Papa João I a ir a Constantinopla para solicitar do Imperador a renovação do decreto: as manifestações de atenção foram excepcionais: 15.000 saíram-lhe ao encontro com círios e cruzes e o Papa presidiu as solenes funções do Natal e da Páscoa.
Justino aderiu ao pedido de restituir aos arianos as igrejas confiscadas, mas insistiu na privação dos direitos dos arianos convertidos ao catolicismo que novamente se tornassem arianos. Lançado na prisão em Ravena, o Papa João I ali morreu aos 18 de maio de 526.
Ó Deus, recompensa dos justos, que consagrastes este dia com o martírio do Papa João I, ouvi as preces do vosso povo e concedei que, celebrando seus méritos, imitemos sua constância na fé. Por nosso Senhor Jesus Cristo, vosso Filho, na unidade do Espírito Santo. Amém.