Nasceu no dia 25 de Novembro de 1881 em Sotto il Monte, diocese e província de Bérgamo (Itália), e nesse mesmo dia foi baptizado com o nome de Angelo Giuseppe; foi o quarto de treze irmãos, nascidos numa família de camponeses e de tipo patriarcal. Ao seu tio Xavier, ele mesmo atribuirá a sua primeira e fundamental formação religiosa. O clima religioso da família e a fervorosa vida paroquial foram a primeira escola de vida cristã, que marcou a sua fisionomia espiritual.

Ingressou no Seminário de Bérgamo, onde estudou até ao segundo ano de teologia. Ali começou a redigir os seus escritos espirituais, que depois foram recolhidos no "Diário da alma". No dia 1 de Março de 1896, o seu director espiritual admitiu-o na ordem franciscana secular, cuja regra professou a 23 de Maio de 1897.

De 1901 a 1905 foi aluno do Pontifício Seminário Romano, graças a uma bolsa de estudos da diocese de Bérgamo. Neste tempo prestou, além disso, um ano de serviço militar. Recebeu a Ordenação sacerdotal a 10 de Agosto de 1904, em Roma, e no ano seguinte foi nomeado secretário do novo Bispo de Bérgamo, D. Giacomo Maria R. Tedeschi, acompanhando-o nas várias visitas pastorais e colaborando em múltiplas iniciativas apostólicas: sínodo, redacção do boletim diocesano, peregrinações, obras sociais. Às vezes era também professor de história eclesiástica, patrologia e apologética. Foi também Assistente da Acção Católica Feminina, colaborador no diário católico de Bérgamo e pregador muito solicitado, pela sua eloquência elegante, profunda e eficaz.

Naqueles anos aprofundou-se no estudo de três grandes pastores: São Carlos Borromeu (de quem publicou as Actas das visitas realizadas na diocese de Bérgamo em 1575), São Francisco de Sales e o então Beato Gregório Barbarigo. Após a morte de D. Giacomo Tedeschi, em 1914, o Padre Roncalli prosseguiu o seu ministério sacerdotal dedicado ao magistério no Seminário e ao apostolado, sobretudo entre os membros das associações católicas.

Em 1915, quando a Itália entrou em guerra, foi chamado como sargento sanitário e nomeado capelão militar dos soldados feridos que regressavam da linha de combate. No fim da guerra abriu a "Casa do estudante" e trabalhou na pastoral dos jovens estudantes. Em 1919 foi nomeado director espiritual do Seminário.

Em 1921 teve início a segunda parte da sua vida, dedicada ao serviço da Santa Igreja. Tendo sido chamado a Roma por Bento XV como presidente nacional do Conselho das Obras Pontifícias para a Propagação da Fé, percorreu muitas dioceses da Itália organizando círculos missionários.

Em 1925, Pio XI nomeou-o Visitador Apostólico para a Bulgária e elevou-o à dignidade episcopal da Sede titular de Areopolis.

Tendo recebido a Ordenação episcopal a 19 de Março de 1925, em Roma, iniciou o seu ministério na Bulgária, onde permaneceu até 1935. Visitou as comunidades católicas e cultivou relações respeitosas com as demais comunidades cristãs. Actuou com grande solicitude e caridade, aliviando os sofrimentos causados pelo terremoto de 1928. Suportou em silêncio as incompreensões e dificuldades de um ministério marcado pela táctica pastoral de pequenos passos. Consolidou a sua confiança em Jesus crucificado e a sua entrega a Ele.

Em 1935 foi nomeado Delegado Apostólico na Turquia e Grécia: era um vasto campo de trabalho. A Igreja tinha uma presença activa em muitos âmbitos da jovem república, que se estava a renovar e a organizar. Mons. Roncalli trabalhou com intensidade ao serviço dos católicos e destacou-se pela sua maneira de dialogar e pelo trato respeitoso com os ortodoxos e os muçulmanos. Quando irrompeu a segunda guerra mundial ele encontrava-se na Grécia, que ficou devastada pelos combates. Procurou dar notícias sobre os prisioneiros de guerra e salvou muitos judeus com a "permissão de trânsito" fornecida pela Delegação Apostólica. Em 1944 Pio XII nomeou-o Núncio Apostólico em Paris.

Durante os últimos meses do conflito mundial, e uma vez restabelecida a paz, ajudou os prisioneiros de guerra e trabalhou pela normalização da vida eclesial na França. Visitou os grandes santuários franceses e participou nas festas populares e nas manifestações religiosas mais significativas. Foi um observador atento, prudente e repleto de confiança nas novas iniciativas pastorais do episcopado e do clero na França. Distinguiu-se sempre pela busca da simplicidade evangélica, inclusive nos assuntos diplomáticos mais complexos. Procurou agir sempre como sacerdote em todas as situações, animado por uma piedade sincera, que se transformava todos os dias em prolongado tempo a orar e a meditar.

Em 1953 foi criado Cardeal e enviado a Veneza como Patriarca, realizando ali um pastoreio sábio e empreendedor e dedicando-se totalmente ao cuidado das almas, seguindo o exemplo dos seus santos predecessores: São Lourenço Giustiniani, primeiro Patriarca de Veneza, e São Pio X.

Depois da morte de Pio XII, foi eleito Sumo Pontífice a 28 de Outubro de 1958 e assumiu o nome de João XXIII. O seu pontificado, que durou menos de cinco anos, apresentou-o ao mundo como uma autêntica imagem de bom Pastor. Manso e atento, empreendedor e corajoso, simples e cordial, praticou cristãmente as obras de misericórdia corporais e espirituais, visitando os encarcerados e os doentes, recebendo homens de todas as nações e crenças e cultivando um extraordinário sentimento de paternidade para com todos. O seu magistério foi muito apreciado, sobretudo com as Encíclicas "Pacem in terris" e "Mater et magistra".

Convocou o Sínodo romano, instituiu uma Comissão para a revisão do Código de Direito Canónico e convocou o Concílio Ecuménico Vaticano II. Visitou muitas paróquias da Diocese de Roma, sobretudo as dos bairros mais novos. O povo viu nele um reflexo da bondade de Deus e chamou-o "o Papa da bondade". Sustentava-o um profundo espírito de oração, e a sua pessoa, iniciadora duma grande renovação na Igreja, irradiava a paz própria de quem confia sempre no Senhor. Faleceu na tarde do dia 3 de Junho de 1963.

O Papa João Paulo II beatifica-o a 3 de Setembro de 2000.