25 січня 1959 року минуло всього 99 днів з моменту обрання Івана XXIII. на папському престолі. Того дня після богослужінь у базиліці св. Павла, до якого спеціально були запрошені сімдесят кардиналів, присутніх на той час у Римі, папа оголосив про своє рішення найближчим часом скликати римський синод та генеральний собор у Римі. Синод Риму повинен був обговорити ситуацію в італійській церкві. Що стосується генеральної ради, то папа висловив сподівання, що в ній також візьмуть участь усі "церкви, які відокремилися, щоб спробувати возз'єднатися". Рада готувалася майже 3 роки. До засідання Ради підготовлено 70 документів. Увесь той час Іван XXIII. він працював невтомно. За три роки він набрав більше ваги, виглядав більш упертим, хворим, але доброзичлива посмішка не зникала з його обличчя. Папа знав, що він невиліковно хворий. Лікарі діагностували у нього рак шлунка, але він відмовився від операції. У його віці операція була пов'язана з великим ризиком, і він хотів стояти, щоб побачити відкриття ради.
Нарешті настав вересень 1962 року, якого він так довго чекав. Журналісти, оглядачі радіо і телебачення, туристи і, звичайно, батьки Собору - кардинали, патріархи, архієпископи, єпископи, генерали релігійних орденів - і почесні гості, представники інших церков і конфесій - зібралися в Римі з усього світу . 11 вересня о восьмій годині ранку в освітленій базиліці св. Петро відкрив першу сесію Другого Ватиканського Собору. 2692 церковні ієрархи сиділи на трибунах у мітрах та розкішних середньовічних шатах. Європу представляли 849 отців Ради, Америка - Північ та Південь 932, Азія 256, Африка 250 та Океанія 70. Засідання першої сесії закінчилось 8 грудня 1962 р. На завершення сесії виступив Джон XXIII. сподівання, що Рада завершить свої обговорення наступного року. Батьки Ради знали його здоров’я і погано відчували, що бачили його востаннє.
У середині травня 1963 р. Іван XXIII. лягти. Його особистий лікар, венеціанець Гаспаріні та багато інших фахівців, які піклувались про його здоров’я, після огляду пацієнта дійшли висновку, що надії на одужання немає і що зараз потрібно лише полегшити страждання пацієнта. 23 травня папа востаннє встав з ліжка і підійшов до вікна своєї спальні, щоб подивитися на площу Сан-Марко. Петра, наповнена, як завжди, великою різноманітною юрбою. Наче прощався з Римом. Іван XXIII він був дуже худий, очі запали, обличчя стало сірим. Однак до останнього моменту він зберігав ясну свідомість. За день до смерті він прийняв свого державного секретаря, який повідомив його про рутинні справи, і кардинали, його брати та його сестра прийшли попрощатися з ним. Іван XXIII 3 червня 1963 року о 19 годині закінчилася 49-та хвилина.