Do czasu rozbiorów nuncjusze rezydowali m.in. w klasztorze ojców Teatynów przy ul. Długiej w Warszawie oraz w pałacu arcybiskupów gnieźnieńskich w Skierniewicach. Brak jest dokładniejszych danych na ten temat.
Po pierwszej wojnie światowej przybył do Warszawy ksiądz prałat Achilles Ratti, jako wizytator apostolski. Początkowo gościny udzielił mu arcybiskup Kakowski, oddając do jego dyspozycji apartament w pałacu arcybiskupim przy ul. Miodowej. Ksiądz prałat Achilles Ratti mieszkał tam do 6 czerwca 1918 roku.
Następnym miejscem pobytu wysłannika papieskiego była plebania parafii św. Aleksandra przy ul. Książęcej 21. Ksiądz prałat Achilles Ratti mieszkał tam także po mianowaniu go przez Benedykta XV, 6 czerwca 1919 roku, nuncjuszem apostolskim w Polsce. Również jego następca, arcybiskup Lorenzo Lauri, zamieszkał w tym samym miejscu. W ten sposób gmach plebanii, nie przestając być rezydencją miejscowego proboszcza, „awansował” jednocześnie do rangi budynku Nuncjatury Apostolskiej.
W latach dwudziestych Episkopat podjął staranie, aby nabyć w Warszawie nieruchomość nadającą się na siedzibę przedstawicielstwa Stolicy Apostolskiej. Znalezienie odpowiedniego obiektu powierzono księdzu infułatowi Stanisławowi Adamskiemu, kapłanowi archidiecezji poznańskiej i późniejszemu biskupowi katowickiemu.
Jak wynika z księgi hipotecznej oznaczonej numerem 5055, w 1924 roku ksiądz infułat Adamski nabył na własne nazwisko, za sumę 70 tysięcy dolarów USA, od Maksymiliana i Tekli z Węgierków małżeństwa Jezierskich, nieruchomość położoną w Warszawie przy alei Szucha 10 (w okresie powojennym I Armii Wojska Polskiego 12) o powierzchni 5863 łokci, czyli 1945 m kw. (nr hipoteczny 5394). Transakcja dokonana została na polecenie i za fundusze Episkopatu Polski. Nieruchomość tę ksiądz Adamski darował Stolicy Apostolskiej aktem z dnia 30 września 1924 roku, spisanym przez notariusza Zygmunta Wasiutyńskiego. Akt darowizny wpisano do księgi hipotecznej 14 października 1924 roku. W imieniu Stolicy Apostolskiej nieruchomość przejął ksiądz prałat Carlo Chiarlo.
W wykazie nieruchomości warszawskich z 1928 roku posesja ta oznaczona jest jako nr hipoteczny 5394 (właściciel – Stolica Apostolska) i nosi numer policyjny aleja Szucha 12, podczas gdy w momencie kupna miała adres aleja Szucha 10. Należy przypuszczać, że pomiędzy rokiem 1924 i 1928 dokonano zmiany numerów w Alei Szucha. Numer 12 posesja nosi do dzisiaj.
Z dokumentów dołączonych do księgi hipotecznej nie wynika, jak duży był budynek położony na terenie nieruchomości. Wiadomo jedynie, że był to gmach jednopiętrowy. Mało wiemy też o jego historii. Wybudowano go zapewne w ostatnim ćwierćwieczu XIX wieku, gdyż pierwszy wpis do księgi hipotecznej został dokonany w 1883 roku. Na podstawie źródeł polskich nie da się także ustalić, w jakim stopniu budynek ten, po nabyciu go na własność przez Stolicę Apostolską, został przebudowany lub przystosowany do realizowania zadań nuncjatury apostolskiej.
Nuncjusz apostolski arcybiskup Lorenzo Lauri, przeniósł się na początku grudnia 1924 roku do pałacu nuncjatury przy Alei Szucha, a 4 grudnia nastąpiło uroczyste przekazanie budynku.
Dnia 31 grudnia 1929 roku nuncjusz Marmaggi uroczyście poświęcił Nuncjaturę Apostolską Najsłodszemu Sercu Jezusa.
Podczas jego urzędowania dom nuncjatury przeszedł gruntowne remonty, a przede wszystkim wzbogacił się o nową kaplicę, która swoim wystrojem nawiązywała do historii Polski. Na ścianach umieszczono malowidła postaci świętych, poczynając od Matki Bożej Częstochowskiej, poprzez sceny obrony Jasnej Góry z 1655 roku, „Cudu nad Wisłą” z 15 sierpnia 1920 roku i postacie patronów Polski. Kaplicę poświęcił ksiądz kardynał Aleksander Kakowski, dnia 8 grudnia 1932 roku.
Kolejny nuncjusz, abp Filippo Cortesi, zajął się wystrojem nuncjatury i miał plan powiększenia budynku poprzez nadbudowę jednego piętra. Na początku lipca 1939 roku uzyskał nawet zgodę Stolicy Apostolskiej na przeprowadzenie prac, ale zbliżająca się wojna przekreśliła wszelkie plany.
Po wyjeździe arcybiskupa Cortesiego w budynku przy Alei Szucha pozostał ksiądz Tadeusz Głąb, salezjanin, mający pieczę nad budynkiem i tym, co w nim pozostało.
6 września 1939 roku na budynek spadła pierwsza bomba, a w następnych dniach spadło pięć kolejnych bomb całkowicie rujnując go od wewnątrz i dewastując otaczający go ogród.
Trudno ustalić, co działo się w nuncjaturze w okresie okupacji. Wiadomo tylko, że ksiądz Głąb pełnił swoje obowiązki od wybuchu wojny do Powstania Warszawskiego.
Po wojennej pożodze powracający mieszkańcy Warszawy przystąpili do odbudowy całkowicie zniszczonej stolicy. Kardynał August Hlond powołał Radę Prymasowską dla Odbudowy Kościołów Warszawy. Odbudowa siedziby nuncjusza była symbolem wierności Kościoła w Polsce Stolicy Apostolskiej. Projekt odbudowy i zarazem rozbudowy o jedno piętro, według niezrealizowanej myśli nuncjusza Cortesiego, opracowany przez inż. arch. Władysława Tomaszewskiego, został zaaprobowany przez władze kościelne i już 13 czerwca 1947 roku zatwierdzony przez przedstawiciela prezydenta miasta st. Warszawy – inż. arch. Kazimierza Mieszkisa.
Budynek musiał być znacznie zniszczony, bowiem wspomniane zezwolenie na rozpoczęcie prac budowlanych zawiera warunek, że przed przystąpieniem do robót usunięte będą wszystkie zagrażające fragmenty murów i że wykonane będą mury konstrukcyjne.
Odbudowa postępowała szybko naprzód. Pismem z 21 kwietnia 1948 roku kardynał Hlond zwrócił się do biskupów ordynariuszy w następujących słowach: Odbudowa Nuncjatury Apostolskiej w Warszawie dobiega końca, atoli ostatnie prace i umeblowanie gmachu będą wymagały jeszcze poważnych wkładów. W związku z tym kardynał Hlond zaapelował do biskupów o finansowe wsparcie prac, sam dając temu osobisty przykład.
Następca kardynała Hlonda na stolicy warszawskiej, arcybiskup Stefan Wyszyński, po przybyciu do Warszawy 14 stycznia 1949 roku, na krótko zamieszkał w budynku jezuickim przy ul. Narbutta. Z dniem 7 lutego 1949 roku objął kanonicznie rządy archidiecezją warszawską, zaś 14 lutego przeniósł swoją rezydencję do budynku Nuncjatury Apostolskiej, dokąd przeniesiony został także Sekretariat Prymasa Polski. Tego samego dnia arcybiskup Wyszyński poświęcił dom Sercu Jezusowemu.
W budynku Nuncjatury Apostolskiej Prymas Polski rezydował do 27 grudnia 1952 roku, tego bowiem dnia wyruszył w podróż do Częstochowy i Gniezna, a po swoim powrocie do Warszawy, w dniu 3 stycznia 1953 roku, zamieszkał już w nowo odbudowanej rezydencji arcybiskupów warszawskich przy ulicy Miodowej 17. Tam też został przeniesiony Sekretariat Prymasa Polski.
Budynkiem nuncjatury od czasu odbudowy administrował Sekretariat Prymasa Polski. Przedstawiciele Stolicy Apostolskiej, ilekroć w latach 60-tych, 70-tych i 80-tych przybywali do Polski, zawsze zamieszkiwali w budynku nuncjatury.
W 1966 roku ojciec Kazimierz Chudy, jezuita, z polecenia Księdza Prymasa objął funkcję administratora domu Nuncjatury Apostolskiej w Warszawie. Natychmiast przystąpił do przeprowadzenia remontu budynku. Sprawa była tym bardziej pilna, że na początku lat siedemdziesiątych, po zmianie ekipy rządzącej w Polsce, gdy po Władysławie Gomułce stanął na czele rządu Edward Gierek, coraz częściej do Polski przyjeżdżali przedstawiciele Stolicy Apostolskiej na rozmowy z ówczesnymi władzami polskimi w sprawie normalizacji wzajemnych stosunków.
W 1985 roku, już po całkowitym zakończeniu remontu budynku nuncjatury, ojciec Kazimierz Chudy został przeniesiony do parafii św. Szczepana przy ulicy Narbutta 21 w Warszawie.
Rezydencję w rok później objął ksiądz biskup pomocniczy warszawski, Marian Duś, który z ramienia Sekretariatu Prymasa Polski pełnił jednocześnie funkcję administratora. Tak było do momentu przejęcia budynku przez właściwego gospodarza, pierwszego po pięćdziesięcioletniej przerwie nuncjusza, księdza arcybiskupa Józefa Kowalczyka, który przyjechał do Warszawy jesienią 1989 roku.
Budynek należało szybko przystosować do charakteru placówki dyplomatycznej, reprezentującej Stolicę Apostolską.
W bardzo krótkim czasie przeprowadzono prace remontowo-konserwatorskie. Obejmowały one cały budynek, zarówno jego część zewnętrzną z przylegającym ogrodem, jak też całe wnętrze, w którym należało urządzić biura nuncjatury. Konieczne było zorganizowanie całego zaplecza logistycznego, umożliwiającego spełnianie roli reprezentacyjnej placówki, co związane było między innymi z pełnioną przez nuncjusza apostolskiego funkcją dziekana Korpusu dyplomatycznego. Należy zaznaczyć, że w tym czasie na terenie Warszawy działało ok. 70 przedstawicielstw dyplomatycznych.
Pracami remontowymi kierował michalita, ksiądz Stanisław Stachera wraz z całą ekipą wykonawców. Dzięki wielkiej ofiarności diecezji polskich, jak też pojedynczych ofiarodawców, udało się urządzić cały budynek.
Przed wizytą Ojca Świętego Jana Pawła II w Polsce w czerwcu 1991 roku należało przyspieszyć prace remontowe, aby budynek przystosować do przyjęcia Dostojnego Gościa wraz z osobami towarzyszącymi.
Na drugim piętrze została wybudowana kaplica według projektu prof. Wincentego Kućmy z ciekawym wystrojem w postaci motywu „biblijnego krzewu płonącego”, zakrystię wyposażono w meble oraz szaty liturgiczne. Obok kaplicy urządzono pokój Ojca Świętego. Odrestaurowano część starych, cennych obrazów oraz mebli. W marcu i kwietniu 1991 roku przeprowadzono remont elewacji budynku. Zmodyfikowano wówczas podcień kolumnowy głównego wejścia do budynku i nadano mu kształt szklanego przedsionka z podwójnymi drzwiami szklanymi.
W marcu 1990 roku na kostce chodnikowej przed głównym wejściem do budynku umieszczono klucze papieskie oraz symboliczne pamiątkowe daty: rok 1919 upamiętniający początek nuncjatury za czasów nuncjusza arcybiskupa Achillesa Rattiego i rok 1989 – wznowienie jej działalności. Na frontonie umieszczono mozaikę herbu papieża Jana Pawła II, wykonaną w pracowni watykańskiej.
Wyremontowano także wolnostojący budynek przeznaczony na mieszkania dla sióstr obsługujących nuncjaturę oraz garaże.
Budynek Nuncjatury Apostolskiej był jednak za mały na potrzeby reprezentacyjne placówki. Dlatego też, po zakończeniu wizyty Ojca Świętego, w celu powiększenia powierzchni dokonano zabudowy tarasu poprzez podniesienie go do pierwszego piętra. Projekt wykonał płk mgr inż. Ryszard Tarasewicz w Wojskowym Biurze Studiów i Projektów Budowlanych w Warszawie.
W 1993 roku miał miejsce historyczny akt przekazania przez Konferencję Episkopatu Polski nowej działki znajdującej się w sąsiedztwie nuncjatury, co umożliwiło rozbudowę budynku.
Nad całością prac remontowo-budowlanych czuwał ks. prał. Karol Łapiński. Rozbudowa została przeprowadzona sposobem gospodarczym, według ogólnego projektu inż. Bogdana Cioka oraz inż. Tomasza Zemły, który zaprojektował elewację poszerzonej części budynku. W ten sposób powierzchnia nuncjatury powiększyła się prawie dwukrotnie.
Wybudowano nową, przestronną kaplicę. Realizację jej wystroju powierzono inż. Jerzemu Machajowi. Umieszczono w niej witraże według projektu inż. Barbary Pawłowskiej z Warszawy. Zdemontowano pierwotną kaplicę i całe wyposażenie przekazano parafii Najświętszego Serca Pana Jezusa w Szczawnie, w diecezji tarnowskiej.
Część reprezentacyjną powiększono o duży salon przeznaczony do organizowania różnych spotkań, niezbędnych w pełnieniu przez nuncjusza apostolskiego funkcji dziekana Korpusu Dyplomatycznego.
Należy także zaznaczyć, że nuncjatura wzbogaciła się o pokoje przeznaczone dla gości przyjeżdżających w związku z coraz liczniej organizowanymi konferencjami międzynarodowymi. W perspektywie przewidywanej na 1999 rok kolejnej wizyty Ojca Świętego Jana Pawła II w Polsce urządzono przestronny apartament papieski. Także w wolnostojącym budynku przygotowano mieszkania dla osób towarzyszących Ojcu Świętemu.
Zmodernizowano i powiększono część administracyjną przedstawicielstwa, a siostry otrzymały nowy budynek mieszkalny wraz z kaplicą.
Część ogrodzenia wewnętrznego od strony południowej otoczono podcieniami, a teren zagospodarowano zielenią. Końcowymi pracami nadzoru budowlanego kierował inż. Henryk Bedyński.
Uroczystego poświęcenia nowej części budynku dokonał Sekretarz Stanu Stolicy Apostolskiej, kardynał Angelo Sodano, 30 kwietnia 1998 roku.