Ksiądz McGivney został wikariuszem przy kościele pw. Najświętszej Maryi Panny w New Haven, pierwszej katolickiej parafii w tym ruchliwym, portowym mieście. Tam zetknął się z wyzwaniami braku kapłanów, parafialnych długów, chorób i z wrogością wobec katolików. Kościół stał się obiektem niewybrednych, antykatolickich szyderstw, najlepiej wyrażonych przez artykuł w New York Times zatytułowany: „Jak arystokratyczna aleja została oszpecona rzymskokatolickim gmachem”. W takich okolicznościach ks. McGivney budował relacje z niewierzącymi, odnosząc się do nich z szacunkiem. Zapobiegał kulturze wrogości, która mogłaby osłabić wiarę jego parafian.
Znany z mądrego osądu ksiądz McGivney pomógł wielu ludziom w nawróceniu i przejściu na katolicyzm, wykorzystując dar poruszania ludzkich serc i prowadzenia dusz do Boga.
Sprawą, która wzbudzała powszechne zainteresowanie prasy, była jego posługa w więzieniu, gdzie odwiedzał Jamesa „Chipa” Smitha, 21-letniego katolika skazanego na śmierć za udział w strzelaninie i zabicie policjanta, gdy był pod wpływem alkoholu. Przez wiele miesięcy ksiądz McGivney odwiedzał go codziennie w miejscowym więzieniu, oferując wsparcie, modlitwę oraz Mszę świętą. To działanie wywarło ogromny wpływ na skazanego i doprowadziło do przemiany jego serca, która była tak znacząca, że dziennikarze w lokalnej prasie pisali z uznaniem o posłudze księdza McGivney’a.
Po Mszy odprawionej w dniu egzekucji ks. McGivney był zrozpaczony. Skazany pocieszał go, mówiąc: „Ojcze, twoja święta posługa pozwoliła mi bez obaw wyjść naprzeciw śmierci. Nie bój się o mnie, nie mogę się teraz załamać”. Ksiądz McGivney towarzyszył mu do końca. Odmówił modlitwę ze skazańcem i pobłogosławił go na szafocie.
„Człowiek bliski ludziom”
Z kapłańskim sercem towarzyszył ludziom w każdym wieku i na różnych etapach życia w ich cierpieniach i wątpliwościach oraz znajdował praktyczne rozwiązania ich problemów. Podczas gdy jego główną troską była wiara powierzonych mu parafian, interesował się również wieloma sprawami, z którymi musieli się mierzyć: trudnościami rodzinnymi, wyzwaniami społecznymi i finansowymi. Jego silna, ale pogodna postawa ukazywała jednocześnie Boże Prawo i Miłosierdzie. Jego sposób bycia – powściągliwy, a zarazem serdeczny – w naturalny sposób przyciągał innych ludzi. Dążąc do zbudowania dynamicznej i tętniącej życiem parafii dla swojego ciężko pracującego i w większości ubogiego ludu, organizował parafialne przedstawienia, wycieczki i jarmarki, a także wznowił działalność grupy poświęconej przezwyciężaniu alkoholizmu.
Wedle słów jednego z jemu współczesnych „życie księdza McGivney’a było otwartą księgą, której strony wszyscy mogą przeczytać, a działania, które wypływały z jego aktywnej postawy, energicznej osobowości i gorliwości sprowadziły wielu biednych wędrowców do domu Bożego, do wiary ich dzieciństwa, i do świętego trybunału sakramentu pojednania, gdzie z wiarą, skruchą i pokorą jednali się ze swym Niebieskim Ojcem. Ks. McGivney był nikim, gdy nie był aktywny. Jego energia była niewyczerpana. Nieustannie szukał nowych rozwiązań i do takiego usposobienia jesteśmy zobowiązani poprzez istnienie Rycerzy Kolumba”.
W artykule zatytułowanym „Charakter księdza McGivney’a” jeden z księży opisał jego postawę w niemal mistycznym tonie: „To była twarz kapłana, co wyjaśnia wszystko. To była twarz pięknego wyciszenia. Nie było w tym obliczu niczego, co byłoby oschłe, ale też niczego, co nie byłoby silne”. W podobnym tonie pewien świecki opisywał spokojny i pocieszający głos, który przyciągał do kościoła nawet niewierzących, którzy chcieli usłyszeć jego nauczanie.
Realizując swoją strategiczną wizję, ksiądz McGivney ściśle współpracował z katolickimi przywódcami z New Haven. Wspólnie gromadzili się w podziemiach kościoła pw. Najświętszej Maryi Panny, by odkrywać ideę katolickiej wspólnoty bratniej. Nowy Zakon pomógłby mężczyznom zachować wiarę, a jego działalność byłaby dowodem na to, że można być zarówno dobrym katolikiem, jak i dobrym obywatelem. Stowarzyszenie zapewniałoby też finansowe wsparcie rodzinom, które musiały zmierzyć się ze śmiercią swojego żywiciela. Zabezpieczenie ich doczesnego bytu pomogłoby zarówno uchronić je przed rozpadem, jak i ocalić wiarę tych, którzy cierpieli po stracie bliskich i byli niepewni dalszego losu.
Wedle słów jednego z parafian: „Był blisko ludzi. Z gorliwością troszczył się o dobro parafian, a cała dobroć wypływająca z jego kapłańskiego serca wyrażała się w nieustannych staraniach o to, by mogli żyć w bardziej godziwych warunkach”.
Podczas swojej posługi księdzu McGivney’owi udało się stworzyć tętniącą życiem wspólnotę parafialną. Gdy otrzymał decyzję o przenosinach do Thomaston, gdzie miał zostać proboszczem parafii pw. św. Tomasza, pośród parafian w New Haven zapanował smutek. Rozpacz była wręcz namacalna. Dziennikarz relacjonujący ostatnią Mszę św. odprawianą przez ks. McGivney’a w kościele pw. Najświętszej Maryi Panny, tak opisał to wydarzenie: „Wydaje się, że żadne zgromadzenie wiernych nie było nigdy tak poruszone mową pożegnalną kapłana, jak ogromna wspólnota, która wypełniła wczoraj kościół pw. Najświętszej Maryi Panny. Pośród zgromadzonych było słychać płacz i szlochanie”.