L’abbé McGivney a été nommé vicaire (assistant) de l'église St. Mary's, la première paroisse catholique de la ville portuaire de New Haven. Il y fait face à des défis liés à la pénurie de prêtres, à la dette des paroisses, aux maladies et à l'hostilité envers les catholiques. L'Église est devenue un paratonnerre pour la dérision anticatholique, exprimée dans un titre du New York Times, « How an Aristocratic Avenue Was Blemished by a Roman Church Edifice. » (Comment une avenue aristocratique a été souillée par un édifice de l’Église romaine). Dans ce contexte, l’abbé McGivney a géré avec brio des relations avec des non-catholiques tout en s’efforçant d’éviter l’hostilité qui mène à éroder la foi de ses gens.
Recherché pour ses sages conseils, et ayant joué un rôle déterminant dans un certain nombre de conversions au catholicisme, l’abbé McGivney avait le don de toucher les cœurs et de conduire les âmes à Dieu.
Dans un cas notable qui a bénéficié d'une importante couverture médiatique, il a communiqué avec James (Chip) Smith, un catholique de 21 ans qui était dans le couloir de la mort pour avoir tiré sur un policier et l'avoir tué alors qu'il était ivre. L’abbé McGivney lui a rendu visite quotidiennement pour lui offrir des conseils, des prières et une messe dans la prison de la ville pendant de nombreux mois. Ces visites ont eu un effet important. Le changement d’attitude du jeune homme a été si marquant que les journaux locaux ont salué le ministère de l’abbé McGivney.
Après la messe du jour de l'exécution, la douleur du prêtre était profonde. Smith le réconforta en disant : « Mon Père, vos Saints-Offices m'ont permis d'affronter la mort sans trembler. N'ayez pas peur pour moi, je ne dois pas m'effondrer maintenant. » L’abbé McGivney a marché avec lui jusqu'à la fin, le conduisant dans la prière et le bénissant jusqu’à l'échafaud.
‘Un homme du peuple’
Avec un cœur de prêtre, il a accompagné des personnes de tous âges et de tous horizons dans leur souffrance et leur incertitude. Il a trouvé des moyens pratiques de répondre à leurs besoins. Bien que sa première préoccupation ait toujours été la foi de ses fidèles, il était également à l’écoute des questions familiales, sociales, financières, civiques et sociétales. Son visage fort et serein parlait à la fois de la loi et de la miséricorde de Dieu. Les gens étaient naturellement attirés par son attitude réservée, mais accueillante. Désireux de construire une paroisse dynamique pour ses fidèles travailleurs et en grande partie pauvre, il a mis en scène des pièces paroissiales, des sorties et des foires; de plus, il a revitalisé un groupe dédié à surmonter l’alcoolisme au sein de sa communauté.
Selon l'un de ses contemporains, la vie de l’abbé McGivney était un livre ouvert, dont toutes les pages pouvaient être lues, et les influences qui émanaient de sa personnalité active, énergique et zélée, ont amené beaucoup de pauvres errants dans la maison de Dieu, dans la foi de leur enfance et dans le tribunal sacré de la pénitence, où avec foi, contrition et humilité, ils se sont réconciliés avec leur Père céleste. L’abbé McGivney était avant tout un homme actif. Son énergie était infatigable, cherchant toujours de nouveaux débouchés; grâce à cette disposition nous lui sommes redevables pour l’existence des Chevaliers de Colomb. »
Dans un article intitulé « La personnalité de l’abbé McGivney », un collègue prêtre a décrit son comportement dans des termes presque mystiques : « Il incarnait le visage de la prêtrise et cela explique tout. » Il était empreint d’une paix merveilleuse. Rien de dur n’émanait de son expression, pourtant tout en lui transparaissait la force ». Dans la même veine, un laïc a écrit que la voix stable et rassurante de l’abbé McGivney attirait même certaines personnes qui n’étaient pas catholiques à l’église juste pour l’entendre prêcher.
Homme de vision stratégique, l’abbé McGivney travaillait en étroite collaboration avec les principaux hommes catholiques de la ville, qu'il rassemblait dans le sous-sol de l'église St. Marys pour explorer l'idée d'une société de secours fraternel catholique. Le nouvel Ordre devait aider les hommes à préserver leur foi; il devait promouvoir l’idée qu’il était possible d’être à la fois un bon catholique et un bon citoyen américain; et il devait aider financièrement les familles ayant perdu leur pourvoyeur principal afin qu’elles puissent rester ensemble, assurant ainsi non seulement leur bien-être spirituel, mais aussi évitant une dissolution pouvant éroder leur foi.
Dans les mots d’une paroissienne, « Il était un homme du peuple. Il a fait preuve d’un zèle pour le bien-être de ses fidèles, et la bonté de son âme sacerdotale s’est affirmée le plus vivement à travers ses efforts incessants en vue d’améliorer leur condition.
Après avoir créé une communauté paroissiale florissante, l’abbé McGivney a quitté la paroisse St. Marys du New Haven pour devenir curé de la paroisse St. Thomas à Thomaston; la douleur de ses paroissiens était palpable lors de son départ. Un journaliste couvrant sa dernière messe à l’église St. Marys a décrit la scène tel que suit : « Il semble que jamais, une assemblée n’ait été autant affectée par le discours de départ d’un membre du clergé que celle du grand nombre de fidèles remplissant l’église St. Marys hier. Certaines des personnes présentes ont fondu en larmes et d'autres ont sangloté sans retenue.