Carroll werd toegewezen aan een parochiekerk, St. Rita, in Valencia Park. Gezien de keuzes van bisschop Leo Thomas Maher om over te stappen naar een parochiekerk in Needles, Californië, of betrokken te raken bij St. Vincent de Paul, koos Carroll voor het laatste. Van 1982 tot 2011 leidde Carroll St. Vincent de Paul Village. In 1984 verscheen Carroll in een reclame die donaties zocht voor St. Vincent de Paul die werd uitgezonden tijdens de 1984 National League Championship Series.
, waardoor hij nationale bekendheid verwierf. Carroll was te zien in een "60 Minutes" verhaal in 1985, en een "Reader's Digest" verhaal in 1988. Carrolls inspanningen om daklozen te helpen, werden bekritiseerd door de "Wall Street Journal", en geprezen in de vorm van een World Habitat Award. In de jaren 2000 maakte zijn organisatie bobble-head poppen van hem als een fondsenwerving beloning voor donoren. In 2011 ging Carroll met pensioen.