Hann flutti til Argentínu í júlí 1862. Þegar forseti-marshall Solano Lopez frá Paragvæ réðst inn í Corrientes hérað árið 1865 braust út stríð þríþættra bandamanna og Kyle gekk í læknadeild argentínska hersins sem lyfjafræðingur með röð liðsforingja. Hann tók þátt í umsátri Uruguaiana (þar sem varnarmenn voru látnir lifa á sykri), þriggja daga bardaga við Boquerón og í bardaga við Tuyutí.
, blóðugasta alþjóðlega bardaga í sögu Suður-Ameríku. Hann starfaði um borð í sjúkrahússkipinu Pavón og sneri aftur til Buenos Aires í desember 1866 sem yfirmaður á fylgi særðra hermanna. Reynsla hans í stríðinu leiddi til þess að hann hafði áhuga á stofnun Argentínu Rauða krossins, sem hann varð heiðursfélagi í 1896.