Hij werd geboren in Fredericton, New Brunswick en groeide op in Toronto, Winnipeg en Saskatoon, Saskatchewan. Hij diende in het Zuid-Saskatchewan Regiment tijdens de Tweede Wereldoorlog en werd gewond bij Dieppe.
Ik weet het. Na de oorlog vervolgde Kohaly zijn studie aan de Universiteit van Saskatchewan, waar hij in 1950 een rechtendiploma behaalde. Hij heeft een praktijk in Estevan. Kohaly werd verkozen tot de provinciale vergadering in een bijverkiezing van 1953 die werd gehouden na de dood van John Edward McCormack. Nadat hij in 1956 werd verslagen bij zijn herverkiezing, keerde hij terug naar de advocatuur. Kohaly diende als president van het bijkantoor van Saskatchewan en als nationaal president van het Royal Canadian Legion.