Komence de sia kariero Nielsen trejnis en Finnlando, kiu estis la ĉefa distanco-kuranta lando tiutempe, kaj lernis de finnaj kuristoj. Li gajnis sian unuan danan ĉampionecan titolon je 5000 m en 1930. Nielsen rompis la 3000 m mondan rekordon en Stokholmo la 25an de julio 1934; li alfrontis la polon Janusz Kusociński, kiu tenis la antaŭan rekordon de 8:18.8, kaj venkis lin. La venka tempo de Nielsen estis 8:18.3; kiel monda rekordo, ĝi estis oficiale ratifita kiel 8:18.4, ĉar la reguloj de la IAAF postulis tempojn ĉe la distanco por esti rondetaj supren al la venonta kvinono de sekundo. Poste tiun jaron, Nielsen gajnis bronzon en la 10,000 m ĉe la inaŭgura Eŭropa Ĉampioneco
en Torino, perdante nur al Ilmari Salminen kaj Arvo Askola de Finnlando; li estis la sola medalisto de Danio en la renkontiĝo.