A korai középkori Köln Ausztrázia része volt a frank birodalomban. 716-ban Károly Martel először vezényelt egy sereget, és életének egyetlen vereségét szenvedte el, amikor II. Chilperic, Neustria királya megtámadta Ausztráziát, és a város a kölni csatában esett neki. Károly az Eifel hegyekbe menekült, támogatókat gyűjtött össze, és ugyanabban az évben visszaszerezte a várost, miután legyőzte Chilpericet a
Amblève-i csata. Köln már a római korszak óta egy püspök székhelye volt; Nagy Károly idején, 795-ben Hildebold püspököt érsekré emelték. 843-ban a Verdun-i békével Köln Lothar I. középfranciai uralma alá került, amelyet később Lotharingia-nak neveztek el.