Karp estas filo de Barbara Ackerman, instruistino de sciencoj el San Anselmo, Kalifornio, kaj Michael D. Karp, komponisto de filmoj kaj televido. Li havas pli junan fraton nomatan Kevin. Liaj gepatroj disiĝis kiam li estis 17-jara. Karp ĉeestis la Calhoun Lernejon de antaŭlernejo ĝis oka grado, kie lia patrino instruas sciencon. Je 11, li komencis lerni HTML kaj komencis desegni retejojn por entreprenoj. Karp daŭre ĉeestis The Bronx High School of Science dum unu jaro antaŭ forlasi kiam li estis 15-jara kaj komencis hejmlernadon. Tiutempe, Karp havis aspirojn ĉeesti universitaton en Novjorko, aŭ iri al MIT kaj hejme instrui kaj fari aliajn projektojn sur la flanko kiel maniero impresi la altlernejojn. Karp neniam revenis al sia mezlerneja diplomo aŭ lernis HTML.
11