Byl to katolický kněz, konzervátor památkové péče a muzejní pracovník.

Karlův otec Johann pracoval jako barvířský tovaryš a matka Anna byla dcera místního strojníka Franze Hegera. Měl dva bratry a pět sester. 

Studoval na moravskotřebovském státním gymnáziu. Po maturitě v roce 1887 se rozhodl studovat teologii ve Vídni a Litoměřicích. Po čtyřech letech ukončil studium a 24. května 1891 proběhlo v Litoměřicích kněžské svěcení. Jako kaplan pomáhal faráři v obci Brtníky. V letech 1895 a 1900 přijel do Moravské Třebové vykonat pohřby svým rodičům. 

Od roku 1901 vykonával funkci duchovního správce farnosti Lobendava. Potom od roku 1908 v obci stránce na Mostecku. Kvůli nemoci srdce byl však penzionován a usadil se v Teplicích. Nebylo mu povoleno pokračovat v povolání faráře. Začal tedy vyučovat náboženství na středních a obecných školách v Teplicích a Trnovanech. V tuto dobu se začal zajímat o muzejnictví a dopisoval si se správcem muzea v Moravské Třebové Alpisem Czernym. Muzeum obohatil o několik významných předmětů. Dále své sbírky věnoval například muzeu v Mostě.

V roce 1926 obdržel vyznamenání, které je udělování zasloužilým kněžím. Mezi lety 1909 a 1919 pracoval jako správce muzea v Teplicích. Zároveň zastával funkci konzervátora pro pravěk severozápadních Čech. Věnoval se především archeologii, provedl několik výzkumů a výsledky svého bádání publikoval. 

V Městském muzeu Moravská Třebová se dochovalo 12 dopisů od Karla Karafiata. Z dopisů se dá vyčíst, že měl v Moravské Třebové rodinu. Také se v nich zmínil, že by se po odchodu do penze chtěl vrátit do Moravské Třebové. V dopisech se nejvíce věnuje věcem, které do muzea věnoval, a to včetně okolností, za kterých je získal. 

V muzeu se nachází několik fotografií archeologických lokalit (například Světec u Teplic). Dále se v muzeu nachází snímky hradu Rýzmburk u Oseka. Na fotografiích jsou poznámky, podpis Karla Karafiata, na některých i kulaté razítko. Kromě fotografií je ve sbírce i podobizna Karla Karafiata stojícího před kamennými architektonickými články a zvonem. Další dary jsou označeny jako archeologické nálezy. Patří mezi ně antické artefakty, nálezy z Teplic a okolí a staroegyptský skarab. 

Až do své smrti působiol jako učitel náboženství v Trnovanech. Zemřel ve svém bytě ve vile Holštýn na Richard Wagnerstrasse v Teplicích. Příčinou úmrtí byla srdeční vada. Dle svého přání je pohřben na Křížovém vrchu v Moravské Třebové. 5 dní po smrti byl uložen do hrobu v blízkosti kostela Povýšení sv. Kříže. O úmrtí informovaly veřejnost teplické, moravskotřebovské a liberecké noviny.