Karl Weltmann töötas Tartu ülikooli raamatukogus peaaegu 30 aastat, neist viis (1944–1949) direktorina. Ta oli Eesti Raamatukoguhoidjate Ühingu üks asutajaliikmeid 1923. aastal. Tema tõsine huvi Baltimaade ajaloo vastu ajendas koostama kartoteeki „Baltimaad venekeelses trükisõnas 1650–1950“ (120 000 sedelit). Peame olema tänulikud tema hoolsuse ja heaperemehelikkuse eest, mida ta ilmutas Teise maailmasõja aastail ülikooli raamatukogu raamatuvarade suhtes.
​
Karl Weltmann (Veltmann) sündis talurentniku peres Märjamaa vallas. Haridusteed alustas ta kohalikus vallakoolis, järgnesid õpingud Tallinna Katariina II kõrgemas linnakoolis ning Peetri reaalkoolis (praegu Tallinna Reaalkool). Kõrghariduse omandas Karl Weltmann Riia Polütehnilises Instituudis, mille kaubandusosakonna lõpetas 1910. aastal I järgu diplomiga. Pärast aastast töötamist Kuldiga kaubanduskoolis Kuramaal jätkas Weltmann õpinguid Moskva kommertsinstituudi majandusosakonnas, mille juriidilise tsükli lõpetas 1914. aastal I järgu kandidaadi kraadiga. Esimese maailmasõja puhkemine ei lasknud teostuda plaanil omandada Moskva ülikooli juures magistrikraad tsiviilõiguses.
​
Aastatel 1916–1918 leidis Weltmann rakendust ametnikuna ülevenemaalise linnade liidu juures, 1918–1920 töötas raamatukoguhoidjana Kiievi ülikooli raamatukogus, mille direktoriks oli kunagine Tartu ülikooli raamatukogu raamatukoguhoidja abi Benjamin Cordt (Kordt, 1860–1934). 1920. aasta suvel opteerus Karl Weltmann koos abikaasaga Eestisse ning leidis tööd TÜ raamatukogus esialgu assistendina, oktoobrist juba raamatukoguhoidjana ehk Eesti osakonna juhatajana. Tema tööülesannetesse kuulus Eesti osakonna kogude (eestikeelne ja baltica trükis) täiendamine, kataloogimine ning lugemisruumi töö korraldamine, vajadusel ka raamatukogu juhataja Friedrich Puksoo asendamine. TÜ raamatukogus töötades jätkas Weltmann Kiievis alustatud bibliograafiakartoteegi „Baltimaad venekeelses trükisõnas“ täiendamist.
​
Teise maailmasõja ajal, oma eluga riskides, pühendus Karl Weltmann koos kolleegidega TÜ raamatukogu väärtuslike kogude varjule viimisele, et hoida ära nende Saksamaale vedamine. Augustis 1944, mil Tartust saadeti teele varjepaika Läänemaal viimane ešelon ülikooli varadega, jäi Weltmann valvama Toomele raamatukogusse jäänud raamatuid. Varsti pärast Tartu langemist Nõukogude vägede kätte augustis 1944 nimetati Karl Weltmann Friedrich Puksoo asemel, kes arvati olevat põgenenud koos sakslastega, raamatukogu direktoriks. Raamatuvara päästmise eest autasustati Weltmanni 1947. aastal medaliga „Vapra töö eest Suures Isamaasõjas 1941–1945“.
​
Karl Weltmanni direktoriks oleku ajal algas raamatukogu kogude ideoloogiline puhastamine nõukogude tsensuurieeskirjade kohaselt. „Puhastustöö“ käigus segi paisatud kogud ja kataloogid ning raamatute-ajakirjade kontrollimine enne laenutamist muutsid lugejatele raamatukogu kasutamise ebamugavaks. Kogude ümberpaigutamine ühest hoidlast teise, ühest majast teise ei jätnud aega saabuva kirjanduse kataloogimiseks. Mõistes, et ta ei suuda raamatukogu ees seisvaid probleeme lahendada, võib-olla ka hirmust saada rahvavaenlase süüdistus, sest ei pidanud põhjendatuks korraldada raamatukogu tööd Nõukogude Liidu kõrgkooliraamatukogude tüüppõhikirjaga ettenähtud struktuuriga ning viivitas keelatud kirjanduse eraldamisega, lahkus Karl Weltmann 1. septembrist 1949 direktori ametikohalt. Ta jätkas raamatukogus vanembibliograafi kohal Baltimaid käsitlevate venekeelsete materjalide bibliografeerimist kuni pensioneerumiseni 1951. aastal.
​
Oma rikkaliku raamatukogu (5200 köidet) pärandas Weltmann TÜ raamatukogule, kus seda säilitatakse temanimelise memoriaalkoguna.