Kārlis Zariņš dzimis 1889. gada 9. decembrī (26. decembrī pēc vecā kalendāra) Liepājā, zirgu puiša Jorēna Žagara un mājkalpotājas Annas Žagares (dz. Rukuta) ģimenē. Žagaru (jeb Zāgaru) ģimene gan mainīja uzvārdu un kļuva par Zaļumiem, tomēr K. Zariņa kristības apliecībā viņa uzvārds ir Žagars. Viņam ir jaunāka māsa Tusnelda Līne un brālis Rūdolfs.
Zariņa pirmā skola ir neliela Liepājas vācu privātskola iesācējiem, vēlāk – privāta vācu pirmmācības skola un krievu skola, kurā viņš mācās vien dažus mēnešus. 1898. gadā Zariņa ģimenes mājokli noposta ugunsgrēks un viņi pārceļas uz Pēterburgu. Sākumā ģimene apmetas pie radiem, vēlāk viņiem piešķir nelielu istabiņu psihiatriskās slimnīcas telpās, kur vecāki ir dabūjuši darbu.
1899. gadā Zariņu ģimene atgriežas Rīgā un apmetas uz dzīvi Vecrīgā, Lielajā Monētu ielā. Šajā pašā gadā Zariņš uzsāk skolas gaitas Genteļa vadītajā privātskolā, taču mācās tur tikai dažus mēnešus, jo skolas vadītājs nomirst. Zariņi gada laikā maina trīs dzīvesvietas, līdz vecāki sāk strādāt slimnīcā Pārdaugavā (pietiekamu ziņu nav, tomēr var spriest, ka tā ir Paula Stradiņa slimnīca), un viņiem tiek ierādīts neliels dzīvoklis divstāvu namā aiz slimnīcas saimniecības ēkām. Šajā dzīvoklī ģimene nodzīvo piecus gadus.
1900. gadā Zariņš iestājas Rīgas elementārskolā (vadītājs P. Rode). Šeit iepazīstas ar tādiem autoriem kā J. Poruks, R. Blaumanis, Rainis u. c., viņš izlasa Raiņa tulkoto J. V. Gētes „Faustu”. Šajā laikā mostas arī Zariņa nacionālā apziņa. Tomēr skolu Zariņš nepabeidz. 1904. gada pavasarī pēc kādas demonstrācijas tiek aizturēts viņa skolasbiedrs, pie kura atrod Zariņa 1903. gadā izdoto skolēnu žurnālu.
1904. gada rudenī Zariņš mēģina iestāties Mangaļu jūrskolā, kur netiek uzņemts tuvredzības dēļ. Tiek uzskatīts, ka pēc tam dažus mēnešus viņš strādā par kuģa puiku.
No 1905. līdz 1906. gadam Zariņš apmeklē R. Blūma mākslas skolu un zīmēšanas kursus, tomēr skolu viņš pamet, jo neuzskata, ka varētu kļūt par gleznotāju. Šajā laikā Zariņš dzied Jaunā Latviešu teātra un Apollo teātra korī, iepazīstas ar vairākiem aktīviem inteliģences pārstāvjiem un ienāk viņu vidū. 1906. gadā Zariņš tiek apcietināts Dēliņa-Čoma kaujinieku grupas konspiratīvajā dzīvoklī, bet pierādījumu trūkuma dēļ ir atbrīvots.
No 1906. līdz 1907. gadam Zariņš uzturas Pēterburgā. Pēc atgriešanās Rīgā viņu sāk izsekot policija. 1908. gada 17. janvārī vecāku dzīvoklī notiek kratīšana, kurā atrod nelegālo literatūru, tostarp paša Zariņa rakstītu uzsaukumu. 1908. gada 13. aprīlī viņš līdz tiesai tiek izsūtīts uz Smoļensku. Tā kā ir beidzies kara stāvoklis, 15. septembrī Zariņam tiek atļauts atgriezties Rīgā un apmesties pie vecākiem, kuri tolaik dzīvo Luīzes ielā. 1908. gada 8. decembrī notiek Sevišķā Pēterburgas tiesu palātas nodaļas sēde, kurā tiek iztiesāta apsūdzība arī pret Zariņu. Viņam piespriež astoņus mēnešus ieslodzījumā un uzreiz arī apcietina, jo apsūdzētais nevar samaksāt 1000 rubļus drošības naudu. Zariņu atbrīvo jau pēc septiņiem mēnešiem, 1909. gada 8. jūlijā.
Pēc atbrīvošanas, no 1909. gada līdz 1910. gada augustam un no 1911. līdz 1912. gadam, Zariņš periodiski piestrādā Jaunajā Rīgas teātrī, lielākoties pildot kārtības sarga pienākumus. Teātrī viņš strādā arī laikā no 1914. gada augusta līdz oktobrim. Laikā no 1909. līdz 1914. gadam Zariņš vairākkārt uzturas Pēterburgā, kā arī Maskavā. Iztiku pelna ar tulkojumiem un atdzejojumiem. Viņa paša pirmais stāsts „Mans tēvocis” publicēts 1911. gadā laikraksta „Latvija” literārajā pielikumā.
1915. gadā Kurzemē iebrūk vācu karaspēks un Zariņu ģimene dodas bēgļu gaitās uz Odesu. Odesā Zariņš pavada kopumā trīs gadus. Dzīves apstākļi ģimenei ir sarežģīti, 1916. gadā nomirst brālis Rūdolfs, kurš tobrīd ir tikai 13 gadus vecs. Pašu Zariņu iesauc kara dienestā. Viņš strādā turpat Odesā, kur ir divīzijas štābs. Vēlāk Zariņš strādā bankā.
1918. gadā Zariņš atgriežas Rīgā. 1919. gadā, kad pie varas ir padomju valdība, Zariņš tiek mobilizēts un strādā par ierēdni kādā padomju iestādē. Komandējuma laikā Talsos Zariņš iepazīstas ar savu nākamo sievu Mildu Vihmani. Viņu ģimenē piedzimst divas meitas – Mirdza Karmena un Aija Ariadne.
1919. gada 9. oktobrī Zariņš iestājas karadienestā. Viņš dienē Armijas virspavēlnieka štāba informācijas nodaļā. 1920. gada 30. septembrī tiek atvaļināts un kādu laiku strādā arī laikraksta „Latvijas Kareivis” redakcijā.
1920. gada beigās iznāk Zariņa pirmais stāstu krājums „Skumju paradīze”, 1921. gadā – pirmais romāns „Dzīvība un trīs nāves”. Turpmāk cits citam seko vairāki stāstu krājumi „Barons un citi stāsti” (1923), „Svēres” (1923), „Savādi cilvēki” (1923), „Roberts. Sirdsapziņa. Litiņas fantāzija. Kaspars Kuksītis” (1925), „Noslēpumi” (1926), „Jūras bērni” (1927), „Rudens stāsti” (1928), „Starp divām mūžībām” (1930). Tāpat iznāk vairāki romāni – „Brāļu dēli” (1922), „Pelnu viesulis” (1928), „Spīganas purvā” (1929), „Elma ugunis” (1930), „Atvars” (1931). 1923. gadā iznāk pirmā luga „Sakostā roka”, tai seko „Gulbja dziesma” (1929), „Te nu bija” (1930), „Negudrā Ģertrūde” (1933), „Žagatu ligzdā” (1934), „Zemes spēks” (1932), „Randenes Barbāra” (1935), „Lielās sirdis” (1938). 1929. gadā tiek publicēts viņa raksts „Domas par Raini”, kas ir savdabīgs un filozofisks skatījums uz Raiņa daiļradi. 1920. – 1930. gados top arī daudz recenziju un literatūrkritisku rakstu latviešu periodikā.
Par stāstu krājumu „Gluži veltīga varonība” (1926) Zariņam piešķir Kultūras fonda godalgu. Šī godalga viņam tiek piešķirta arī par romāniem „Dārza māja” (1930) un „Kaugurieši” (1938).
Laikā no 1927. līdz 1931. gadam Zariņš nestrādā algotu darbu, viņš pārtiek no literārā darba. No 1931. līdz 1940. gadam Zariņš strādā par Finanšu ministrijas Nodokļu departamenta nodokļu kontrolieri. 1935. gadā viņš uz neilgu laiku tiek iecelts par Izglītības ministrijas referentu literatūras un teātra jautājumos.
1941. gadā VAPP Daiļliteratūras apgādā iznāk Zariņa romāns „Kaugurieši”. Šis darbs ievada „Vēsturisko romānu sēriju”. 1941. gada 14. jūnijā notiek arī filmas „Kaugurieši” (režisors V. Pūce) pirmizrāde.
1941. gada otrajā pusē Zariņš vada laikraksta „Tēvija” literatūras nodaļu. Šajā laikrakstā publicējas daudzi pazīstami latviešu rakstnieki, piemēram, Aspazija, J. Grīns, J. Jaunsudrabiņš, K. Egle, A. Eglītis, A. Švābe u. c.
1944. gadā, kad fronte tuvojas Rīgai, Zariņš ar ģimeni pārceļas uz Talsiem. Rīgā Zariņš atgriezties baidās, tāpēc ģimenes dzīvoklis un viss, kas tajā atrodas, arī Zariņa privātā bibliotēka, tiek zaudēts. Bibliotēkas zaudējums viņam ir liels trieciens. Lai to kaut nedaudz kompensētu, viņš veido pats savu grāmatu, kurā izraksta vairāku iecienītu autoru, piemēram, Raiņa, J. Poruka, K. Skalbes, E. Virzas, J. Medeņa, K. Krūzas, E. Veidenbauma u. c., dzejas un prozas fragmentus. Vēl bez šīs paša iesietās grāmatas Zariņam ir ārkārtīgi liels piezīmju klažu krājums, kuras glabā lielu daļu liecību par viņa filozofiskajiem uzskatiem.
No 1946. gada 14. augusta līdz 1956. gada 16. decembrim Zariņš strādā Talsu 18. Ceļu remonta un būves iecirknī. Sākumā viņš ir remontstrādnieks, vēlāk – atbildīgais par dārzkopību.
Pēc kara Zariņš atgriežas pie romāna „Kāvu gadi”, kuru 1943. gadā cenzūra nav ļāvusi izdot grāmatā, daļa no tā iespiesta „Tēvijā”, un sešas romāna turpinājuma „Pēclaikā” nodaļas tiek iespiestas laikrakstā „Latvju Mēnešraksts”, ko vada K. Skalbe. Romāns „Kāvu gadi” iznāk 1996. gadā.
Pēckara gados Zariņš arī tulko, viņš pārtulko Antona Čehova „Lāci” un Ļeva Tolstoja stāstus. 1961. gadā Zariņš uzraksta vēsturisku lugu „Engures karš”. 1960. gados (no 1956. līdz 1969. gadam) top arī Zariņa sentenču un aforismu krājums „Pārdomas, baložiem maizi drupinot”, kas iznāk 1993. gadā. 1975. gadā iznāk sešu gadu laikā pārstrādātais „Kauguriešu” izdevums.
1978. gada 30. decembrī Zariņa mūžs apraujas, viņš apbedīts Talsos, Jauviņu kapos.
Zariņš sarakstījis 13 stāstu krājumus un 9 romānus. Līdz 20. gadu vidum Zariņa prozā dominē 1905. gada revolūcijas un Latvijas Brīvības cīņu tēlojums. Šeit var minēt romānus "Dzīvība un trīs nāves", kurā tēlots 1905. gada revolūcijas atplūdu laiks, un "Brāļu dēli", kurā tēlotas latviešu sabiedrības noskaņas pirms 1. pasaules kara Pēterburgā, Rīgā un kara laikā bēgļu gaitās. Šajos darbos autobiogrāfiskie motīvi savijas ar simbolisma estētikai raksturīgu cilvēka skatījumu. Šīs iezīmes piemīt arī Zariņa stāstiem krājumos "Skumju paradīze", "Svēres", "Savādi cilvēki", "Gluži veltīga varonība", tajos rodama plaša tipu galerija, risināta problēma par labā un ļaunā cīņu cilvēkā, tēlota militārās varas balstīšanās uz ļauno cilvēkā, tiek tēlot varonis, kas jebkuros apstākļos saglabā savus dzīves principus. Zariņa daiļrades sākumā jūtama simbolistu, E. A. Po, F. Dostojevska u.c. rakstnieku ietekme, kas vēlāk pāraug stilizācijā, pazīstamu motīvu un sižetu apzinātā pārveidojumā.
Sadzīves situācijās balstīti, feļetoniski iekrāsoti ir Zariņa satīriskie romāni "Pelnu viesulis" un "Spīganas purvā", kuros tēlota ideālu krīze sabiedrībā. Romānā "Elma ugunis" rādīts valsts apvērsuma mēģinājums. Stāstu krājumā "Starp divām mūžībām" centrā dzīves salauzti cilvēki. Romānos "Dārza māja" un īpaši "Vainīgais" (1940, periodikā ar nosaukumu "Atvars"), kurā būtiska nozīme vēstījuma intelektualizācijai, filozofiskā skatījumā risināta morāles problemātika. Stāstu krājumā "Burvja aplī" (1936) šās problemātikas traktējumā īpaša nozīme ir t.s. sirdsšķīstajiem ļaudīm.
Zariņa romāniem "Kaugurieši", par 1802. g. Kauguru nemieriem, "Kāvu gadi" par Ziemeļu karu, un tā turpinājumam "Pēclaikā" raksturīga vēsturiska precizitāte, kas panākta pateicoties dokumentu un zinātnisku pētījumu studijām. Darbu ar romānu "Kāvu gadi" Zariņš turpināja arī pēc 2. pasaules kara (izdots 1997).
Zariņš sarakstījis 10 lugas, galvenokārt sadzīves lugas, to darbība atšķirībā no prozas risināta pārsvarā lauku vidē. Tēmas un ideoloģisko nostādņu dēļ populāra bija drāma "Zemes spēks". Raksturu spilgtuma ziņā nozīmīgas ir lugas "Negudrā Ģertrūde" un "Randenes Barbāra", pēdējā lugā darbība risinās Latvijā 16. gadsimtā. Vēsturisks motīvs izmantots arī lugās "Tērvetes lielkungs" (1935), kur attēloti notikumi Latvijā 13. gadsimtā, un "Engures karš" par zemnieku nemieriem 19. gadsimta 80. gados.
Zariņš sarakstījis aptuveni 200 recenzijas un rakstus par literatūru, tajos izklāstītas viņa estētiskās idejas, kurām raksturīgs pozitīvisma noliegums, cilvēcisko vērtību prioritāte pār politiskajām idejām mākslas darbā un jaunrades brīvība. Zariņš rakstīja arī par literatūras formas un daiļrades procesa jautājumiem un recenzēja teātra izrādes. Pēc 2. pasaules kara viņš sarakstīja autobiogrāfisku stāstu "Jāņa Zaļuma dzīves stāsts" (1989) un aforismu un sentenču krājumu "Pārdomas, baložiem maizi drupinot".