Dzimis Liepājā, zirgu puiša Jorēna Žagara un mājkalpotājas Annas Žagares (dzimusi Rukuta) ģimenē.
Žagaru (jeb Zāgaru) ģimene gan mainīja uzvārdu un kļuva par Zaļumiem, tomēr Kārļa Zariņa kristības apliecībā viņa uzvārds ir Žagars. Ģimenē vēl ir jaunāka māsa Tusnelda Līne un brālis Rūdolfs.
1898: Ģimenes mājokli noposta ugunsgrēks un viņi pārceļas uz Pēterburgu. Sākumā apmetas pie radiem, vēlāk viņiem piešķir nelielu istabiņu psihiatriskās slimnīcas telpās, kur vecāki dabūjuši darbu.
1899: ģimene atgriežas Rīgā, apmetas uz dzīvi Vecrīgā, Lielajā Monētu ielā. Gada laikā maina trīs dzīvesvietas, līdz vecāki sāk strādāt slimnīcā Pārdaugavā (pietiekamu ziņu nav, tomēr var spriest, ka tā ir Paula Stradiņa slimnīca), un viņiem tiek ierādīts neliels dzīvoklis divstāvu namā aiz slimnīcas saimniecības ēkām. Šajā dzīvoklī ģimene nodzīvo piecus gadus.
1906: apcietināts Dēliņa-Čoma kaujinieku grupas konspiratīvajā dzīvoklī, bet pierādījumu trūkuma dēļ ir atbrīvots.
No 1906. līdz 1907: uzturas Pēterburgā.
Pēc atgriešanās Rīgā viņu sāk izsekot policija. 1908. gada 17. janvārī: vecāku dzīvoklī notiek kratīšana, kurā atrod nelegālo literatūru, tostarp paša Zariņa rakstītu uzsaukumu.
1908. gada 13. aprīlī: līdz tiesai izsūtīts uz Smoļensku, beidzoties kara stāvoklim, 15. septembrī tiek atļauts atgriezties Rīgā un apmesties pie vecākiem, kuri tolaik dzīvo Luīzes ielā.
1908. gada 8. decembrī notiek Sevišķā Pēterburgas tiesu palātas nodaļas sēde, kurā tiek iztiesāta apsūdzība arī pret Zariņu. Viņam piespriež astoņus mēnešus ieslodzījumā un apcietina, jo apsūdzētais nevar samaksāt 1000 rubļus drošības naudu. Zariņu atbrīvo pēc septiņiem mēnešiem, 1909. gada 8. jūlijā.
Pēc atbrīvošanas, no 1909. gada līdz 1910. gada augustam un no 1911. līdz 1912. gadam, periodiski piestrādā Jaunajā Rīgas teātrī, lielākoties pildot kārtības sarga pienākumus. Teātrī strādā arī laikā no 1914. gada augusta līdz oktobrim. Laikā no 1909. līdz 1914. gadam vairākkārt uzturas Pēterburgā, kā arī Maskavā. Iztiku pelna ar tulkojumiem un atdzejojumiem
1915: Zariņu ģimene dodas bēgļu gaitās uz Odesu. Odesā Zariņš pavada kopumā trīs gadus. Dzīves apstākļi ģimenei ir sarežģīti, 1916. gadā trīspadsmit gadu vecumā nomirst brālis Rūdolfs. Zariņu iesauc kara dienestā. Viņš strādā turpat Odesā, kur ir divīzijas štābs. Vēlāk strādā bankā.
1918: atgriežas Rīgā. 1919. gadā, kad pie varas ir padomju valdība, tiek mobilizēts un strādā par ierēdni kādā padomju iestādē. Komandējuma laikā Talsos iepazīstas ar savu nākamo sievu Mildu Vihmani. Ģimenē piedzimst divas meitas – Mirdza Karmena un Aija Ariadne.
1919. gada 9. oktobrī: iestājas karadienestā; dienē Armijas virspavēlnieka štāba informācijas nodaļā. 1920. gada 30. septembrī: tiek atvaļināts, kādu laiku strādā arī laikraksta "Latvijas Kareivis” redakcijā.
1927–1931: nestrādā algotu darbu, pārtiek no literārā darba.
1944: ar ģimeni pārceļas uz Talsiem. Rīgā Zariņš atgriezties baidās, tāpēc ģimenes dzīvoklis un viss, kas tajā atrodas, arī Zariņa privātā bibliotēka, tiek zaudēts. Bibliotēkas zaudējums viņam ir liels trieciens.