Pirmoji valstybinė viešoji biblioteka dabartinio rajono ribose įkurta Kelmėje 1937 m. vasario 1 d. Oficialiai Kelmės viešoji biblioteka buvo atidaryta tik su 180 tomų fondu.
Pirmuoju bibliotekininku dirbo Antanas Stabingis (iki 1940 m.). Už naudojimąsi biblioteka buvo imamas 10 Lt garantinis mokestis ir 0,25 Lt abonentinio mokesčio per mėnesį.
1944 m., frontui einant per Kelmę, beveik viskas sudegė, tuometinis bibliotekininkas Jonas Lazickas suspėjo išgelbėti tik 300 knygų.
Pokario metais biblioteka pradėjo sparčiai augti: 1946 m. Kelmės viešojoje bibliotekoje skaitytojų skaičius padidėjo iki 400, o knygų fondą sudarė 3500 egz. 1951 m. spalio mėnesį atidaryta vaikų biblioteka, kuriai vadovauti paskirta Dora Šapiraitė. Išaugus skaitytojų skaičiui, augant jų poreikiams, 1985 m. atsirado Tarpbibliotekinis abonementas (TBA), padedantis žymiai geriau patenkinti bibliotekos lankytojų pageidavimus.
1977 m. rajono bibliotekos sujungiamos į centralizuotą sistemą. Kelmės rajoninė biblioteka tapo Kelmės rajono centrine biblioteka su 43 kaimo ir 2 miestų filialais.
Centrinėje bibliotekoje buvo įkurti 5 skyriai: skaitytojų aptarnavimo, vaikų literatūros, bibliografinis – informacinis, spaudinių komplektavimo ir tvarkymo bei metodikos. Vėliau bibliografinis – informacinis skyrius buvo panaikintas. 2012 m. vaikų literatūros skyrius prijungtas prie skaitytojų aptarnavimo – informavimo skyriaus, o metodikos skyrius reorganizuotas į metodikos, informacijos ir technologijų skyrių.
1978 m. centrinė biblioteka įsikūrė dabartinėse patalpose.1995 m. birželio mėnesį centrinei bibliotekai suteikiamas rašytojos Žemaitės vardas. Netrukus ji imta vadinti Kelmės rajono savivaldybės Žemaitės viešąja biblioteka.
1999 m. bibliotekai suteiktas ekonominis savarankiškumas ir nuo šiol ji gali disponuoti skirtomis lėšomis.
2001 metai buvo reikšmingi viešajai bibliotekai – pradėta naudotis naujais informacijos ryšiais (Internetu). Bibliotekoje yra 10 kompiuterizuotų vietų vartotojams.
Nuolat organizuojami knygų pristatymai, literatūrinės parodos, kiti renginiai, populiarinantys knygą.
2003 m. istoriškai reikšmingi Žemaitės viešajai bibliotekai: gegužės mėnesį įdiegta LIBIS katalogavimo ir komplektavimo posistemė, vėliau šioje integralioje programoje pradėjo dirbti bibliografai: atliekamas analizinis katalogavimas, bei periodikos duomenų registravimas. 2008 m. įdiegta LIBIS Skaitytojų aptarnavimo posistemė.
2008-2012 m. Kelmės Žemaitės viešoji biblioteka dalyvavo projekte „Bibliotekos pažangai“, kurį rėmė B. ir M. Geitsų fondas, Microsoft korporacija, LR Vyriausybė bei vietos savivaldybė.
Įgyvendinant projektą, modernizuota ir/ar atnaujinta kompiuterinė technika Kelmės Žemaitės viešojoje bibliotekoje ir 21 – ame jos padalinyje.
2016 m. vasario 5 d., įgyvendinant „Bibliotekos pažangai-2“ finansuojamą projektą „Inovatyvi bibliotekos erdvė – jaunimo saviraiškai“, bibliotekoje įkurta Jaunimo inovatyvi erdvė (JIE).