1989 m. sausio 16 d. Panevėžio miesto liaudies deputatų tarybos vykdomojo komiteto sprendimu įsteigta Panevėžio miesto centrinė biblioteka. Ji buvo atskirta nuo Panevėžio viešosios – centrinės bibliotekos (tapusios regiono biblioteka) ir turėjo 16 filialų: 7 miesto masines bibliotekas ir 9 profsąjungų bibliotekas bei 6 kilnojamąsias bibliotekėles ir 8 išdavimo punktus. Profsąjungų bibliotekos netrukus atsiskyrė. Be nuolatinių patalpų, su labai mažu etatų skaičiumi Viešoji biblioteka galėjo suformuoti tik minimalią struktūrą: Spaudinių tvarkymo ir komplektavimo, Skaitytojų aptarnavimo, Informacijos ir bibliografijos skyrių, atliekantį ir skaityklos funkcijas. Vėliau vieno filialo pagrindu buvo suformuotas Vaikų literatūros skyrius.
1990 m. bibliotekos administracijai, pasitelkus Kultūros ministerijos bei Nacionalinės M. Mažvydo bibliotekos specialistus teko ginti vaikų bibliotekas. Absurdiška mintis išnaikinti vaikų bibliotekas, nes neva kiekviena mokykla turi po biblioteką, tuometiniams miesto kultūros valdininkams pasirodė išganinga.
Iki 1993-iųjų bibliotekos administracija su Spaudinių tvarkymo ir komplektavimo skyriumi, 30 tūkst. egz. Mainų fondu bei visa ūkio dalimi kraustėsi iš vienų patalpų į kitas keturis kartus. Minėtų metų pabaigoje jie buvo perkelti į avarines buvusio vaikų darželio patalpas. 2001 m. šie padaliniai buvo perkelti, nors ir į laikinas, bet jau tvarkingas patalpas Bendruomenių rūmuose.
1996 m. Viešajai bibliotekai buvo priskirti du bankrutuojantys knygynai nešildomose avarinėse patalpose.
1998 m. biblioteka gavo pirmuosius 2 kompiuterius. 1998 m. Viešosios bibliotekos direktorei Aurelijai Matulevičienei buvo suteiktas Labiausiai nusipelniusio panevėžiečio vardas kultūros srityje.
1999 m. uždarius vieną iš knygynų, suremontuotose patalpose atidarytas Smėlynės filialas, kito knygyno patalpose buvo įkurdinta „Židinio“ biblioteka. Vėliau atnaujintos ir maksimaliai pritaikytos lankytojų patogumui „Šaltinėlis“ patalpos.
Gerą postūmį miesto bibliotekų kaitai turėjo 1999 m. parengta Lietuvos bibliotekų modernizavimo programa, vėliau – Informacinės visuomenės plėtros programa. Keli sėkmingi Viešosios bibliotekos projektai atvėrė kelią į interneto erdves Informacijos (2001) bei Vaikų literatūros skyrių (2002), Smėlynės ir Parko bibliotekų (2002) lankytojams.
2002 m. įdiegtas LIBIS PĮ Dokumentų komplektavimo ir katalogavimo posistemis, pradėtas formuoti bibliotekos elektroninis katalogas.
2003 m. interneto prieigą turėjo „Židinio“, „Šaltinėlio“ ir „Žiburėlio“ bibliotekų lankytojai.
2005 m. Vaikų biblioteka „Žiburėlis“ iš nušiurusio keturių kambarių buto perkelta į naujai suremontuotas patalpas, sukurtas interjeras specialiai vaikams. „Židinio“ bei Šiaurinėje bibliotekose įrengti gausiai dekoruoti, spalvingi (dail. N. Labanauskienė) pasakų kambariai vaikams.
2006 m. suremontuotos Viešosios bibliotekos Informacijos skyriaus ir Abonemento patalpos, 2008 m. – Vaikų literatūros skyrius ir Šiaurinė biblioteka.
2008 m. visose miesto bibliotekose įdiegtas LIBIS PĮ Skaitytojų aptarnavimo posistemis.
2009 m. Viešosios bibliotekos administracijai, Dokumentų komplektavimo ir katalogavimo bei Ūkio skyriams buvo paskirtos suremontuotos patalpos.
2009 m. įgyvendinant tarptautinį projektą „Bibliotekos pažangai“ visose miesto bibliotekose buvo atnaujinta kompiuterinė bei programinė įranga, įrengtas bevielis interneto ryšys, pradėti gyventojų kompiuterinio raštingumo mokymai.
2010 m. įdiegtos naujos e-paslaugos vartotojams: dokumentų grąžinimo termino pratęsimas ir dokumentų rezervavimo galimybė bei automatinis informacijos apie besibaigiantį leidinio grąžinimo terminą siuntimas.
2011 m. du kartus biblioteka tapo projekto „Bibliotekos pažangai“ konkurso „Partneriškiausia biblioteka“ nugalėtoja ir buvo apdovanota dviejų periodinių leidinių metine prenumerata. Bibliotekų veikloje atsirado naujas reiškinys – savanorystė.
2012 m. startavo nauja bibliotekos svetainė www.panbiblioteka.lt, pritaikyta neįgaliesiems vartotojams bei išmaniesiems telefonams. Tinklaraščiui http://kelionesuknyga.blogspot.com/ konkurse „Inovacijų biblioteka“ nominacijoje „Už novatoriškus sprendimus“ delfi.lt portalo lankytojai skyrė trečiąją vietą.
2013 m. laimėjus finansavimą konkurse „Gyventojų skaitmeninio raštingumo mokymo bibliotekose stiprinimas“, miesto bibliotekos gavo 10 nešiojamų kompiuterių su PĮ bei 2 multimedia projektorius.
2014 m. bibliotekos įsiliejo į bendrą miesto „Panevėžys – Lietuvos kultūros sostinė 2014“ programą. Surengusios 110 renginių, kuriuose apsilankė per 3000 lankytojų, bibliotekos buvo įvertintos Panevėžio miesto savivaldybės padėka ir stikliniu Kultūros sostinės simboliu.
Savivaldybių viešųjų bibliotekų asociacija bibliotekų „Metų nominacijų“ konkurse Smėlynės biblioteką apdovanojo kaip kūrybiškiausią biblioteką, už įdomias iniciatyvas skaitymo skatinimo srityje.
2015 m. Vaikų literatūros skyrius „Žalioji pelėda“ „Metų nominacijų“ konkurse pelnė Savivaldybių viešųjų bibliotekų asociacijos nominaciją „Biblioteka – mažųjų draugas“ ir buvo apdovanotas specialiu prizu bei padėka.
Sėkminga projektinė veikla: iš viso vykdyta 10 projektų, iš jų 4 parėmė Lietuvos kultūros taryba, 5 – Panevėžio miesto savivaldybė bei didžiausią finansavimą gavo projektas „3D: Domėkis. Dalyvauk. Dalinkis“ (20284 Eur, „Bibliotekos pažangai 2“).