Školske kronike bilježe da su u Varšavskoj ulici na broju 18 krajem pedesetih godina 20. stoljeća djelovale dvije osnovne škole. Zbog velikog broja učenika, a nedostatnog prostora, Prva osnovna škola prešla je u nove prostore u Bogovićevoj ulici, a Druga osnovna škola ostala je u Varšavskoj ulici.

Početkom šezdesetih godina počela se graditi nova školska zgrada u velikom prostranom dvorištu između četiriju ulica: Gundulićeve, Masarykove, Preradovićeve i Ulice braće Kavurića (današnje Ulice Andrije Hebranga). Za ono doba bila je to jedna od najmodernijih zgrada namijenjenih osnovnom školstvu. Škola je bila osposobljena za izvođenje kabinetske nastave koja je bila pedagoška novost u školstvu tadašnjih zemalja socijalističkog uređenja. Škola je imala 16 učionica raspoređenih na tri kata.

Svečano otvaranje nove školske zgrade bilo je 15. rujna 1961. godine. Škola je na prijedlog Nastavničkog vijeća dobila ime po pjesniku Ivanu Gunduliću. Dvije godine kasnije počela je izgradnja školske dvorane koja je dovršena za godinu dana.

Nekada se u školu dolazilo iz Masarykove i današnje Hebrangove ulice. U drugoj polovici šezdesetih godina sastavni dio  osnovnih škola postale su školske kuhinje i blagovaonice te je dio ulaznog trijema naše škole bio zazidan i pretvoren u blagovaonicu. U tom razdoblju uveden je i cjelodnevni boravak.  

U četrdeset godina postojanja škole djelovalo je preko stotinu učitelja i profesora te više desetaka administrativnog i tehničkog osoblja.

Prvi ravnatelj OŠ Ivana Gundulića bio je Valent Horvat. Potom slijede: Katica Lang, Nada Fabijanić - Jovanović, Mirjana Grdović, Višnja Reljić, Zoran Čorkalo te današnji ravnatelj Robin Rašperger.

Danas je u školi zaposleno petnaest učiteljica razredne nastave te osamnaest učitelja/profesora predmetne nastave. Kolektiv čine stručne osobe koje se bave pisanjem i recenzijom udžbenika i vježbenica, mentori su i savjetnici te na druge načine prisutni u kulturnom, prosvjetnom i sportskom životu.Učionice su velike, moderno opremljene.

Škola ima vlastitu kuhinju i blagavaonicu, školsku knjižnicu, sportsku dvoranu, dva igrališta i parkić s ljuljačkama.

U školi rade dva stručna suradnika - psiholog i defektolog

Trenutno u školi postoji 18 odjeljenja od kojh su dva kombinirana dvojezična hrvatsko-mađarska odjeljenja za djecu mađarske nacionalnosti.

Prosječan broj učenika u odjeljenju se kreće do 25 što omogućava kvalitetnu nastavu i individualni pristup radu s učenicima.