Pierwsze dostępne nam zapiski dotyczące istnienia szkoły w Gaju Małym pochodzą z 1874r. Jednak powstanie szkoły sięga znacznie wcześniejszych lat, a świadczą o tym informacje przekazywane z pokolenia na pokolenie. ostatnio odkrytym źródłem historycznym, który świadczy o tym, iż szkoła istnieje znacznie dłużej niż mówią o tym zapisy w kronice szkolnej, jest dzwon wiszący na budynku starej szkoły zbudowanej w roku 1902-1903. Na zewnętrznej stronie dzwonu istnieje napis " Szkoła Gayu.w.1851". Świadczy to o tym, że Szkoła liczy 153 lata, a wcześniej dzwon musiał znajdować się na innym budynku niż obecnie. Pierwsze informacje pisemne zostały przedstawione przez nauczyciela, a zarazem kierownika ówczesnej szkoły Mercelego Zbonikowskiego. Donatorem szkoły w Gaju Małym był wówczas hrabia Raczyński, mieszkający na stałe w Dreźnie. Szkoła już w tamtych czasach była szkołą katolicką, w której uczono dzieci polskie w języku niemieckim. Biblioteka szkolna liczyła początkowo 19 egzemplarzy książek, później 39. Wszystkie były napisane w języku niemieckim, których treści ze względu na długie zdania i nieznane wyrazy stawały się niezrozumiałe. Do budynku szkoły przydzielono grunty orne o powierzchni 4,16 ha oraz chlew i stodołę. Do obwodu szkolnego należały miejscowości: Gaj Mały, Karolin, Pęckowo, Szczuczyn, Twardowo. Od 1888r. zastępcami M. Zbornikowskiego byli nauczyciele: Strzeszewski z Ostroroga i Vogel z Szamotuł. 1.X.1888r. stanowisko nauczyciela i jednocześnie kierownika szkoły objął Dolatowski, który podobnie jak jego poprzednicy był katolikiem. Szkoła w Gaju Małym liczyła wówczas 137 uczniów. Do jej obwodu należały: Gaj Mały (majątek i wieś), Karolin, Pęckowo, Szczuczyn i Twardowo.

Parcelacja rozmaitych gruntów, na których utworzono samoistne gospodarstwa oraz przekształcenie należących dawniej do Pęckowa zagród, osobny folwark ze zbudowanymi kilkoma domami spowodowały wzrost liczby mieszkańców, a tym samym i liczby dzieci. Wolne mieszkania zostały zajęte przez nowo przybyłych kolonistów. Stopniowo wzrastała w szkole liczba uczniów, która w roku szkolnym 1902/1903 wynosiła 216.Ze względu na wzrastającą liczbę dzieci budynek szkolny został przebudowany. Utworzone zostały 3 izby szkolne. Mieszkańcy Szczuczyna i Twardowa, których dzieci miały do przebycia drogę do szkoły o odległości 3-6 km, wysunęli postulat posiadanie własnej szkoły. Dla miejscowości: Szczuczyn, Twardowo, Grabówiec zbudowano jednoklasowy budynek szkolny. Natomiast w Gaju Małym powstała szkoła o dwóch izbach lekcyjnych. Z dawniejszych izb lekcyjnych utworzono mieszkania dla nauczycieli. Nauka w nowych szkołach została podjęta 20.X.1902r. z polecenia inspektora szkolnego Lindnera. Do budowy szkoły przyczynił się ówczesny donator hrabia Karol Raczyński oraz gospodarze z Gaju Małego. Do 1919r. stanowisko nauczyciela szkoły w Gaju Małym piastowali: Adolf Werner, Maksymilian Raabe, Arentowicz, Telesfor Schuster i Roth. Donatorem szkoły był hrabia Zygmunt Raczyński, a do obwodu szkolnego przydzielono również grunty orne o powierzchni 4,13 ha.

Wraz z odzyskaniem niepodległości politycznej przystąpiono do budowy odrodzonej szkoły polskiej, ożywionej duchem najwyższych ideałów narodowych. Szkoła powszechna jako pierwsza uczelnia i pierwszy zakład wychowawczy, która rozpoczęła wielkie dzieło kształcenia przyszłych obywateli Rzeczpospolitej stanowiła podwalinę całego szkolnictwa. Aby jak najszybciej spolszczyć szkoły ustanowiono urząd doradców polskich przy inspektoratach szkolnych, którzy mieli kontrolować niemieckich inspektorów. Mała liczba polskich nauczycieli była powodem do prowadzenia kursów uzupełniających i dokształcających. Od 1919r. udzielono nauki we wszystkich przedmiotach po polsku. Dotychczasowego nauczyciela Schustera usunięto, ponieważ nie chciał uczyć dzieci polskich w języku polskim. Pierwszego kwietnia 1919r. kierownictwo szkoły w Gaju Małym powierzono panu Piątkowi ze Szczepankowa. W ciągu zaledwie jednego roku ze względu na przesiedlenia posada kierownika inspektoratu w Szamotułach ulegała zmianie. Po dotychczasowym inspektorze Lindnerze stanowisko kierownika inspektoratu obejmowali: Surdok z Biezdrowa, Sowiński z powiatu obornickiego, Andrzejewski i Rosochowicz z Kępna. W 1921r. do Szkoły w Gaju Małym uczęszczały dzieci z Gaju Małego, Karolina i Pęckowa w liczbie 210. Wraz ze wzrastającą liczbą dzieci w szkole Kuratorium ustanowiło dodatkową posadę nauczycielską, która otrzymała Maria Grusówka oraz utworzono dodatkową klasę. Wcześniej uczyły nauczycielki: Rakoczanka z powiatu Brzeskiego, Perzewska. Z powodu małej liczby dzieci z dniem 1 września 1925r. została zlikwidowana szkoła ewangelicka. Zlikwidowano również ewangelicką gmine szkolna, a jej majątek oraz członków przeniesiono do katolickiej gminy szkolnej w Gaju Małym. Kolejnymi nauczycielami w szkole w Gaju Małym byli: Pani Wylegałówna z Dusznik, Zofia Czaplicka, Wiktor Hildebrandt. W latach przedwojennych były organizowane ogólnowiejskie uroczystości związane z aktualnymi wydarzeniami politycznymi i tradycjami ludowymi. Np. obchody imienin prezydenta, marszałka, naczelnika państwa, Dzień Napoleona, Święto Amerykańskie, 29 listopada, Święto Konstytucji 3 Maja, święto sadzenia lasu. W szkole w Gaju Małym, jak i na terenie całego państwa odbywały się obchody, był to tzw. " Tydzień Szkoły Powszechnej " - tydzień propagandowy celem popierania budowy szkół powszechnych. Osiągnięcia i praca szkoły była kontrolowana przez inspektora szkolnego i wizytatorów. Po odzyskaniu niepodległości w dowód wdzięczności Opatrzności Boskiej za odzyskaną wolność gmina Gaj Mały postanowiła wybudować figurę Serca Jezusowego. Figura powstała na rozwidleniu dróg Gaj Mały - Karolin, a poświęcił ją proboszcz parafii szamotulskiej dziekan Kaźmierski. w fundamencie figury zamurowano zalakowaną butelkę z dokumentem erekcyjnym o następującej treści: "Dokument Erekcyjny - Kiedy z woli miłosierdzia Bożego rządził katolickim kościołem papież Pius XI, a z woli narodu Prezydentem Najjaśniejszej Rzeczpospolitej był p. Ignacy Mościcki, I Marszałkiem Polski i Jej budowniczym p. Józef Piłsudski, wojewodą p. hr. Roger Raczyński, kuratorem Okręgu Szkolnego p. dr Joachim Namysł, starostą powiatu p. Karpiński, proboszczem parafii ks. dziekan Bolesław Każmierski, kierownikiem miejscowej szkoły i zarazem sołtysem p. Wojciech Piątek staje z inicjatywy kierownika szkoły i dzięki ofiarności miejscowej ludności ta figura Serca Jezusowego jako dowód wdzięczności Opatrzności Boskiej za odzyskaną wolność. Niniejszy dokument podpisano, pieczętowano i w tym miejscu na wdzięczną pamiatkę wmurowano. Działo się w Gaju Małym, w dzień Matki Boskiej Zielnej, 15 sierpnia Roku Pańskiego tysiąc diewięćset trzydziestego pierwszego".