Kauno gubernijos gimnaziją Maironio tėvai pasirinko, matyt, dėl to, kad Šiaulius buvo sunku pasiekti, nors mokslas Kauno gimnazijoje kainavo brangiau (1874 m., kaip minėta, parengiamojoje klasėje reikėjo mokėtis per metus 30 rb, o kitose klasėse – po 40 rb, tuo tarpu Šiauliuose tuo pačiu metu parengiamojoje klasėje metinis mokestis buvo 24 rb, kitose – po 30 rb).
Prieš stodamas į gimnaziją, Jonukas bene pusmetį mokėsi valdinėje mokykloje, greičiausiai Betygaloje. Paskui per vasarą jį mokė vienas iš Pasandravio Astrauskų. Galima suprasti, kad egzaminams jis pasirengė silpnai. Į parengiamąją Kauno gimnazijos klasę 1873 m. jį priėmė gal todėl, kad tuo metu vyravo tendencija priimti mokytis daugiau valstiečių vaikų, kurie, kaip tikėjosi caro valdžia, tikriausiai lengviau pasiduos oficialiai carinei ideologijai ir sudarys atsvarą iš bajorų kilusiems.
Pradžioje mokslas Jonukui sekėsi prastai: rusiškai jis nemokėjo, tad, anot J. Tumo-Vaižganto, „nieko nesuprato, nieko nesuvokė“ ir liko toje pačioje klasėje antriems metams. Bet po to pradėjo mokytis gerai ir visą laiką sklandžiai žengė iš klasės į klasę. Dar parengiamojoje klasėje išsiskyrė matematiniais sugebėjimais, matyt, paveldėtais iš tėvo. Užtat jį pamėgęs mokytojas G. Izmailovas pranašavo Mačiuliui aukštą karjerą. „Tot vėsoko pojdiot“, – sakydavęs. Jonas Mačiulis, baigęs keturias klases, norėjo stoti į Kunigų seminariją, bet tėvai griežtai reikalavo, kad sūnus baigtų gimnaziją. Sūnus pakluso.
Aukštesniosiose klasėse jau ima aiškiau formuotis būsimo poeto individualybės bruožai. Šeštoje klasėje prabunda literatūrinis talentas, humanitariniai interesai. Jo rašomieji darbai iš literatūros atkreipia mokytojo dėmesį. Literatūra tampa labiausiai dominanti sritis. J. Mačiulio rašinį „Apie draugystę“ literatūros mokytojas, Peterburgo universiteto auklėtinis apibūdina kaip giliai subrendusio, gyvenimą pažįstančio žmogaus darbą. Galbūt šiuo metu J. Mačiuliui parašo ir pirmuosius eilėraščius lenkų kalba, kuriuos vėliau, jau gimnazijoje pradėjęs rašyti lietuviškai, sudegina.
J. Tumas-Vaižgantas teigia, kad aukštesniosiose klasėse J. Mačiulis „pergyveno rimtų abejojimų dėl tikėjimo.“ Manoma, kad į jo rankas bus pakliuvusi viena kita populiari anuo metu draudžiama materialistinės pasaulėžiūros knygelė, gamtos ir visuomenės gyvenimo reiškinius aiškinanti kitaip negu mokykloje. Bet šitai nepaliko kokių nors pastebimų pėdsakų bręstančio poeto sąmonėje.
Gimnaziją Jonas Mačiulis baigė 1883 m. pavasarį. Brandos atestate pažymiai ne ypatingai geri: daugiausia turėjo ketvertų, o graikų kalbos, fizikos bei matematinės geografijos – trejetus. Per egzaminus dar gavo lotynų kalbos trejetą ir tik iš tikybos puikavosi vienintelis penketas. Kaip nurodo prof. V. Zaborskaitė, „matyt, gabaus jaunuolio interesai turėjo aiškų profilį: jie buvo pakrypę lietuviškųjų dalykų ir kūrybinių bandymų linkme, o gimnazijoje mokomieji atsidūrė antrame plane.“
