1918年，周余德受聘到内黄县城任县女子小学教师，遂让12岁的祖训入县国民初小读书。当时，初小主要课程是算术和作文。因有良师教导，周祖训学业进步很快。校长张清湘兼任国文课老师，每有作文，他常常自己先作一篇示范。距县城三里处的黄河故道上有一处“杏岗芳艳”景观，每到春天，杏花盛开，芳天菲地，蜂蝶飞舞，清爽宜人，游客络绎不绝，初小师生们也常到那里游玩。一天，张老师出了一道《游杏岗》的作文题。全班同学各写一篇，大致都是描写风景之类。张老师认真地批阅后，对全班同学说：“写这类文章，要有所寄托，要能触景生情，寄物见志。”随后拿出自己写的那篇，念给大家听，并交给同学们传阅。张老师在精彩地描写杏岗风景的同时，点出“一年之计在于春”，说春暖花开的季节，正是读书的好时间；一个人的青少年时期，有如一年中的春天，正处在长身体长知识的关键时刻，要珍惜时光，发愤读书，以后才能成为栋梁之才。张老师的示范和教诲，对周祖训启迪极大。这一年，他的写作能力和水平提高很快。
翌年暑期，周祖训以第一名的成绩考入县立高等小学。国文考试是命题作文，题目叫《种树记》。周祖训以种树比喻育人，并引用古语“十年之计，莫如树木；百年之计，莫如树人”，比喻培育人才是长久之计，亦形容培养人之不易。他的此篇作文是100多名考生中最优秀的，得到学校领导和国文教师曹秉仁的一致赞赏。曹秉仁系晚清廪生，教学严谨，思路清晰。“五四”运动后，提倡白话文之声响遍全国，曹秉仁开始选讲梁启超、鲁迅、胡适等人的白话文，并教学生试用白话作文。在曹秉仁的影响下，周祖训首次读了《水浒传》、《儒林外史》、《西游记》、《老残游记》等。
县立高等小学的课程有国文、算术、历史、地理、物理、化学、英语等，少年周祖训从枯燥的“四书五经”到五花八门的社会、自然科学知识天地，一下子挣脱了千百年来认定的“圣贤书外无学问”的羁绊，眼界大开，兴趣盎然。特别是学校里的《东方杂志》、《学生杂志》、《少年杂志》等新报刊，给周祖训提供了丰富的精神食粮，他觉得面前出现了一个崭新的世界，诱发他不断思考，如饥似渴地去学习。他从这些报刊中了解到许多新知识、新思想和学习方法及新名词。如“德赛二先生”（即民主与科学）、“提倡新文学，反对旧文学；提倡白话文，反对文言文”、“劳工神圣”、“教育救国”、“科学救国”等等。
周祖训特别喜欢《少年杂志》月刊。《少年杂志》内容丰富，包括自然科学、社会科学和文萃等各种新知识。为阅读方便，他自己订了一份。每来一期，他都爱不释手，从第一页读起，直至读完为止，以后还不时翻阅，不仅使他得到许多课本中得不到的知识，更重要的是使他养成了读课外书籍的良好习惯。有一期《少年杂志》，内有一篇题为《三W主义》的文章，大意是：想要真正了解一件事物，必须问它是“什么”、“怎么样”、“为什么”，这是认识问题、认识世界的一个思维方法。这三个单词的英文写法分别为“what”、“how”和“why”，因为都含有“W”，故叫“三W主义”。这篇文章对周祖训启发很大，使其在以后的学习和工作中，对一个问题或新的事物，都要问它是“什么”、“怎么样”、“为什么”，特别要弄清楚“为什么”，这使他终生受益匪浅。
周祖训在县城求学的四年间，祖父周余德遵循“严是爱，宠是害”的原则，对孙子的学习严格要求，一丝不苟；对孙子的物质生活，在保证温饱的前提下，从不娇生惯养，不乱花一分钱，有时甚至达到近乎苛刻的地步。周宋村距内黄县城40里，四年间，无论是酷暑盛夏，还是数九隆冬，年逾半百的爷爷和十来岁的孙子，不知往返多少趟，家里有骡马从未骑过，家中有轿、车从未坐过，总是徒步跋涉。这既不是用不起，也不是吝啬钱财，而是周余德高瞻远瞩，他要从小培养祖训吃苦耐劳的精神。第一次和爷爷冒着似火骄阳徒步进城时，刚满12岁的祖训还从未走过远路，爷孙俩一路上歇了四次，仍累得汗流浃背，口干舌燥。最后一次歇脚是在路旁一家小茶店的凉棚下，喝罢茶水后，小祖训的右脚痛得再也站不稳了。有旅游经验的祖父给他脱去鞋子，发现脚磨了一个大血泡。祖父请人帮助把血泡挑破，流出一些带血丝的明晃晃的液体。恰在这时，一个见机行事招徕生意的独轮车夫走上前来，用劝诱的口气说：“唉呀！孩子多可怜呀，请坐独轮车吧，我要最低价。”精疲力尽的小祖训用企盼的目光望着爷爷。爷爷没有心软，而是在心中认真地掂量掂量，暗暗地狠狠心，轻声对车夫说：“我们不用。现在让小孩锻炼锻炼，吃点苦，对他一辈子都大有益处！”当小祖训懂事地一瘸一拐地继续向前挪动时，祖父的眼睛都湿润了。为了鼓励小祖训向困难作斗争，爷孙俩共同朗诵起孟子的名言：“故天将降大任于是人也，必先苦其心志，劳其筋骨，饿其体肤，空乏其身，行拂乱其所为，所以动心忍性，曾益其所不能。”彼此相互鼓励着，顽强地向目的地进发。对此，周祖训一直记忆犹新，他感慨地说：“祖父的从严要求，对我终生益处很大！”
1922年夏，16岁的周祖训在县立高小毕业后，分别以第一名和第二名被河南安阳省立第十一中学和河南省立汲县第五师范学校录取。报考这两个学校的考生都是五六百人，各录取50名。这就是说，录取比例不及十分之一。由此可见，周祖训的学习成绩是十分优秀的。默默无闻的英俊少年周祖训，一下子驰名故里，众人交口称誉：一举夺取“状元”、“榜眼”，真是“神童”、“才子”！周祖训却谦虚而诚恳地说：“我不聪明，但很用功。”闻者连连颔首称羡。
