孔母对孔从洲要求严格，每次孔从洲从私塾回家，都要背书给她听。她虽然不懂书的内容，但只要孔从洲背得流利，就喜形于色，如果结结巴巴地背不出来，就显得很忧伤。孔从洲深感母亲的苦心，读书很用功。13岁时考进了当时的长安县第一高级小学，三年后又顺利地考上民立中学。但家里实在供不起他继续上学了，孔从洲只好回家务农，成为赶马车的把式。
孔从洲虽回乡种地，却始终难以安心。他对当时的社会黑暗现象深恶痛绝，但又不知道该怎么办，不知道出路在哪里。
1924年初，孔从洲刚满17岁时，听说杨虎城的部队招收学兵，不收学费，管吃管穿。当时杨虎城已经在反对北洋军阀的战斗中崭露头角，成为陕西进步青年敬佩的爱国将领。于是，孔从洲便约了四个同学一起去投考。孔从洲他们要投考的是杨虎城在陕西北部定边举办的培训下级军官的军事教导队。
4月初的一天，孔从洲与同学们出发北上。到了渭河边上，渡船不能靠岸，要走一段泥滩，淤泥较深，有的地方一脚踩下去就没到膝盖。他的那些同学动摇了，说：“安边，在长城边上，远得很，晓得什么时候才能走到？”都泄了气，鼓动孔从洲一起回家，去北洋军阀刘镇华在西安办的讲武堂。孔从洲知道刘镇华的镇嵩军抓差拉夫，抢劫财物，无恶不作，根本不屑与之为伍。
定边在陕西省西北隅长城线上，靠近内蒙古毛乌素沙漠，与靖边、安边合称三边。从西安到定边足足300公里，长途漫漫、人生地疏，谁知道还会碰上什么艰难呢？但孔从洲一直记得父亲那句“争气不养家，养家不争气”的话，独自向陕北走去。
他踏过泥滩，渡过渭河，在试图过泾河时，被急流冲走，几乎淹死，幸被岸边一个农民救起。他一无所有，又不愿乞讨，就到村庄里帮人做农活或者写写算算，换上一些馍馍继续前行。风餐露宿，走了数十天才到达目的地。孔从洲到达定边时，已经瘦弱不堪，衣衫褴褛，军事教导队也已开学一个多星期了。招考的人听他说了投考经历后，流下了眼泪，说，“单凭你的决心，就可以录取！”孔从洲从此踏上军旅。
1924年10月25日，冯玉祥等推翻了直系军阀曹锟的政府，把溥仪驱逐出宫，同时电请孙中山北上主持国家大计。杨虎城认为革命已有转机，也率部擎起国民军大旗，浩浩荡荡向关中进发。孔从洲这时已经在定边的军事教导队经过了八个月的严格训练，成了一名具有基本军事知识和政治觉悟的军人。他所在的教导队扩编为教导营，孔从洲当了班长，开始了历尽艰险的南征北战。
