1928年暑期，陈锐霆在青岛沧口小学任教不足半年，便与同学张心源及鳌山卫镇青年何文煦相约，一同离开家乡，毅然投身军旅。

陈锐霆建议参军应去南方，加入国民革命军。他提及济南所见，北伐军纪严明，作战英勇且亲民，远胜北方军阀。众人赞同，遂决定赴上海寻机。

陈锐霆身为三代单传的独子，面对家人对参军的反对，毅然决定半夜离家出走，毅然踏上了弃文从武、投身军旅的征途。

三人搭乘轮船自青岛抵达上海，刚下船便遭遇了一盆冷水，心情顿时凉了下来。

人力车夫见他们衣着朴素且不懂上海话，便强行拉他们上车，称能找低价旅店。一番转悠后，回到码头附近一小客栈。本说三人共一块大洋，最终却被诈每人一块，且客栈价格不菲。

三人随后前往上海音乐学院寻找同乡，这是沪上唯一熟识之人，却被告知他不在。他们自行寻找征兵处，但因缺乏指引，处处受阻，参军无果。一周后，盘缠也将用尽。

何文煦已返青岛。陈锐霆与张心源坚持要个定论，若南方无法参军，他们便决定前往北方。

陈锐霆忆起亲戚戴宪斌，乃国民革命军第三集团军第三师副官长，北伐后驻防河北保定，遂携张心源前往寻访戴宪斌。

两人购得天津通舱船票，舱内卫生恶劣，鸡鸭同行，臭气难闻。抵达天津后，他们转往保定寻得戴宪斌。戴劝陈锐霆归教，陈意坚决，戴遂答应代为求助。

等消息时，两人逛街偶遇军歌嘹亮的河北军政学校教导大队，队列整齐，心生羡慕。得知学兵可报考军校，陈锐霆觉此乃圆梦之地，遂找戴宪斌相助，终与张心源一同入队成为学兵。

教导大队学兵训练严谨，涵盖队列动作、制式教练、徒手与持枪技巧，及生活管理和内务卫生，均有明确规定。但班长管教方式粗暴，存在打人、罚跪等不当行为。

入伍一周，陈锐霆仍未掌握绑腿技巧，要么太紧，要么太松。一日晨跑，他未及数圈便昏倒，随军医指出是绑得过紧致腿部血液不畅，松绑后即恢复。

收操后，班长集合全班训话，指责陈锐霆出洋相欲处分。恰逢队长路过，上前道：“他初来乍到，绑腿不佳，班长应先自省。若要处分，也应先罚你！”事遂作罢。

学兵伙食恶劣，食霉糙米或陈仓米，夹杂鼠屎，口感全无。菜品寡淡，白菜土豆轮换，鲜有荤食。操课后仅能以冷水沐浴，所幸此期仅三月。

1928年11月，陈锐霆进入国民革命军河北军事政治学校二期炮兵中队学习。自此，他与炮兵紧密相连，致力于炮兵事业长达60年之久。

河北军事政治学校由国民革命军第三集团军前敌总指挥商震创办。1928年6月北伐胜利后，商震任河北省政府主席，为巩固势力，于保定建校，后迁至北平德胜门外黄寺大楼，陈锐霆曾就读于此。

商震与蒋介石相熟，其办校获得蒋的大力支持。蒋为商震配备了教育长、教官、大队长及行政人员等骨干。这些骨干大多真才实学，胜任其职。

教育长方诚钺，曾任中央军事政治学校副教育长，教学专业，管理严谨，常亲自主持操练并参与紧急集合。政治部主任储造时及队长等多为日本士官学校毕业人才，对河北军政学校建设贡献显著。

学校课程涵盖战术、兵器、筑城、地形等，后增通信与后勤学。人员构成、学科规划及课程安排均仿黄埔军校，规章完善，管理有序，充满活力。

操场进行制式训练时，学员需逐一过关，标准严苛，众人颇感不适。陈锐霆因教导队经历，到校多为复习，主要锻炼臂力，如拆卸山炮并举起其零部件。

次年春日，陈锐霆所在二期全体新生按国民党“硬性”要求，集体加入中国国民党以成为军官。然而，学员们仅参加了入党仪式，此后并无其他相关活动。

学习期间，陈锐霆参与了北平孙中山奉安大典，与同窗担任护灵警卫。此次大典由商震指挥，河北军事政治学校学员亦参与，共同护送孙中山灵榇至南京中山陵安葬。

时局再生波澜。蒋桂之战未了，冯玉祥于河南掀起反蒋行动。旋即，阎锡山智擒冯玉祥，并疑及亲蒋之商震，遂调其为山西省政府主席。

10月，河北军事政治学校迁至太原首义门外大营盘，与阎锡山军官教导团合并，由杨澄源统管。陈锐霆在太原继续学习半年余，顺利毕业。

1930年7月，陈锐霆任国民革命军炮兵二十八团补充队副队长，因军事技能出众获中尉军衔，超同学一级。后赴晋中太原、榆次招兵未果，补充队未成立。阎冯大战后，该队撤销，他重返军官教导团。

军官教导团彼时恶名昭彰，成员抽鸦片、聚赌、逛妓院，劣迹斑斑，环境混乱。阎锡山战败后，团队士气跌至谷底。陈锐霆苦闷不已，急欲逃离此地。

1931年初阎锡山失利后，晋绥军重组为四军，商震出任第三十二军军长，于顺德府设军部。他即发布公告招募，月余，众多河北军校旧生归队。陈锐霆亦至邢台，任特务团炮兵大队上尉区队长。

军特务团营连排干部多由河北军政学校毕业生出任，团长为该校原学员队大队长孙定超。团下设炮兵、骑兵、工兵、通信四大队，即四营。陈锐霆赴郑州招兵，因灾荒严重，仅月余募得百人，后返邢台。

九一八事变后，全国抗日情绪高涨。邢台随即举行军民抗日示威游行，三十二军官兵亦踊跃参与当地请愿大会，新招募士兵借此接受了深刻的爱国主义教育。

1932年5月，炮兵新兵训练因缺炮遇阻，暂以步兵动作替代。后获四门重迫击炮，却无炮弹、运载工具及装填指导，仅能专注学习炮的特性与射击技巧。

一日，军部大院新刷了墙，召陈锐霆书写标语，赞其书法。标语围绕“三民主义”及抗战鼓舞。书写间，少校副官王兴纲邀其进屋品茶，乃陈锐霆同窗，毕业于河北军校一期，司职军部人事。

此后，陈锐霆频繁参与王兴纲以同学会为由举办的活动，并得知王是中共党员的消息。

1933年3月，日军进犯长城东段，第三十二军受命守卫冷口，炮兵大队随主力前往北平却因缺弹留驻南苑。陈锐霆遗憾未能参战，仍率队徒手训练，修缮营房，并开垦驻地种菜养猪。

长城抗战失利后，第三十二军撤至平津。商震深感部队装备简陋，战力不足，遂决定在相对安定的北平，着手整顿军备，强化武装。

王兴纲告知陈锐霆，商震军长意在：借炮兵营增战力，筹资购火炮强装备，办教导团育人才。并建议陈锐霆报考军校，以增知识、提指挥力，谋发展。陈锐霆应允。

1934年12月，陈锐霆被录取为南京国民党炮兵学校第二期学员，在职进修一年。

炮兵学校位于南京东郊汤山旁，因温泉闻名，常被称作“汤山炮校”。蒋介石斥资300万银元建校舍和靶场，并亲任校长，教育长由邹作华担任，教员多为日本士官学校或欧美留学生。

在陆军炮兵学校的一年学习中，陈锐霆收获颇丰，他系统掌握了炮兵理论与实践知识，并结识了众多来自五湖四海的同学。

他在此获悉红军战事。东北同学向陈锐霆述说九一八事变时，蒋介石专注南方“剿共”，未让张学良抵抗。闻此，陈锐霆愤慨不已，认为中国面临存亡危机，遂萌生加入中国共产党的大胆想法。