投身炮兵
1906年11月10日，陈锐霆出生于山东省即墨县鳌山卫镇盘龙庄村的一个贫农家庭。8岁时，因听见日军在其家不远处攻打德军的隆隆炮声，觉得好奇也还不知道害怕的他，带了五六个小伙伴跑到山顶上去观看，岂料，日军发现后竟然向他们开炮，而一颗炮弹落在距离他们不远处，险些伤着了他们。陈锐霆当时便心想：中国人为什么要受日本人欺负，如果有一天我也有大炮该多好啊！
从1924年起，陈锐霆先后就读于济南私立正谊中学、山东省立第一师范学校。1928年，陈锐霆被分配到青岛沧口小学当教员。就在这年的5月3日，驻山东日军为了阻止国民革命军从山东北上，制造了震惊中国的“济南惨案”：侵入中国政府所设的山东交涉署，割去官员蔡公时耳鼻，枪杀全部职员，肆意焚掠屠杀，共造成中国官民1.7万余人死亡，2000余人受伤，5000余人被俘。陈锐霆的住所也遭到日军的猛烈炮击，一发炮弹仅在距他5米处爆炸，所幸只是炸塌了房子一角，陈锐霆并未受到伤害。
两次险些丧命的经历，以及目睹惨死在日军炮火中的受难同胞，陈锐霆萌发了学习炮兵的念头。于是，他不顾家人的强烈反对，毅然放弃每月28元的优厚待遇，投笔从戎。在同年12月，考入河北军事政治学校（黄埔军校第7期），并坚决要求分到炮兵队。
1930年，陈锐霆毕业后，被分配到阎锡山所部的炮兵第二十八团补充队任中尉队副。1935年，为进一步掌握炮兵技术，陈锐霆考入南京炮校第二期学习。也就是在南京炮校学习期间，在中共地下党的引导下，陈锐霆的思想发生了根本性的变化，并于1937年3月秘密加入了中国共产党。
抗日战争爆发后，任国民党第三十二军炮兵团三营营长的陈锐霆，率部参加喜峰口抗战、徐州会战。
在1938年5月的鲁西菏泽守备战中，陈锐霆带领炮兵营与日军土肥原师团所属炮兵部队展开了对抗。陈锐霆冒着炮火硝烟，始终站在一线指挥。突然，一发炮弹在他身边爆炸，陈锐霆被击倒在地，一块10多厘米长的弹片深深嵌进他腹前皮带的铜扣上，另一块七八厘米长的弹片击中他靠近腰部的左衣兜，里面刚发的300多元金圆券被切成两半。大家都为陈锐霆惊出了一身冷汗，陈锐霆却安慰大家：“我的命大，日本人炸不死！”
1938年秋，陈锐霆的炮兵营参加赣北万家岭战役。一天，日军宫琦联队偷袭德安白水镇麒麟峰。陈锐霆奉命率部在3600 米距离外直接向日军占领的山头炮击，由于炮弹发发命中，国民党步兵乘机发起冲锋，全歼了宫琦联队。战后，陈锐霆登上麒麟峰检查日军尸体，发现百分之八九十是炮打死的，曾感慨地说：“与日军交战数次，惟独这一仗打得痛快！”
