1939年4月，八路軍第二次攻打邳縣縣城，時(shí)任支隊(duì)組織科長(zhǎng)的謝錫玉奉命去獨(dú)立四營(yíng)協(xié)助營(yíng)長(zhǎng)指揮戰(zhàn)斗。進(jìn)攻打響后，八路軍從南、西、北三個(gè)方向同時(shí)發(fā)動(dòng)進(jìn)攻，謝錫玉親自帶隊(duì)向最難打的北門進(jìn)攻，并身先士卒，率先登城，極大地鼓舞了士氣。戰(zhàn)斗很快結(jié)束，打死打傷日偽軍200余人，俘虜日敵軍300余人，繳獲許多槍支彈藥。

　　1942年冬，日軍聚集偽軍兩個(gè)師的兵力掃蕩淮北，企圖一舉摧毀淮北剛剛構(gòu)建的抗日民主政權(quán)和根據(jù)地。時(shí)任新四軍四師二十六團(tuán)政委的謝錫玉和團(tuán)長(zhǎng)羅應(yīng)懷按照上級(jí)指示，留在淮北抗日根據(jù)地，利用運(yùn)動(dòng)戰(zhàn)牽制日偽軍。

　　謝錫玉帶領(lǐng)二十六團(tuán)依靠根據(jù)地實(shí)行堅(jiān)壁清野，切斷公路，阻擋日偽軍機(jī)械化部隊(duì)的前進(jìn)速度，采取游擊戰(zhàn)，不時(shí)組成小分隊(duì)四處騷擾日偽軍。就在日偽軍防不勝防之際，謝錫玉又集中兵力攻打泗陽(yáng)縣的青陽(yáng)鎮(zhèn)，殺傷了日偽軍的有生力量，給予日偽軍一記重拳。接著又按照旅部的指示，配合外線主力，攻打日寇在泗陽(yáng)縣的金鎖鎮(zhèn)的據(jù)點(diǎn)。

　　當(dāng)二十六團(tuán)急行軍趕到泗陽(yáng)縣朱家崗一帶，日偽軍1500多人卻連夜提前趕到，并將二十六團(tuán)主力包圍在朱家崗。面對(duì)著武器精良、物資豐富，人員數(shù)倍于我的日寇，謝錫玉和團(tuán)部負(fù)責(zé)人冷靜地對(duì)地形進(jìn)行了分析，謝錫玉將兵力部署在曹圩、孫崗、張莊幾個(gè)點(diǎn)，形成掎角之勢(shì)，既可以聯(lián)防，也可以共攻。

　　面對(duì)著武器、彈藥、人員都占絕對(duì)優(yōu)勢(shì)的日寇，我二十六團(tuán)全體官兵英勇無(wú)畏、同仇敵愾，與日寇血戰(zhàn)了18個(gè)小時(shí)，擊斃日偽軍數(shù)百人，取得了朱家崗戰(zhàn)役的勝利。后來(lái)，駐守在青陽(yáng)鎮(zhèn)、歸仁集、金鎖鎮(zhèn)等地的日寇紛紛撤回徐州。日偽軍對(duì)淮北抗日根據(jù)地為期33天的大“掃蕩”以敵軍的慘失敗而告終。二十六團(tuán)名聲大振。

　　1943年2月，還在休整之中的二十六團(tuán)又接到命令要盡快攻克洋河鎮(zhèn)，摧毀日偽軍在蘇北的重要據(jù)點(diǎn)和進(jìn)攻我軍的重要兵力聚集地，緩解蘇北、淮海根據(jù)地的壓力。

　　謝錫玉和嚴(yán)光在詳細(xì)了解日偽的兵力部署、地形后，以及以前兄弟部隊(duì)從南面進(jìn)攻常常受挫失利，而日偽軍在南面防守甚嚴(yán)的情況后，決定在凌晨時(shí)分從東北、東南方向發(fā)動(dòng)猛烈攻擊新四軍。攻入鎮(zhèn)中心后，對(duì)敵軍的碉堡實(shí)施火攻，把碉堡里的敵軍燒死或窒息。經(jīng)過(guò)5個(gè)小時(shí)的戰(zhàn)斗，新四軍以較小的代價(jià)殲滅日偽軍400余人，拔掉了這個(gè)據(jù)點(diǎn)。陳毅在《新四軍在華中》一文中對(duì)二十六團(tuán)攻無(wú)不克戰(zhàn)無(wú)不勝的作戰(zhàn)能力，以及嚴(yán)守三大紀(jì)律八項(xiàng)注意的作風(fēng)給予了高度贊譽(yù)。