10月29日，廣州解放半個(gè)月后，他帶著簡(jiǎn)單的行李，去到東郊的車陂，加入了中國(guó)人民解放軍。
劉緯武被編入第四野戰(zhàn)軍15兵團(tuán)44軍132師軍政教導(dǎo)大隊(duì)。經(jīng)過(guò)5個(gè)多月的訓(xùn)練，他和132師軍政教導(dǎo)大隊(duì)四中隊(duì)的一批年輕學(xué)員，乘坐一輛大卡車，來(lái)到市內(nèi)小北地區(qū)，向駐扎于此的131師392團(tuán)報(bào)到。
第四野戰(zhàn)軍44軍131師，這支部隊(duì)從東北出發(fā)，經(jīng)歷過(guò)遼沈戰(zhàn)役、平津戰(zhàn)役、渡江戰(zhàn)役。1950年5月，以陸軍打海軍的首個(gè)戰(zhàn)例擊敗了國(guó)民檔海軍艦隊(duì)，解放了珠江口外涵蓋48個(gè)島嶼的萬(wàn)山群島。
劉緯武被編入392團(tuán)宣傳隊(duì)。5月26日，在萬(wàn)山群島的主島垃圾尾，解放軍與國(guó)民檔部隊(duì)連番廝殺激戰(zhàn)。他和戰(zhàn)友登島，在露天廣場(chǎng)上，接連不斷地表演唱歌、相聲、短劇……國(guó)民檔海軍艦隊(duì)不甘被逐，在附近的海面游弋，有炮彈在舞臺(tái)不遠(yuǎn)處爆炸，中間夾雜著斷斷續(xù)續(xù)的搶聲。
此時(shí)，位于海峽對(duì)岸的劉緯文，業(yè)已從國(guó)民檔海軍官校畢業(yè)，加入國(guó)民檔海軍部隊(duì)。
“臺(tái)灣島上的情況怎樣？兄長(zhǎng)在軍中近況怎樣？”與父、兄隔海對(duì)峙，好幾個(gè)晚上，劉緯武想起在對(duì)岸的親人，徹夜未眠。
這段經(jīng)歷后來(lái)被他寫進(jìn)小說(shuō)《國(guó)共兩兄弟》上卷。兩兄弟商議，將這本書分為上下兩卷，從1949年兩兄弟的分手開(kāi)始，直到1971年兩兄弟重逢時(shí)結(jié)束，敘述在共產(chǎn)檔管治和國(guó)民檔管治下兩兄弟的經(jīng)歷。劉緯武的上卷早已完成，但兄長(zhǎng)的下卷仍未定稿。
結(jié)緣黃埔
年齡報(bào)大兩歲方得入伍
和兒子劉緯武參軍時(shí)相當(dāng)?shù)哪昙o(jì)，父親劉詠堯也來(lái)到廣州，考取陸軍講武學(xué)校。校長(zhǎng)是程潛。
黃埔軍校開(kāi)學(xué)之后，程潛把陸軍講武學(xué)校158名學(xué)生送入黃埔軍校。這批被保送的學(xué)生除劉詠堯外，還有陳明仁、桂永清等人。
在臺(tái)北“國(guó)史館”保存的人事資料中，他的年齡出現(xiàn)了兩個(gè)版本：一個(gè)是“民國(guó)紀(jì)元前七年”(即1905年)，一個(gè)是“民國(guó)紀(jì)元前五年”(即1907年)。
劉緯武解釋了這一矛盾：1924年的黃埔軍�！墩猩�(jiǎn)章》要求，報(bào)考者年齡要在“18歲以上，25歲以內(nèi)”，當(dāng)時(shí)，劉詠堯不滿17歲，還差一歲。他將自己的年紀(jì)報(bào)大了兩歲，方得以入伍。他是黃埔一期年齡最小的學(xué)生。
1925年，以黃埔軍校校軍為主力的革.命軍兩次東征和回師廣州，討伐陳炯明、林虎、楊希閔、劉震寰，劉詠堯均在其列。
1925年3月12日，東征軍進(jìn)駐廣東省揭陽(yáng)縣與普寧縣交界的棉湖地區(qū)。次日，陳炯明部粵軍第一軍黃任寰、王定華等部已先到棉湖西面和順一帶，占據(jù)有利地形，且兵力強(qiáng)于東征軍十倍以上。
東征軍分為三股，三面夾擊敵人。以3000多兵力，擊潰陳炯明部粵軍兩萬(wàn)精銳部隊(duì)，成為軍事史上以少勝多的典范戰(zhàn)例。此次戰(zhàn)役中，黃埔軍校校軍傷亡慘重，劉詠堯亦左肩中彈。
7個(gè)月后的第二次東征，陳炯明將主要兵力集中于惠州地區(qū)�；葜莩侨姝h(huán)水，地形奇特，易守難攻，從宋朝起，從未失守，是粵東首要重鎮(zhèn)。他企圖將東征軍堵在惠州城下，然后反守為攻，打敗東征軍。
劉詠堯擔(dān)任敢死隊(duì)長(zhǎng)，在敵軍密集的機(jī)搶掃射下，數(shù)度挾云梯，強(qiáng)行攀爬城墻，登上城頭。不料，突然射來(lái)一顆子彈，將他擊倒在地面，昏迷了一晝夜，方才蘇醒。
隨后，陳明仁登上了城墻。緊接著，東征軍攻破西門，陳炯明下屬楊坤如棄城逃走�；葜莞娼�。
然而，一顆子彈留在了劉詠堯的顱骨中，未能取出，以致老年時(shí)，他時(shí)常頭痛欲裂。
1926年，他與9名黃埔軍校學(xué)生被選拔至莫斯科孫逸仙大學(xué)，與鄧小平、烏蘭夫一道，成為該校的第一屆畢業(yè)生。
莫斯科孫逸仙大學(xué)為國(guó)共合作時(shí)期的中國(guó)大革.命培養(yǎng)政治理論骨干。1927年7月，受到“四一二事件”影響，國(guó)民檔中央執(zhí)行委員會(huì)發(fā)表聲明，取消該所學(xué)校。次年，學(xué)校更名為中國(guó)共產(chǎn)主義勞動(dòng)大學(xué)，并在兩年后宣布解散。
在這里，劉詠堯結(jié)識(shí)了他的第一任妻子韋碧輝。韋碧輝是當(dāng)時(shí)的“才女”，她與廖仲愷的女兒廖夢(mèng)醒一道，從執(zhí)信學(xué)校選拔至此，在廣州執(zhí)信中學(xué)優(yōu)秀校友的名冊(cè)上，依舊保留有她的名字。兩人育有兩子：劉緯文和劉緯武。
二人離婚后，經(jīng)黃杰介紹，劉詠堯結(jié)識(shí)后來(lái)的妻子鐘光儀。后者是他在南京創(chuàng)辦的中正學(xué)校第一屆學(xué)生。