1927年10月初，南昌起義部隊向廣東海陸豐撤退，途中突遭國民黨軍隊的包抄突襲，除部分趁夜色成功突圍外，其餘大部被打散。在突圍中，聶榮臻和葉挺始終護送着身患瘧疾的周恩來，最後只剩下幾個人和一隻小手槍。聶榮臻設法找到中共汕頭市委書記楊石魂，在楊的幫助下，大家轉移到流沙附近馬柵村一戶農家。到了晚上，又找來一副擔架，幾個人把周恩來抬上，經惠來轉移到陸豐。一面尋醫為周恩來治病，一面籌措路費，準備船隻。10月中下旬，楊石魂找來一條小船，親自護送周恩來、葉挺和聶榮臻出海到香港。在茫茫大海中顛簸了兩天一夜，好不容易才到了香港。聶榮臻等抵港後，又經一番周折才與中共廣東省委取得聯繫。
聶榮臻
12月11日，廣州起義爆發，聶榮臻參與領導廣州起義。起義失敗後，他返回香港，協助省委處理起義的善後工作。1928年11月，聶榮臻在省委第二次擴大會議上當選為省委常委，並任軍委書記。
鋻於廣州起義時很多同志不懂軍事技術和戰術，聶榮臻經常開辦幾十人到上百人左右的訓練班，起初主要培訓廣州起義失敗後撤退到香港的同志，後來主要培訓從兩廣各地來的同志。聶榮臻在訓練班講課時，引用了一些太平天國的例子，但主要是講述黃埔軍校、北伐戰爭以及南昌起義、廣州起義的經驗教訓。
1929年三四月間，蔣桂戰爭爆發，國民黨統治集團內部矛盾進一步激化。為打開廣西武裝鬥爭工作局面，黨中央派鄧小平作為中央代表，前往廣西領導左右江起義。鄧小平途經香港時，省委書記賀昌和聶榮臻向他介紹了廣西情況。此後一段時期，派遣幹部到廣西開展武裝鬥爭成為省委軍委的重要任務之一。聶榮臻為此做了大量工作。
聶榮臻在香港堅持鬥爭期間，敢於與黨內的「左」傾冒險錯誤進行鬥爭。1928年6月至7月，黨的六大在莫斯科召開，選舉工人出身的向忠發為黨的最高領導人。由於向忠發缺乏領導能力，中央工作實際上由中央政治局常委、中央宣傳部部長李立三主持。在共産國際「左」傾指導思想的影響下，黨內逐漸形成了「左」傾冒險錯誤。1929年「五一」前夕，李立三下死命令，一定要香港搞游行示威。根據廣東省委的決定，這次游行示威由鄧發擔任總指揮，聶榮臻到現場參與組織指揮。「五一」當天，聶榮臻來到游行隊伍集結的地點，發現來的都是骨幹和負責同志，差不多是清一色的黨員和幹部，沒有什麼群眾，便找到鄧發一起到附近的茶樓裏，以喝茶作掩護進行交談。聶榮臻對鄧發説，今天這個游行不能搞，一搞游行就全部暴露了，以後香港黨的工作還怎麼做！鄧發看到情況不對頭，同意聶榮臻的意見，便把集合起來的人都打發回去了。事後，聶榮臻到上海向中央報告情況，被向忠髮指責為「臨陣脫逃」。聶榮臻據理力爭，兩人誰也沒説服誰，事情也就不了了之。
1929年10月底，聶榮臻以省委巡視員的身份，前往東江特委巡視工作，歷時約1個月。此時東江地區的革命形勢處於低潮，特委機構很不健全，特委領導又因多次受到省委批評而情緒低落。聶榮臻在談話中，以鼓舞革命鬥志、提高勝利信心為工作重點，客觀分析了兩廣地區的革命形勢，對省委批評特委的問題進行了解釋。聶榮臻建議特委把東江紅軍下屬武裝力量進行合理部署，深入到農民群眾之中，以繼續開展秋收鬥爭、發動農民為中心任務，積極開展工作。臨走前，聶榮臻對特委作了組織調整，增強了特委的領導力量。
根據省委的指示，聶榮臻創辦了《香港小日報》。報紙公開發行，但為了避免引起懷疑，以灰色面目出現，內容盡量含蓄，在無關大局的問題上，有時還講幾句港英當局愛聽的話，但總的方面仍然是宣傳黨的方針政策，替勞苦群眾説話，針砭時弊。該報辦了一年左右，就被港英當局查封。
從1927年10月南昌起義失敗後赴港，到1930年初調往天津順直省委工作，聶榮臻在香港堅持了兩年多時間的地下鬥爭，每時每刻都處於白色恐怖之中，但憑着機智勇敢，屢屢化險為夷。有一次，聶榮臻、惲代英找葉劍英碰頭，談完話後分頭返回各自住處，在門口看到雇請的阿姨正在把他的行李搬到樓下，還向他使了個眼色。聶榮臻知道情況不對，便沒有吱聲，轉身就走。事後得知，同他住在一起的軍委委員楊劍英已經被捕，敵人正在房間等他回來。還有一次，聶榮臻去參加青年團召開的會議，當他趕到開會地點正要上樓時，看到敵人抓了一些團員正在下樓，便瞬間鎮靜下來，硬着頭皮，大搖大擺地繼續往上走，和敵人擦身而過，敵人反倒沒有查問。再有一次，聶榮臻在有軌電車上遇到一個叛徒，這個叛徒還向他點頭打招呼，他知道情況不妙，在電車還沒有到站停靠，就趕緊跳車跑了，總算又躲過了一次危險。
