1928年4月底，黃克誠隨朱德部上井岡山，與毛澤東部勝利會師。中國工農革命軍第四軍成立后，永興獨立團編為十二師三十五團，黃克誠任團長。

朱毛會師后不久，敵人便對井岡山發動了第一次“會剿”。黃克誠所在的部隊在井岡山下的黃坳與“會剿”敵軍先頭部隊一個營打了一仗，雖然裝備很差，卻取得了預想不到的勝利。

然而，在井岡山呆了1個月左右，由于這里地狹人多，給養供應不上，紅四軍軍委作出決定，湘南耒陽、永興、郴縣、資縣四個縣的農軍編成四路游擊隊，返回湘南各縣堅持斗爭。這樣，黃克誠帶領三十五團回到了老家永興。

湘南農軍都是剛剛組織起來的農民，組織紀律觀念不強，而家鄉觀念卻很濃，因此回到湘南不久便大都被打散了，三十五團最后只剩下了黃克誠和李卜成兩個人。

這時的湘南地區，一片血雨腥風，黃克誠的名字更是早就上了敵人的黑名單，他們只得整天躲在山上，本來還打算尋找當地保存下來的革命力量，以便重新開展工作，但是，經過兩個月的潛伏，他們了解到的情況是，永興全縣被殺之人達三千人以上，留在當地的幾乎全部被殺，湘南特委也杳無音訊。

雖然環境惡劣到了極點，但是黃克誠仍然沒有氣餒。1928年10月，黃克誠和李卜成踏上了尋找上級黨組織的迢迢路程。

他們首先取道衡陽、長沙到了武漢。武漢當時的形勢很不好，三、四天過去了，他們一無所獲。由于手頭上的錢不多了，黃克誠與李卜成商量，先到南京去看看再說。

在南京，他們遇見了在衡陽三師和廣州政治講習班的同學曾希圣，曾希圣也是來南京找黨的，讓黃克誠感到失望的是，曾希圣目前也是一無所獲。他們既沒有打聽到黨組織的消息，也沒有解決經濟困難的問題，不過幸運的是，最后通過一個同鄉的關系，在10月下旬免費搭乘火車來到了上海。

上海是當時的中共中央所在地，黃克誠相信在這里一定能找到黨組織，但同時他也知道，在當時的白色恐怖之下，黨的活動一定是在極為隱密的狀況下進行的，什么時候才能找到黨組織，誰也說不清楚，因此，黃克誠與李卜成準備在上海進行“持久戰”。

首先，他們租了一間最廉價的小房子，自己買來葦席鋪在地板上睡覺，然后又買了幾件簡單的炊具，自己動手燒飯。要持久就一定要有經濟來源，于是，每天除了在街上東碰西撞想遇見熟人外，他們也想方設法地找工作，然而，幾乎跑遍了上海所有的傭工行，得到的答復都是一律不招男工。兩個月過去了，黃克誠與李卜成在人生地不熟的大上海看盡了世人的白眼，嘗盡了人間的辛酸，而無處不在的危險更是讓他們時時繃緊神經。

正當倆人感覺走投無路的時候，黃克誠在一張報紙上看到了他的老上級凌兆興在國民革命軍第三十五師一五八旅當旅長并駐防在唐山的消息。于是，他立即提筆給凌兆興寫了一封信，介紹了自己在上海的情況。凌兆興很快回了信，并隨信寄來二十塊錢。就是這二十塊錢，使黃克誠二人得以絕處逢生，渡過了最困難的關頭。

而就在這個時候，一個更大的喜訊在等待著黃克誠二人。1929年1月間，曾希圣由南京來到上海，找到黃克誠和李卜成，并告訴他們，他已經在上海找到了在中央軍委工作的哥哥曾鐘圣，接上組織關系了！黃克誠和李卜成按捺不住心中的激動，迫不及待地給中央寫了一個報告，介紹了自己的情況，請求中央接轉組織關系。黨中央經過調查證實后，很快承認了黃克誠二人的組織關系，還派人看望并送來了生活費用。

此后，黃克誠受中央軍委的派遣，到了唐山凌兆興部開展地下工作，李卜成則留在上海工作。自此之后，他一直與上級黨組織保持著密切的聯系，再也沒有間斷過了。

    黃克誠將軍一生坎坷曲折，對敵斗爭和黨內斗爭的風風雨雨，給了他無數的磨難。但是，不管形勢怎樣變幻，他對黨的忠誠之心卻始終如一。早年，在風雨如磐的年月，他幾經周折，加入了黨組織。入黨以后，由于斗爭環境的殘酷，他幾次與黨組織失去了聯系，但他沒有消沉，而是想方設法，多方尋找，最后總是靠著頑強的毅力和對黨、對革命始終不渝的信念，重新找到黨的組織。從他的這些不平凡經歷，可以看出這位無產階級老革命家對于理想信念、對于黨的忠誠始終不渝的決心。理想指引人生方向，信念決定事業成敗。實現中國夢，就是要有這種政治定力，堅定不移走自己路，朝著自己的目標前進。