聶榮臻提出成立邊區政府的想法，并教宋縣長如何說服閻錫山同意此做法。

閻錫山同意成立邊區政府，并提供大量大洋做支持。1938年初，晉察冀邊區軍政委第一次代表大會召開，經選舉成立晉察冀邊區臨時行政委員會，敵后第一個民主政權宣告成立。

作為美國軍事觀察員，卡爾遜是第一個來到中國邊區的外國人，他很疑惑邊區軍人的糧食供給問題。聶榮臻告訴他，紅軍把老百姓組織起來，團結人民群眾，順民心，順民意，紅軍打的是人民戰爭。

1938年9月，日本華北方面軍調集5萬部隊向五臺山區發動進攻，聶榮臻下令軍區機關向五臺山轉移。連長趙鐵頭和指導員一心想立功揚名，不顧掩護機關人員撤退的任務與日軍交戰，造成20多人傷亡。聶榮臻狠狠訓斥了二人，撤銷了他們的職務，讓他們重新學習。