我軍的政治委員制度是從蘇聯紅軍借鑒來的，但發展不同。初期雙方都執行政工幹部享有比同級軍事主官更大的權力和更高的地位，當軍政主官意見不一致時，由政治主官最後拍板。蘇軍從40年代開始實行了軍事首長負責製，即一長製；這一時期由於冀中雪村戰鬥的教訓，我軍也改變了政治主官享有最後決定權的做法，賦予了軍事主官在指揮作戰行動上的決定權。
1930年，紅軍總部就頒布了《中國工農紅軍政治工作暫行條例草案》，其中對政治委員的權限有重要規定：政治委員在與同級軍事指揮員有爭持時，政治委員有停止軍事指揮員命令之權，但必須立刻將爭持的詳細情形報告上級機關：在未得上級指示以前，須依照政治委員的意見執行，同時軍事指揮員有向上級申訴之權。
1933年11月，中革軍委又頒布執行了《中國工農紅軍政治委員工作暫行條例》，繼續明確規定：政治委員在與同級軍事指揮員有爭持時，政治委員有停止軍事指揮員命令之權，但必須立刻將爭持的詳細情形報告上級機關：在未得上級機關指示以前，軍事指揮員必須依照政治委員的意見執行，同時軍事指揮員有向上級申訴之權。
這就是紅軍時期一直執行的”政治委員最後決定權“。中央紅軍四渡赤水期間，紅一軍團軍團長林彪對中央領導和中革軍委的指示有抵觸情緒，甚至寫信給中央要求更換領導。軍團政委聶榮臻不同意林彪的做法，雙方爭執時，聶榮臻就嚴正警告林彪，如果林敢下違背上級意圖的命令，他就以政治委員最後決定權命令部隊不執行軍團長的命令。對於這一殺手鐧，林彪也無可奈何，只得閉上了嘴巴。
到了抗戰初期，情況有了一定變化。八路軍總部於1938年12月頒布執行的《政治委員暫行條例》中規定：在軍事行政和作戰指揮上軍事指揮員負更重大的責任，但在軍事指揮員有違犯了黨的路線或不執行上級命令情況時政治委員有停止軍事指揮員命令之權，但必須把經過的情形詳細報告上級機關：在未得到上級機關指示以前，軍事指揮員必須依照政治委員的意見執行，同時軍事指揮員有向上級申訴之權。
由上可知，這時雖然軍事指揮員有了一定的擴權，但仍比同級政治委員低，沒有軍事上的決定權。這一情況到了1942年才得到改變。
1942年5月，日本華北方面軍司令官岡村寧次對八路軍冀中根據地發動了“五一大掃蕩”，冀中軍區損失慘重，根據地大量地盤淪為敵佔區，冀中部隊主力不得不跳到外線暫避。在此期間，冀中軍區八分區司令員常德善、政委王遠音率一個營兵力返回已淪為敵佔區的河間、肅寧一帶的中心區，想重新開辟根據地。當轉移至靠近河肅公路的雪村附近時，突遭乘汽車、騎馬、騎自行車的日軍大部隊合圍。最後大部傷亡，司令員常德善身中27彈陣亡，政委王遠音負傷難以行動，舉槍自盡殉國。司令員和政委在同一戰鬥中同時陣亡，無論是紅軍還是八路軍中都極為罕見，因而震動了延安。後來考察遇襲經過，確認是決策失誤才導致此嚴重後果。當時常德善、王遠音率部回到中心區後，偵察到敵人可能會對這一帶發起合圍。司令員常德善主張連夜轉移，跳到子牙河東岸的外線甩掉敵人。而政委王遠音看到中心區的鄉親們歡欣鼓舞歡迎子弟兵歸來的情景，認為剛回來就走，“不好向群眾交待”，可以再堅持一下。雙方爭論了大半夜，最後常德善尊重了政委的最後決定權，帶部隊繼續向中心區公路線附近的雪村地區轉移，卻正好落進了日軍的合圍圈。
常德善出身於賀龍的紅二軍團，曾救過賀龍的命，紅軍時期就是紅6師參謀長，是身經百戰的紅軍高級幹部。後來有人說過：“常德善真是一員好將，不死的話，評個上將都沒問題。”常德善犧牲後，鄉親們偷偷將他的遺體掩埋。日軍根據漢奸的告密，將常的遺體掘出，切下頭顱，放在鳥籠裡掛在河間城門上示眾達數月。政委王遠音是“一二九”學生運動的骨乾，像《亮劍》中的趙剛一樣是優秀的知識分子幹部。他犧牲時，也才27歲。在同一戰鬥中犧牲的還有30團政委汪威、30團副團長肖治國、總支書記沈笑天、23團2營營長邱福和、分區偵察股長楊克夫等幹部。這樣一個慘重的損失，使得中央軍委不得不作出了新的規定。
1942年9月1日，中央軍委為此作出決定：改變部隊中政委最後決定權的規定，在戰爭中的軍事行動，統一由部隊軍事首長最後決定。”10月，修改了《政治委員暫行條例》，規定：政治委員在與同級軍事指揮員有爭執時，除屬於作戰方面的行動由軍事指揮員決定之外，其他由政治委員作最後決定，但均須同時報告上級軍政首長。
從這時開始，政治委員失去了“最後決定權”，軍事上的決定權轉到了軍事指揮員手中，但政治委員仍負政治上的決定權，並通常在黨委會中擔任書記，掌握各級幹部的組織任命權力，以保持黨對軍隊的絕對領導。萬一軍事指揮員有違犯上級指示的情況發生，政治委員雖然乾預不了軍事決定權，但可通過黨委會討論將情況報告上級，並由其掌握的軍隊組織權力穩定軍隊，不使發生大的異變情況。
香港九龍灣馬來街興發大廈15樓D室