罗荣桓在长期的革命生涯中，敢于坚持原则、坚持真理，多次与林彪发生分歧和斗争。特别是林彪就任国防部长后，罗荣桓在“大办民兵师”、免去谭政职务、学用毛泽东著作等诸问题上同林彪发生严重分歧，被林彪诬蔑为“反党”。
　　1959年，新的军委组成后，罗荣桓分管民兵建设，担任工作组长。1960年初，林彪作关于国防问题的报告时，提出要立即建立600个基干民兵师。罗荣桓则提出不同意见：“究竟怎样搞法，怎么分布，都要做很好的研究……”不同意对民兵建设要求过高过急。
　　1960年，林彪把毛泽东1939年给抗大的题词概括为“三八作风”。时任总政治部主任的谭政，则认为“三八”这个简称容易同“三八妇女节”相混淆，需要再加斟酌。林彪听到谭政的不同意见，十分不满。这年的军委扩大会议上，林彪点名指责谭政“反对三八作风”，“使政治工作方向发生严重的偏差”，年底，诬陷其组成了“反党宗派集团”，免去了谭政的总政治部主任职务。罗荣桓不同意说谭政反党反毛泽东，力所能及地给谭政以保护、鼓励和支持。
　　1960年10月，林彪提出“要带着问题学”毛泽东著作。罗荣桓认为这是把毛泽东思想庸俗化、教条化，并对这种提法必将造成的不良后果深感忧虑。1961年4月30日，林彪主持军委常委会议，讨论《合成军队战斗条例概则》。林彪问大家还有什么意见，罗荣桓直言不讳地说：“带着问题学毛选，这句话还要考虑，这句话有毛病。”林彪佯装不知地问道：“这句话在哪里啊?”罗荣桓让人将《概则》中的有关段落读了一遍。林彪脸色阴沉地问罗荣桓：“那你说应该怎么学呀?”罗荣桓坦率地说：“应当主要是学习毛主席著作的精神实质。‘带着问题学’，这句话改掉为好。”林彪听了，非常不满地说：“不好，就去掉嘛!”罗荣桓接着说：“还是去掉好，学习毛主席著作一定要从根本上学，融会贯通，要学习立场、观点、方法，紧密联系实际……”林彪没等罗荣桓讲完，便粗暴地打断了他的话，宣布散会，拂袖而去。会后不久，《解放军报》总编辑李逸民向罗荣桓请示：“林彪要求《解放军报》每天都要刊登配合当天报纸内容的毛主席语录，以便部队‘活学活用’。怎么办?”罗荣桓明确答复说：“办报纸主要是贯彻毛泽东《对晋绥日报编辑人员的谈话》的精神，贯彻群众路线，坚持真理，要有生动、鲜明、尖锐、毫不吞吞吐吐的战斗风格。至于毛主席语录，找几条可以，找不到也可以。毛泽东的著作不可能对现在的什么事情都说到。”
　　对于如何学习毛泽东思想这样一个重大原则问题，既然林彪听不进不同意见，罗荣桓就按照党的组织原则向中央反映，他向总书记邓小平讲了这一问题的情况和自己的意见。邓小平感到罗荣桓反映的这个问题十分重要，便拿到书记处会议上讨论，大家一致赞成罗荣桓的意见。
　　罗荣桓同林彪进行的这场尖锐斗争，直到1965年底罗荣桓逝世。“文化大革命”开始后，尽管罗荣桓已逝世5年，但林彪仍不放过他。他不仅叫叶群在总政治部的一次会上大讲“罗荣桓反党”、“反毛泽东思想”，而且还要把罗荣桓长期领导的总政治部诬为“阎王殿”，必欲“彻底砸烂”而后快，连罗荣桓的夫人林月琴也受到株连。