1935年12月，李德随中央机关住进瓦窑堡。不久，他参加红军参谋部的一些工作，主要是在红军学校工作。12月27日，他参加了在陕北瓦窑堡召开的党的活动分子会议。他对毛泽东在会上所作的《论反对日本帝国主义的策略》报告持反对态度，认为“它既不符合国内实际力量的对比，也无助于建立广泛的民族统一战线和民主人民共和国这个政治目的”。
    1936年1月，李德列席中央军委会议。会议主要讨论战略方针，归结起来是如何处理好巩固和发展中的关系。会议决定东征发展，在发展中巩固。李德不同意这个决定，受到其他同志的批评。27日，红军主力东征前夕，李德写信给中共中央，即《对战略的意见书》，意在说服中央停止东征行动。信中指出：阎锡山有8万人，在技术上、交通条件方面都比我们优越，我们只有1.3万人，其中一半是新兵和3000名新的俘虏兵，技术条件也低。在战争形式方面，游击性的行动在苏区和游击区常常能决定胜利，但在白区则很少能得到结果。同时，李德声明，“拒绝参加出征的队伍”。这样，红军主力东征期间，李德在后方留守。其间，白匪民团曾多次袭扰边区，他还协助周恩来参加参谋部的工作，并同红军军事学校的全体学员一起参加了保卫瓦窑堡安全的战斗，表现勇敢。5月初，东征回师后，中央政治局召开会议，李德被邀列席，会上他为阻止东征一事作了自我检讨，承认政治局对他的信的批评“是正确的”。
    此后，李德被安排到抗大教学。他还受命负责建立和训练了红军的一个骑兵团。李德凭借在苏联伏龙芝军事学院学过骑兵并当过苏联红军骑兵师参谋长的经历，出色地完成了任务，并认为这给他“带来了很大的乐趣”。1937年1月，李德随中央迁到延安居住。他没有被邀请参加1937年12月的中央政治局会议和1938年10月的中共六届六中全会。他在回忆录中对这一时期以毛泽东为代表的中共中央许多方针政策和军事策略表示不满和反对。
    抗日战争爆发后，为研究对日本帝国主义的作战方法，总结红军作战的经验教训，吸取国外军事作战成果，中央革命军事委员会成立了军事研究委员会，李德为委员；在军事研究委员会下设编委会，李德任主任。1937年9月至10月间，延安的军事杂志编辑建议李德每月写一份军事概况，但李德想按自己的观点组织文章，结果文章被拒绝发表。1938年下半年，他受司令部委托，先后写了几篇反映现代武器在不同斗争中的策略的文章，包括《现代军事技术》《坦克及坦克斗争的方法》《空军与防空》《化学战争与防毒》等。李德回忆说：“这些文章统统发表了，并署了译者的名字。只有一次，由于疏忽把李德称为作者了，我得到了读者的几句称赞，但编辑却受到了指责。”其中前两篇文章分别发表在《八路军军政杂志》1939年第一期和第二期上，后两篇文章分别发表在《中国青年》1939年第四、五期合刊和第八期上。1938年至1939年间，李德的正式身份是后方司令部顾问。
    争取返回苏联
    1936年中国共产党同共产国际恢复无线电联系以后，李德曾几次向洛甫（张闻天）要求返回苏联。1937年底，王明等人回到了延安。李德大喜过望，多次找王明和张闻天请求共产国际把他召回苏联。王明则竭力劝阻，说苏联正在搞肃反，李德此时回去很危险。“他的原话是，在苏联等待我的不是什么好事，我必须估计到可能被流放，甚至被枪杀。他这番话并没有使我感到十分吃惊，因为在《真理报》上我经常读到我个人认识的或是知道的名字成了‘人民的敌人’，我可以保证，他们对党的忠诚是坚定不移的。我不理解其中的背景和联系，但是我对自己说：不管发生什么事，我愿意在莫斯科为我自己的工作负责。”在王明的劝说下，李德暂时打消了回苏联的想法，但他还是想在适当的时候回苏联。
    这期间，李德与在延安搞医务工作的国际友人马海德等有较多交往。在此前后，他也曾会晤过到延安采访的艾格尼斯·史沫特莱和埃德加·斯诺夫人以及其他一些外国人士。埃德加·斯诺访问陕北期间，也曾同李德长谈，李德也对自己在华的军事指导思想作了反思，承认西方的作战方法在中国不一定总是行得通的。他说：“必须由中国人的心理和传统，由中国军事经验的特点来决定在一定情况下采取什么主要战术。中国同志比我们更了解在他们本国打革命战争的正确战术。”这种认识显然是较为客观的。
    1939年秋，周恩来赴苏联治病。李德接到中共中央临时通知，批准他同机返苏。在延安机场，不少人都赶来同李德告别，毛泽东也礼貌地祝李德“一路平安”。就这样，李德结束了他在中国的军事生涯，从此再也没有回到过中国。
    李德返回苏联后，受到共产国际的批评，并被禁止再过问中国事务。之后，他去苏联外国文学出版社工作。1941年，李德以红军军官的身份参加了苏联卫国战争，战争结束后又回到外国文学出版社工作。1954年，李德回到民主德国定居，主要从事翻译工作，是德文版的列宁著作的责任编辑，还翻译了一些苏联作家的作品。1961年至1963年，李德曾担任民主德国作家协会第一书记。
    剩下的日子，李德是在平静中度过的：翻译，研究，著述。1973年，民主德国迪茨出版社出版了他的《中国纪事》。在这本书中，李德对当年的一些事实进行了歪曲叙述，并对一些中共领导人进行攻击、诽谤。1974年8月15日，李德病逝于东柏林。