二万五千里长征是中国工农红军谱写的人类历史上无与伦比的英雄史诗。人们在谈到长征这一段历史时很少提及陈云。其实，陈云也参加了长征，尽管由于中央的特殊安排，陈云没有走完全程。1936年，毛泽东在接受美国记者埃德加·斯诺采访时曾把长征的胜利归功于党的正确领导，并开列了18位党的重要领导人的名单，其中就提到陈云。
　　1934年10月10日晚，中共中央和中央军委率领党政机关、军委总部及直属部队编成的军委第一、二纵队（对外称红星、红章纵队）从瑞金出发，红一、三、八、九军团随后从各自驻地出发。
　　当时，中央红军撤离苏区之前，党中央、中央军委决定向红军第五、第八、第九军团派中央代表，并决定由陈云担任第五军团的中央代表。
　　五军团担负殿后任务。10月18日，陈云随红五军团从兴国县曲利出发，踏上了漫漫征途。红五军团担负的全军后卫任务是极其艰巨的，当时红五军团只有两个师6个团的人马，要挡住数倍于自己的敌人，谈何容易!更为严重的是，当时的中央领导人，在实行突围和战略转移时，犯了退却中的逃跑主义。不久，红五军团在湘江之战中受到了沉重的打击，几乎陷于全军覆没的境地。此时的陈云也越来越认识到“左倾”机会主义的危害。他和大多数红军战士一样，急切地盼望红军能够扭转这种局面，走出困境。
　　1935年初，刘伯承和陈云率领军委纵队成功地渡过了乌江天险，于1月9日进驻贵州遵义。
　　1月15日至17日，召开了著名的遵义会议。陈云作为中央政治局委员、常委出席了这次会议。陈云在发言时肯定了毛泽东等关于红军作战的基本原则，坚决支持了毛泽东等人的正确主张。
　　红军离开遵义后，改向川南方向前进。在土城一仗中，红军失利，中央决定陈云负责安置伤员和处理军委纵队的笨重物资。陈云彻夜未眠，仅用10个小时便完成了所有任务。
　　为了进一步摆脱敌军的围追堵截，中央红军决定北渡金沙江，转入川西。陈云和刘伯承分别被任命为渡河指挥部的政治委员和司令员，与毛泽东、朱德、周恩来共同组织部队过江。1935年6月上旬，红军主力渡过金沙江之后不久，长征队伍中突然不见了陈云，连与陈云最亲近的人也不知道陈云到哪里去了。
　　原来，遵义会议后，中央认为有必要将长征和遵义会议的有关情况及时通报共产国际，同时也必须恢复白区党的组织，以配合红军主力的作战。于是，中央经过再三考虑，决定派陈云和潘汉年到上海完成这一使命。
　　这一决定是中央的核心机密，只有少数核心领导人知道。二渡赤水后，潘汉年即奉命先行离开长征队伍，准备到上海后与陈云会合。
　　遵义会议后，陈云并没有马上离开。红军主力渡过金沙江到达四川的天全县后，陈云才离开长征队伍，赶赴上海。