1953年，斯大林逝世，赫鲁晓夫上台后，毛泽东开始与苏联交涉，试图解决包括蒙古的一些历史遗留问题。通过谈判，苏联归还了旅大军港，归还了东北铁路的管理权。但是当周恩来提出蒙古问题时，遭到了赫鲁晓夫的断然拒绝。中国大陆再次失去了收回蒙古主权的机会。中国的这次行动，很快传到了蒙古人的耳朵里。他们立即行动，在苏联的监督下与中国交换地图，划定边界。随后，中国和蒙古建立了“正式外交关系”。
中苏关系破裂以后，蒙古也亦步亦趋跟随着苏联的指挥棒叫骂中国。至90年代，蒙古已与130多个国家建交。蒙古形如“苏联第16个加盟共和国”，在默默过去的几十年中，中蒙关系几乎完全等同于中苏关系。自从60年代后中苏关系恶化，苏联在中蒙边境上屯下重兵，对中国形成巨大威胁。到了1986年，邓小平与苏联谈判关系正常化时，提出了中苏关系的“三大障碍”，其中之一就是苏联在蒙古边界的驻军。在倡导新思维的戈尔巴乔夫领导下，苏联宣布开始从蒙古撤军，1992年苏联红军全部撤出蒙古。