与此同时，苏联的南高加索的亚美尼亚和阿塞拜疆两个加盟共和国之间的领土纠纷日益严重并升级为武装冲突。这两个共和国之间的矛盾主要是由纳戈尔诺—卡拉巴赫（简称纳卡）自治州的归属问题引起的。面积约4400平方千米的纳卡自治州位于阿塞拜疆境内，人口有18万多，其中80%左右是亚美尼亚族，其余的是阿塞拜疆族和格鲁吉亚族。1921年成立自治州以前，纳卡地区曾属亚美尼亚。从宗教信仰上说，阿塞拜疆人是穆斯林，信奉伊斯兰教，而亚美尼亚人和格鲁吉亚人信奉基督教。因此，占人口大多数的亚美尼亚族一直要求脱离阿塞拜疆的管辖，提出将该州划归亚美尼亚，但阿塞拜疆坚决反对。1988年2月，纳卡州人民代表苏维埃自行通过决议，要求并入亚美尼亚，引起阿塞拜疆族的激烈反对，随即发生两族之间的流血冲突，而且越来越激烈。到1989年底，双方动用了现代化的武器展开激战，范围也向周边地区扩展。为了平息少数民族的不满，戈尔巴乔夫许诺重新划分联盟和各加盟共和国之间的权限，在维护联盟存在并在联盟拥有国防、军事、外交和经济重要部门的前提下，扩大加盟共和国对政治、经济的自主权。同时，他又对各民族的独立运动实施高压政策，1990年1月派8万多联合部队前往纳卡州维持秩序，3月派军队进驻立陶宛首都维尔纽斯并进行经济封锁。这时期，中亚各加盟共和国也都出现了程度不同的民族骚乱。
然而，更令戈尔巴乔夫头痛的是俄罗斯联邦及其总统叶利钦。俄罗斯联邦是苏联的最大加盟共和国。苏联共产党第十九次会议确立了人民代表苏维埃制度后，叶利钦辞去了国家建筑委员会第一副主席的职务，参加竞选人民代表。在竞选中，叶利钦提出激进的竞选纲领，主张建立真正民主、公正、自由的法治国家，人民代表大会和最高苏维埃是最高权力机构，建立健全法律机制来反对、防止专行和特权等级制度，加大经济管理体制改革的力度，满足人民日常生活用品的需求等。最终在1990年3月26日的选举投票中，叶利钦以89.6%的绝对多数票当选为苏联第一届人民代表大会代表。在5月25日开幕的苏联第一届人民代表大会上，叶利钦又当选为最高苏维埃代表，任民族院建筑委员会主席。在5月举行的俄罗斯联邦第一届人民代表大会上，经过两轮竞选，叶利钦当选俄罗斯联邦最高苏维埃主席。但是，他在当选后的记者招待会上说，人民代表大会“无所作为”，俄罗斯联邦也应当实行总统制。在叶利钦的推动下，1991年3月在俄罗斯联邦实行总统制，得到了全民的公决确认。6月，叶利钦以57.3%的得票率当选为俄罗斯联邦的第一任总统。
与此同时，苏联这座“社会主义大厦”也摇摇欲坠。1990年6月，俄罗斯联邦人民代表大会通过了主权宣言，规定俄罗斯联邦宪法和法律在其全境居于首要地位。俄罗斯的这种做法不仅拆掉了苏联的主要支柱，而且在其他加盟共和国中引起多米诺骨牌效应。乌兹别克与摩尔多瓦于1990年2月20日、乌克兰于7月16日、白俄罗斯于7月27日、土库曼斯坦和塔吉克斯坦于8月23日、哈萨克斯坦于10月25日、吉尔吉斯斯坦于12月12日发表了独立宣言。
