1945年2月9日, 他在东普鲁士前线被捕, 按他本人的说法, 是因为在与朋友通信中“批评斯大林”而“案发”被捕。[2] 7月27日, 内务人民委员部以“进行反苏宣传和阴谋建立反苏组织”的罪名判处他八年徒刑, 在莫斯科附近及莫斯科的劳改营服役。1949年5月, 被押解到哈萨克斯坦卡干达以北的埃基巴斯图兹劳改营服劳役, 妻子娜塔莉娅·列舍托夫斯卡娅和他分手并调到梁赞市工作。1953年2月, 刑满后作为“流刑移民”, 被规定永久居住在哈萨克斯坦江布尔州的“绿杨树”山村, 担任科克-捷列克中学数理教师。劳改营的八年生活永久改变了索尔仁尼琴的人生轨迹, 决定了他的文学道路、作品主题, 甚至思维方式和个人性格。他在江布尔州继续在劳改营就已开始的创作, 把用小字写成的书稿卷成小卷藏进空空的香槟酒瓶子里。1954年1~2月, 因患胃癌, 他被告知将不久于人世, 因此, 允许他住进乌兹别克斯坦的塔什干医学研究院肿瘤治疗所的13号楼, 几经周折后最终被治愈。1956年2月, 他被解除流放。1957年, 苏共二十大以后终于为他平反, 宣布他“无犯罪事实”, 被恢复名誉。此后, 他定居于梁赞市, 在一所中学里担任数学(一说物理)教师, 并与娜塔莉娅·列舍托夫斯卡娅复婚。在完成教学工作的同时, 他继续悄悄从事文学创作, 先后完成了《伊万·杰尼索维奇的一天》等中短篇小说, 《坦克知道真理》(一译《坦克了解真情》)、《你心中的光明》等剧本, 诗体散文《小品集》(一译《袖珍散文》), 并开始创作长篇小说《第一圈》。1959年, 去列宁格勒旅行, 认识了娜塔莉娅·斯维特洛娃。
1961年苏共二十二大后, 他结识了《新世界》杂志主编、著名诗人特瓦尔多夫斯基, 在后者的支持和帮助下, 《伊万·杰尼索维奇的一天》被转呈给赫鲁晓夫, 赫鲁晓夫批准发表这部反映苏联集中营生活的中篇小说。特瓦尔多夫斯基为该小说写了“代序”, 宣称:这篇小说“意味着一个新的、独特的并且是完全成熟的巨匠进入了我们的文坛……它说明在我们今天的现实生活中, 没有什么领域或现象不能给予真实的描写”; 赫鲁晓夫也称赞这部小说是“从党的立场反映了那些年代真实情况的作品”。1962年《新世界》杂志第11期发表了这部作品, 它立刻就震撼了整个苏联, 并且在国外也产生了巨大影响, 索尔仁尼琴成了全国知名的新闻人物。《真理报》的一位记者甚至宣称:“索尔仁尼琴的文笔, 很多地方使人想起托尔斯泰, 我国文学界已增加了一位非同寻常的天才作家。”随着国外各种文字的版本的出现, 他很快成为世界知名的作家, 并且很快于1963年被吸收加入苏联作家协会, 并被提名作为列宁文学奖的候选人(最终未能入选)。小说在苏联文艺界更是产生了前所未有的影响, 拉开了苏联集中营文学的序幕。此后, 苏联文坛写斯大林时代劳改营、流放地、囚车和监狱的作品大量产生。
1963年, 索尔仁尼琴在《真理报》《新世界》等报刊连续发表了三部与《伊万·杰尼索维奇的一天》同类主题的短篇小说:《克列切托夫卡车站事件》(一译《克列切托夫卡车站的故事》)、《马特辽娜的家》(一译《马特辽娜一家》《玛特辽娜之家》)、《为了事业的胜利》(一译《为了事业的利益》)。深受鼓舞的作家, 爆发出了异乎寻常的创作热情, 他开始齐头并进地创作大型作品《古拉格群岛》《癌症楼》(一译《癌病房》)和反映1917年革命的长篇小说, 并对长篇小说《第一圈》进行修改。1964年, 他辞去教师职务, 并开始创作史诗作品《红轮》的部分章节。