1953年离开哈佛后，科南特作为驻德国波恩高级外交官，要处理美国和苏联、英国、法国三个大国之间的关系。他工作的目的是加强西德与西方世界的沟通与联系。在西德，科南特的日常工作是与支持美国的官员建立密切关系，鼓励议会督促巴黎与波恩的和约生效，并承诺美国负责西欧国家的统一和军备。虽然，科南特及其他美国官员没有
忘记第二次世界大战中德国的暴虐，但是，政治的需要使他们仍然优先考虑联合德国加入反苏“冷战”同盟，并帮助德国建立自己的军事力量。1955～1956年，科南特被艾森豪威尔再次任命为驻德国西柏林大使，负责西德的军备和北大西洋公约军事力量的加强。外交生涯已经把科南特推到了“冷战”阵地的最前沿。
1953～1955年，科南特在波恩作为高级专员的工作使他有时间能够接触到一些德国学校中的人。一些熟悉并喜爱美国的听众请科南特解释美国公立中学的本质以及美国教育家的教育目标。科南特在德国教育家中进行了多次演讲。并且，在一些人士的帮助下，科南特将《在一个分裂的世界中的教育》一书部分翻译成德文出版。
尽管此时科南特已发表了几本关于美国中学的著作，但他内心中还有着些许的疑虑。他认为自己对于美国教育的研究存在先天不足，因为他获得的美国学校的情况都是二手资料。他对澳大利亚教育情况的一手资料的掌握甚至都要多于美国。他越多的讲述美国的中学教育，越感觉自己缺乏对美国中学一手信息的掌握。于是，访问美国中学的想法渐渐地开始在科南特的脑中浮现。这时，科南特已经被任命为美国驻德国的大使，他开始考虑当大使工作结束时，他或许可以对美国中学做一些访问，即使没有其他的收获，至少可以知道自己向德国人讲述的那些美国学校的情况在多大程度上是准确的。
科南特对于美国中小学的兴趣是在任大学校长期间逐渐培养起来的。他在自传中曾写道：“在我还是一名化学家时，如果有人告诉我，我以后将会投入大量时间和精力来考察美国公立中学的话，我会认为这个人发了狂。我当时对中等教育没有兴趣，也从来没有希望去发展任何这方面的兴趣。我任哈佛大学校长的头一两年内，我也抱有类似的看法。只有在斯伯丁(哈佛大学教育学教授)让我看到美国中等教育的一些问题后，我才认为，或许有一天，我可能会投入所有的时间去研究中等学校的问题而非学院和大学。”①在哈佛当校长期间，科南特已了解了许多美国公立学校中的问题。1933～1953年的这段时间，科南特与教育学院的教授广泛交流，同公共教育界人士多方接触，这些经历大大扩展了他的教育视野。其中，科南特在1941年加入的教育政策委员会对科南特中等教育看法的影响尤其重要。从委员会成员那里，他了解到了公立中学的状况以及那些向所有美国青年提供教育的公共学校的目标。他开始认为，解决美国公立中学中问题的重要性甚至要超过解决美国大学和学院中的问题。他在1948年出版的《在一个分裂的世界中的教育》(EducationinADwidedWorld)一书中极力赞美了美国公立中学。1953年，科南特的《教育与自由》(EducationandLiberty)一书出版，这是一部比较教育方面的著作。在书中作者主要对比了美国公立中学、澳大利亚中学、新西兰中学和英国的中学，通过对比描述了美国公立中学的一些重要特征，表达了他对美国综合中学的维护。
