刘恒和谒者令张释都只看重中行说头脑灵活、能说会道的特点，却忽略了他孤身一人，在汉王朝了无牵挂。一般来讲，只要是有家室的人，就不敢轻易投降敌人。因为投降后，他的家人马上就会面临灭族之灾。而象中行说这种了无牵挂的人，在哪里对他来讲都一样，并不担心自己做了对汉王朝有害的事后会给自己带来多大危害。
最后，见刘恒并没有改变让自己去匈奴的主意，中行说便满含怨恨地对刘恒说：“如果陛下一定要让我到匈奴去，我会报复陛下，让汉王朝面对巨大威胁。”
刘恒并没有将中行说的话放在心里，认为是中行说因为不愿意去匈奴说的气话。令汉王朝所有人都完全没有想到的是，中行说说到做到，按照刘恒的旨意被迫到匈奴后，一到匈奴便投降了匈奴。
刚开始时，刘恒和汉王朝的人都没有意识到中行说的投降会对汉王朝有多大影响，并且刘恒对中行说的投降也无可奈何，既无法对他实施报复，更无法将其作为打击的对象予以打击。加上中行说刚投降匈奴，投降匈奴的危害一时之间还没有显现出来，因而没有人觉得中行说的投降后会对汉王朝造成什么严重后果。
老上单于了解到向自己投降的汉王朝使者在汉朝皇宫中行走多年，对汉王朝各方面的情况都非常了解的情况后非常高兴。由于这些年直接与汉王朝打交道不多，自己作为太子时，涉及到汉王朝的事基本上都是阿翁冒顿单于在处理，自己对汉王朝完全缺乏了解，现在有这样一个对汉王朝非常了解的人投降自己，老上单于正求之不得。而中行说给老上单于说知的有关汉王朝的事，都是老上单于非常感兴趣的事，因此，中行说投降匈奴后，很快便受到老上单于的信任。
在匈奴人心目中，对汉王朝的一切都非常感兴趣，无论是汉族人的穿着还是饮食以及所用物品，他们都感到很是新奇，对汉族女子的漂亮、温柔和能干，则更是爱慕，匈奴人时常侵入汉王朝境内，主要就是抢掠汉人的财物和汉族女人。
投降匈奴后，中行说在与匈奴人的日常交往中，以汉朝人的视角，很快就发现匈奴人确实各方面都非常落后，甚至可以说是愚昧。譬如匈奴人不会计数，在日常生活中，对自己族群有多少人，养了多少马羊等牲口，完全不知数量，他们都只是以能不能满足自己的温饱需要、能不能满足自己对酒和女人的欲望为标准。正因为如此，匈奴人才会做出在汉族人看来完全不应该的乱伦之事。他们从不储藏财物，有多少消耗多少，实在消耗不了，便随意丢弃，并不觉得可惜和浪费。如此等等。
中行说不愧是一个聪明的人，到匈奴后没多久便把匈奴人存在的问题大致梳理了出来。对梳理出来的问题，中行说认为通过自己的努力，完全可以让匈奴人改变。他说服老上单于，在匈奴人中开始实施他改变匈奴人的计划。
首先是教匈奴人计数。匈奴人不要说没有文字，就连计数都不会，他们无论是对人还是对物，都是以群来区分，凭感觉来判断。所以中行说首先教匈奴人将人、物、牲畜等进行分类，然后教他们以类分量，以个或件计数。慢慢地，匈奴人开始知道数数，对物品要以数量计算。可以说是中行说教会了匈奴人计数。
其次是树立匈奴人的自信。匈奴人非常喜欢汉朝的缯絮和食物，在汉人面前匈奴人始终有一种极度的自悲。他们不停地到汉王朝境内侵掠、骚扰，一方面是希望抢夺他们喜爱的汉人物品和女人，另一方面也是因羡慕而生怨产生的报复心理，当然也有他们因为不储藏食物，在没有吃的时候到汉境来抢劫食物。为此，中行说劝说老上单于，希望匈奴人能够自信起来。中行说说：“匈奴的人口总数抵不上汉朝的一个郡，然而却能够强大得让汉人害怕，就是因为匈奴人的衣食与汉人不同，匈奴人拥有自己独有的优势，完全没有必要依赖和羡慕汉朝的那些东西。”中行说对老上单于说：“实际上汉族人的很多东西都只是看起来好看，一点都不中用。”
为了印证自己的说法，中行说还示范给老上单于和匈奴的头人们看。他穿上从汉王朝带去的用缯絮做成的衣裤，然后骑马在杂草荆棘丛中来回跑了一趟，并且有意让荆棘擦挂身上的衣物，结果，从杂草荆棘中出来后，中行说身上穿的汉人服装被刺挂得丝丝缕缕，破烂不堪。而后，他又穿上匈奴人的服装，也在荆棘杂草中骑马跑了一圈，出来后身上的匈奴服饰完好如初。老上单于和匈奴头人们亲眼看到中行说的演示，感到匈奴人的旃衣皮袄确实要比汉朝人的锦衣丝裤坚固耐用得多。
中行说还劝说匈奴人不要吃汉王朝的食物，说汉王朝的食物尽管味美，但都不是食物本身鲜美，而是用其他物品调和出来的，并且汉王朝的食物不能让需要长途奔跑的匈奴人经久耐饥。为了说服匈奴人，中行说采取同样的现场验证的方法，让匈奴人相信他的说法。
第三是解决匈奴人的伦理问题。匈奴人作为游牧民族，没有文化，更没有汉族人那样的礼仪规制，所以也就没有汉族人的伦理和禁忌。匈奴人死后，兄弟们不仅会继承他的家产，还会将他的妻子一并纳为自己的妻妾，甚至儿子也可以把除自己阿母以外的阿翁姬妾纳为自己的姬妾，并且认为是天经地仪的事，不象汉人那样认为有违伦理。中行说以他的能言善辩，逐步让匈奴人明白了人是要分上下辈的，而且上下辈之间的关系必须严格区分。他对匈奴人说：“只有动物才不分辈份长幼，不论亲疏。人之所以是人，他的最大区别就是能够区分上下长幼，能够有所顾忌而不是象动物那样随性而为。”
