正当沈葆桢全力以赴造船强军，希冀为病弱的大清帝国快快生肌长肉、补气壮骨之时，列强也加快了对中国的挑衅蚕食。
与马尾一水之隔的台湾，历经荷兰人侵占、郑成功收复，后又回归祖国。岛上只有薄弱的清兵守备，管理松散。日本早就对台湾垂涎三尺，日本是一个岛国，其传统文化中的海盗基因、扩张本性难改。无时不在寻机挑衅，总想咬邻居一口。
一八七一年冬，时属中国藩国的琉球派六十九人往广东中山府纳贡，返途遇风暴漂至台湾，淹死三人，余六十六人误入当地高山族的一支“牡丹社”住地。时高山族还未开化，有杀人取头之习，多者愈受尊敬，推为酋长。又有五十四人被追杀，余十二人被知县保护，送至省城福州。修养一段时间后，送回琉球。此事与日本毫无干系，一八七三年日派员到华交换通商条约，借机质询两年前的杀人之事。中方答：“台、琉二岛皆属我土。杀人之事，裁决在我，与贵国何干？”但日人已铁心要侵台，继续在做文章。一八七四年三月，日照会清政府：“前年冬，我国人漂流其地，被杀戮者数十名，我政府将出师问罪。”这种强找借口，占你一地，甚至灭你一国，向来是帝国主义的本性。就像一条狼对一只羊说：“你的邻居吃了我窝边的一棵草，所以我要吃掉你。”即使没有借口，它也可以随便制造一个。一九三七年的卢沟桥事变，就是日军假说他在训练中走失一个士兵，要强入宛平城寻人，接着就开枪开炮，占北京，占华北。
一八七四年四月，日本判断清政府不敢抵抗，正式宣布组织远征军侵台。五月十七日日军三千五百人在台湾南部登陆。清政府反应迟钝，到五月底才连忙下旨：“沈葆桢著授为钦差，办理台湾等处海防兼理各国事务大臣。”沈接任后提出，一边办外交，以理屈敌；一边“储利器”积极战备。要求速购两艘铁甲舰，并召回马尾船厂经年所造的，已在天津、山东、浙江、广东等沿海服役的各舰备用。又建议速铺厦门到台湾的海底电缆，以通军情。他摆出决战之势，以震慑日本之野心。随后沈于六月十九日到达台湾，坐镇指挥。而这时日军已控制了台南的地盘。所到之处一如后来侵华时的三光政策，到处**烧杀。日人之本性原本如此，国策以侵略为本，治军以兽性为纲，育人用武士道精神。我高山族同胞一面以原始刀矛奋起抵抗，一面请求沈葆桢保护，愿协同官军一致抗日。
沈一面备战，一面抚民、修路、练兵。“结民心，通番情，审地利”“全台屹著长城”。他始终以软硬两手对敌，先派人谈判，以理屈兵。他在照会中说：“琉球虽弱，亦俨然一国，尽可自鸣不平”，“即贵国专意恤怜，亦可照会总理衙门商办”为何要出兵？再说，当时只“牡丹社”一社杀人，而今天日军报复，却在整个台湾南部杀人掠土，波及无辜。严正声明“无论中国版图，尺寸不敢与人”，并指出你军后勤补给已出现困难，粮运已为我控制，就不想想后路？“本大臣心有所危，何敢不开诚布公，以效愚者之一得”，我真替你捏一把汗呀。这义正词严，软中带硬的照会，使敌一时不敢妄动。
他深知日本人是在讹诈，一再吁请朝廷切不可退让。他说：“倭奴虽有悔心，然窥我军械之不精，营头之不厚，贪贽之心，积久难消。退后不甘，因求贴费，贴费不允，必求通商。此皆不可开之端，且有不可胜穷之弊。非益严儆备，断难望转圜。”
