汉字大概在东汉末年前后大量引入日本。日本人用汉字有两种形式：用汉字的字形和读音来记写日语中的同音、近音词语，叫“音读”；借汉字的字形和字义记写日语同义、近义词，弃汉语词的音而读日语词的音，这叫“训读”。
使用汉字之外，日本也用自己的字母系统——平假名和片假名。成书于759年以后的《万叶集》，大量使用从汉字中借用的符号（单字）记写日语字音。这种符号被称为“万叶假名”。平假名是万叶假名的草书简化版，形成于8世纪末。平假名的“平”是通俗平易的意思。它最初在女性间流行，称为“女手”，而汉字叫“男手”。片假名大约形成于10世纪，平安时期中叶。当时读书人用万叶假名（单字）给汉字注音，有时为了方便，只取头尾的笔画，后来渐成系统——片假名的“片”意思是不完整。
现代日本也兴起过语文现代化运动，有废止汉字、限制汉字、用假名、用罗马字母等多种主张。1866年（明治维新前一年），前岛密（日本邮政创始人）向最后一任德川幕府将军德川庆喜提出《废止汉字的意见》。1872年，南部义筹向文部省提出改用罗马字母拼写。1873年，福泽谕吉（庆应大学创始人）、矢野文雄等主张限制汉字的字数在3000字以内，成立有“假名文字协会”“罗马字会”等组织。
在1923年《国语月刊》汉字改革号上，遇公的《日本人和汉字改革》一文介绍了几则日本国语罗马字宣传标语：
1．轻减儿童的脑税啊！
2．先改革教育的武器啊！
3．无限的汉字，是无限的字狱啊！
4．汉字，是儿童的断头台。
5．汉字造成庸碌的儿童！
6．世界的日本，该用世界的文字，
7．二十六字母，通于全世界。
这些跟钱玄同、鲁迅、瞿秋白等人当时的话很像。当然日本也有力挺汉字的，比如三岛毅，他创立了二松学舍。这种新潮为主、新旧拉锯的局面跟中国近代是相似的。
1937年日本政府发表了一种日语罗马字拼音方案，即“训令式罗马字”。跟中国的国语罗马字的命运相似，“训令式罗马字”一般也只用于对外场合。
对于汉字，日本政府主要采取限制教育用字和公权用字范围的政策。1942年文部省发表的义务教育用汉字标准，收2669字。1946年公布的《当用汉字表》收字1850个，作为法令、公文、报纸、杂志等一般社会用字范围，但不涵盖专有名词、人名地名领域；这可以看作新旧两派妥协的结果。1948年颁行《当用汉字字体表》，对汉字进行了字形整理，淘汰异体字，审定了774个简体字。
1948规定小学“教育用字”881个，1968年又增加115字“备考”，合计996字。1981年改《当用汉字表》为《常用汉字表》，收字1945个（中国基础教育用字是3500个）。
中国语文现代化运动深受日本潮流的影响，后期切音字、官话字母、简字、注音字母等一大批民族式字母都是仿照日本假名。中日语文现代化运动的结果也有几分相似，最后都是“半拉子工程”。
