在中国日语学习的历史并不长，在近代以前的所谓朝贡体制下，除了应对周边国家的使者外，中国感受不到学习周边国家语言的必要性；加之受所谓同文同种的影响，直到19世纪中叶日语教育也没有被提上日程。例如，1862年创办的北京同文馆没有日语的课程，首任驻日公使赴任时，使节团中甚至没有懂日语的随员。其后，断断续续地在东京公使馆内开展了实务性的日语教育，效果亦很有限。1896年3月总理各国事务衙门选拔13名青年去日本的中国公使馆，原意是培养对日交涉人才。结果他们被送入日本的教育机关学习，成为中国人留学日本的先声。在中国国内，1898年先有民间日语学习机关农学会创办的东文学堂，聘请日本汉学家藤田丰八讲授日语，国学大师王国维等皆出于其门下。1898年秋，戊戌变法失败，康有为、梁启超亡命日本，鼓吹通过日本接受西方的新知识。国内，在张之洞等人的鼓动下，掀起留学日本，学习日语的热潮。但是，后来中日陷入战争状态。1949年以后，只在北大等少数大学有日语专业。