我国原来没有拼音字母，采用直音或反切的方法来给汉字注音。直音，就是用同音字注明汉字的读音，如果同音字都是生僻字，就是注了音也读不出来。反切，就是用两个汉字来给另一个汉字注音，反切上字与所注字的声母相同，反切下字与所注字的韵母和声调相同，例如，《广韵》“冬，都宗切”，就是用都的声母、宗的韵母和声调为冬注音，这两种注音方法，用起来都不方便。
唐代守温在分析汉语声母韵母和声调的基础上，制定了描述汉字语音的三十六字母，说明当时我国的语音分析已经达到很高的水平，可惜他用汉字来表示这些声母和韵母，因此，这样的字母没有进一步发展成拼音文字，仍然不离切字组合的老路。
500年前我国部分穆斯林少数民族中曾经使用“小经”文字，这种文字是一种阿拉伯文字。用阿拉伯字母来拼写汉语，比唐代守温用汉字来表示声母和韵母又进了一步。共有36个字，其中4个字母是特有的，这可能是我国最早的用来拼写汉语的拼音文字，它不再带有汉字的痕迹，完全采用拼音字母。“小经“同时也为东乡、撒拉等民族使用。
明朝末年西方传教士来中国传教，为了学习汉字，他们开始用拉丁字母来拼写汉语。1605年，意大利耶稣会传教士利玛窦(Matteo Ricci, 1552-1610)在北京出版了《西字奇迹》，其中有4篇汉字文章加了拉丁字母的注音。这是最早用拉丁字母给汉字注音的出版物，比“小经”用阿拉伯字母给汉字拼音稍晚，“小经”大概是最早用字母文字给汉字拼音的尝试。《西字奇迹》原书已不容易找到，据说，梵蒂冈图书馆尚有藏本。
利玛窦的注音
1626年，法国耶稣会传教士金尼阁在杭州出版了《西儒耳目资》，这是一本用拉丁字母给汉字注音的字汇。注音所用的方案是在利玛窦方案的基础上修改的。
利玛窦和金尼阁的方案是以“官话读书音”为标准设计的，适于拼写北京语音。这种新颖的拼音方法给中国学者以很大的启迪。但是，在两三百年间，利玛窦和金尼阁的方案只是在外国传教士中使用，没有在中国人当中广为传播。
1815年到1823年之间，在广州传教的英国传教士马礼逊编了一部《中文字典》，这是最早的汉英字典，字典中用他自己设计的拼音方案来拼写汉语的广东方言，实际上是一种方言教会罗马字。接着，在其他的方言区也设计了不同方言的方言教会罗马字。
中国古代的识字方法相当繁琐，无论是反切还是直音都需要一定的学习门槛，在小农经济的环境下，平民根本没有时间去学习一些常用的切字和发音，故而古代的文盲相当之多，并且，这种识字方法还不利于书写的统一规范，经常会出现通假字和讹字。如果将现代的注音方法传到古代，相信可以很大程度上消除文盲现象，这也说明了有的时候技巧往往就是决定行动胜负的关键。
