近年来各地出版了多种古代汉语虚词工具书，从收词上看，有的以单音虚词为主，有的以复音虚词为主；从释义的重点上看，有的侧重于虚词的用法，有的侧重于虚词的意义。这些虚词工具书对帮助读者阅读古籍提供了较大的方便，为古汉语虚词研究工作做出了贡献。
建国后，尤其最近十几年，古汉语工作者已经有意识地把虚词研究纳入汉语史研究的轨道。他们在研究虚词时，摆脱了随意举例的旧方法；从专书断代着手，分析虚词的共时特征；然后再从不同时期的对比中寻绎出虚词的历时异同，得出虚词发展演变的轨迹。
本词典的编者多数是《古代汉语虚词通释》的编者。《通释》出版后，我们就打算编写一部能反映虚词历史面貌的古汉语虚词词典，试图在这样一部词典中既能反映虚词的用法和意义，又能反映虚词的历史变化。在商务印书馆赵克勤、张万起先生的大力支持下，经过多年努力，终于编成《古代汉语虚词词典》。
从汉语史的角度出发，对每个虚词进行历史的研究，在国内还不多见，可供参考的资料不多；我们在这方面的工作也仅仅是开始。本词典对虚词历史演变的解说，是编者根据所掌握的语言资料，参考各家有关论述得出的初步意见。抛砖引玉，冀望虚词历史研究得以向纵深方向发展。
本词典的收词范围，除了收古代汉语虚词外，还酌收了部分近代汉语虚词。这一考虑，主要是受《现代汉语词典》的启发。《现代汉语词典》主要收现代汉语的词汇，但也收了一些古代汉语的词汇。这样做是符合语言的实际的。古代、近代、现代词汇的断代不可能一刀切，参差是自然的。从这一基点出发，我们酌收了一些近代汉语虚词，以适应广大读者读古代书籍的需要。本词典不仅收了单音节虚词，还收了复合虚词、惯用词组和固定格式。凡1855条。
这部词典开始策划的时间大约是1985年。当时有如下几位同志参与其事：何乐士、敖镜浩、王克仲、麦梅翘、王芃、阎征、黄珊、赵长才。不久，阎征同志另有工作；1988年冬季以后，何乐士同志也另有工作，麦梅翘同志退休。他们三位不再参与这项工作。后来由上述其他几位同志增补体例，确定编写原则，着手编写。1988年以后又陆续增加了羽柔、吴可颖、周信炎、张洁几位同志。1991年底初稿写成。初稿完成后由王克仲同志按本书体例和编写原则进行统一协调工作，于1994年初完成定稿。
在编写过程中，我们参考了前人和当代学者的词语工具书和有关虚词的论述。对前人和当代学者有益的观点，我们都广泛地吸收或借鉴，谨在此向原作者表示由衷的谢忱。郝淑贤、王克锂同志为本书的编写做了大量繁杂、琐细的辅助工作，保证了编写工作的进行，我们也在此一并表示感谢。
由于编者水平有限，书中难免存在缺点和错误，诚恳地希望读者给予批评指正。
编 著 者
1994年3月