古代汉语这一门课程，过去在不同的高等学校中，在不同的时期内，有种种不同的教学内容。有的是当做历代文选来教，有的是当做文言语法来教，有的把它讲成文字、音韻、训诂，有的把它讲成汉语史。目的要求是不一致的。
经过1958年的教育革命，大家进一步认识到教学必须联系实际，许多高等学校都重新考虑古代汉语的教学内容，以为它的目的应该是培養学生阅读古书的能力，而要达到这一个目的，必须既有感性知识，又有理性知识。必须把文选的阅读与文言语法、文字、音韻、训诂等理论知识密切结合起来，然后我们的教学才不是片面的从而提高古代汉语的教学效果。至于汉语史，则应该另立一科；汉语史是理论课，古代汉语是工具课，目的要求是不相同的。
北京大学在1959年进行了古代汉语教学的改革，把文选、常用词、古汉语通论三部分结合起来，取得了较好的教学效果。此外还有许多高等学校都以培養阅读古书能力作为目的，改进了古代汉语的教学。
北京大学1959年度的古代汉语讲义只印了上中两册，1960年经过了又一次改革，另印了上中下三册，都没有公开发行。讲义编写主要由王力负责，参加工作的有林焘、唐作藩、郭锡良、曹先擢、吉常宏、赵克勤、陈绍鹏。此外，北京大学中国语言文学系语言专业1957级同学也参加了1960年度的古代汉语中下两册的文選部分的编写工作，研究生陈振寰、进修教师徐朝华也参加了上册的部分编写工作。
1961年5月，高等学校文科教材编選计划会议开过后，成立了古代汉语编写小组，决定以北京大学古代汉语讲义为基础並参考各校古代汉语教材进行改写，作为汉语言文学专业的教科书。
编写小组集中了北京大学、北京师範大学、中国人民大学、南开大学、兰州大学古代汉语教学方面一部分人力，分工合作，进行编写。
本书除由主编王力负责全盘工作外，编写小组内部再分为文選组和常用词通论组。文選组由萧璋负责，常用词通论组由马汉麟负责。具体分工如下：
文選部分执笔人：
萧璋（北京师範大学）刘益之（中国人民大学）
许嘉璐（北京师範大学）赵克勤（北京大学）
常用词部分执笔人：
王力（北京大学）吉常宏（北京大学）
通论部分（包括绪论及附録）执笔人：
马汉麟（南开大学）郭锡良（北京大学）
祝敏徹（兰州大学）
编写小组的任务是艰钜的。北京大学的讲义只是初稿，距离公开出版的要求尚远。这次几个学校的同志在一起合作，除了肯定文選、常用词、通论三部分结合的总原则以外，一方面充分利用了北京大学原有的成果，另一方面又在很大程度上加以必要的修改和補充。文選部分更换了一些篇目，重写了解题和说明，特别是在注释方面作了很大的变动。常用词部分变更了一些体例和解释，並且随着文選的更换而改变了词修的次序。通论的章节和内容也都作了很大的变动。
每一篇稿子都经过组内讨论，组外传观並签注意见，最后由主编人决定。有些比较重要的问题还经过全体讨论。我们自始至终坚持了这种讨论方式；我们认为这样做可以集思广益，更好地贯徹百家争鸣的精神和发挥集体主义精神，从而进一步提高了书的质量。
1962年1月，上册讨论稿出版。在这个时候，召集了座谈会，出席者有丁声树、朱文叔、吕叔湘、洪诚、殷孟伦、陆宗达、张清常、冯至、魏建功诸先生，姜亮夫先生也提出了详细的书面意见。会议共开了一个星期，主要是讨论上册的内容，但最后也对中下册的内容交换了意见。
上册讨论稿分寄各高等学校和有关单位后，陆续收到了回信。有些是集体的意见，有些是专家个人的意见。从1962年1月下旬起，我们开始进行上册的修订工作，同时考虑到，上中下三册应该压缩为上下两册，以便更适合于教学计划的要求。体例上也作了改动，把文選各篇的说明移作注解，或迳行删去。我们的修订工作除充分地吸收专家们和各校的意见，进行必要的修改外，还趁此机会再深入发现问题，改写了不少的地方，上册增加了一个单元，其他单元也进行了部分的改写。因此，直到同年7月底，才算把上册修订完毕。
本书全稿曾请叶圣陶先生审阅。
总起来说，这一本《古代汉语》上册已经四易其稿。我们知道其中的缺点还是很多的；如果有若干成续的话，那是和党的领导分不開的，也是和全国专家们以及担任古代汉语的教师同志们的鼓励和帮助分不開的。我们编写小组虽然祇有九个人，但是这一本书的编成，则有千百人的劳动在内。我们谨在这里向曾提宝贵意见的专家们和同志们表示深切的谢忱。
最后，我们希望读者特别是从事古代汉语教学工作的同志们随时不吝赐教，让我们能够根据广大群众的意见来修订这本书，使它逐渐趋于完善。
王力
1962年7月