在上海期间，毛泽东的另一项重要工作，是担任中共中央局秘书。在《中国共产党中央执行委员会组织法》中规定：“秘书负本党内外文书及通信及开会记录之责任，并管理本党文件。本党一切函件须由委员长及秘书签字。”
高菊村等著《青年毛泽东》一书写道：
国民党“一大”后，毛泽东于1924年2月中旬从广州到上海。他同蔡和森、向警予、罗章龙等，住在闸北香山路三曾里中共中央机关内，以主要精力从事中共中央局秘书工作。5月10日至15日，中共中央执行委员会扩大会议在上海召开，毛泽东参加了会议。会议肯定了国共合作5个月以来的成绩，同时指出中共三届二次执委会对国民党右派“取敬而远之的态度”和“一切工作归国民党”的方针有右倾偏向。会议通过了《共产党在国民党内的工作》等决议案，纠正了我们党只注重国民党的组织工作，忽视宣传工作，忽视共产党组织的独立性的错误；强调共产党要在国民革命运动的根本问题上指责国民党右派政策的错误；要对国民党不断加强反帝反封建的宣传，使之扶助工农运动；要介绍革命分子加入国民党，增强左派的势力；要注意把国民党与共产党的组织分开，共产党是独立的秘密的组织，共产党的主要负责人不兼任国民党组织的主要领导。会议强调以国民党“一大”宣言中的革命政纲为标准区分国民党左右派。会议提出共产党要加强自身的教育、组织工作。会议指出产业工人是共产党的阶级基础，要在产业工人中大力发展共产党的组织，建立和扩大工会组织，发展劳动运动，坚持党对工人运动的绝对领导权，防止国民党右派插手工人运动。这次会议正式决定中共中央分设宣传、组织、工农、妇女部，毛泽东任中共中央组织部长。
会后，毛泽东为贯彻这次会议精神，起草了一系列文件。毛泽东担任中央局秘书期间，由他起草或与陈独秀联合签署的文件至今找到的有：《中共中央通告》第13号（1924年4月19日）、第14号（5月19日）、第15号（7月21日）、第17号（9月10日）、第21号（11月1日）。以党中央代号“钟英”签署发的有《为召开第四次全国代表大会准备意见给各地的通知》（8月31日）、《中共中央关于召开第四次全国大会的通知》（9月15日）、《各地委分配及推销中央机关报办法》（9月25日）等文件。
中共中央通告第13号是《关于“五一”“五四”“五五”“五七”之纪念与宣传》。《通告》指出，今年的“五一”由于中国工人阶级正在严重的压迫之下，除广州外，不可能有大规模的示威运动，但应在可能的范围之内，召集工人讲演会，讲演“五一”的历史及中国国民革命与集会结社之自由的关系。“五四”纪念则“须发挥五四运动两个重要的意义：（一）恢复国权运动；（二）新文化运动”。“五五”纪念应集合C.P及SY同志开一纪念会。“五七”纪念日，务努力联合工商学生做大规模的示威运动。口号是：不但否认二十一条及收回旅大，并要按照中俄协定，取消各国的租界、租借地、兵营、领事裁判权、庚子赔款，及废除不平等条约改订平等的条约。
第14号通告是号召全党反对军阀吴佩孚、萧耀南镇压国民党左派的运动。1924年5月13日，由于工贼告密，国民党汉口执行部机关遭破坏，中共汉口地方执行委员会委员、国民党汉口执行部组织部秘书许白昊，中共汉口地方执行委员会委员、国民党汉口执行部工人农民部部长刘芬等7人被捕，随即押往郑州，直至这年10月，第二次直奉战争中吴佩孚失败，萧耀南倒台，许、刘等才获释。通告愤怒谴责吴佩孚、萧耀南破坏革命，充当列强破坏中国民族运动的帮凶。
