那时候，中国人只能坐三等舱，与提供西餐的头等舱是分开的。中国人如果误入西餐厅，会受到服务员的呵斥，甚至是毒打。三等舱位于船尾，包括一个大的肮脏的木板铺位，服务很粗鲁。
沉痛的记忆，让陈光甫辗转难眠。反复思量后，他毅然决定创办中国人自己的旅行社。
从云南回来后，陈光甫即着手筹建上海银行旅行部。当年4月，上海银行正式呈文北洋政府交通部，提请代售火车票，办理旅行业务。当时交通部正召开全国铁路联运会议，该案一经交议，立即遭到身居要职的铁路洋员反对。他们的表面理由是英、日、美、法等国在华均有旅行机构，绝无再设的必要，实际上是担心会削减外国在华旅行机构的既得利益。幸好时任交通总长的叶恭绰、路政司司长刘景山及各路华员皆竭力支持，所以经激烈辩论后终获通过。
8月1日，上海银行旅行部正式宣告成立。这一天，是中国旅游史上值得大书特书的一天。按国际惯例，商业性旅行社的产生是一个国家近代旅游业诞生的标志。
上海商业银行旅行部最初仅在上海代售沪宁、沪杭线火车票，后陆续与长江航运、南北海运及外国各轮船公司订立代办客票合同，不久便推广至京绥、京汉、津浦各铁路，并在各地分行添设了若干旅行社分社。随着旅游业务的扩大，1927年6月，陈光甫决定将旅行部从银行中分出来，成立中国旅行社。至此，中国开始正式出现大型旅游事业。
中国旅行社在设立之初是亏本的，以后也长期不能盈利，因此上海银行内部不少人反对这项生意，同仁好友也纷纷劝陈光甫停办，但陈不为所动，始终坚持办理。每逢这个时候，他总是对大家说：“天地间万物有重于金钱者，好感是也。能得一人之好感远胜于得一人之金钱。今旅行社博得社会人士无数量之好感，其盈余为何好耶?” 他还强调：“这个旅行社虽说年年亏本，但为国家挽回了不少的利益，不然又多送外国人许多钱了。”
“人争近利，我图远功，人嫌细微，我宁烦琐。”中国旅行社的办社理念与服务宗旨，与上海银行如出一辙，再一次体现了陈光甫为人做事的原则与长远眼光。
为了让中国旅行社在竞争中站稳脚跟，陈光甫祭出四样法宝：一、顾客至上，服务社会。旅行社第一任经理朱成章就曾多次身穿招待员制服上车站迎送旅客或亲自驾车为旅客购票。1930年年底，陈光甫北上经徐州车站时，看到三等车乘客风餐露宿于车站，立即嘱咐中国旅行社在若干地区设立招待所和食堂。二、发扬国光，服务旅行，推进文化。陈光甫聘赵君豪为主编，创办了中国第一家旅游刊物《旅行》，该杂志图文并茂，介绍国内外名胜古迹，深受国内外游客好评。陈又聘美籍记者斯诺撰写中国风景名胜的英文小册五种，分寄外洋各机关、各轮船公司、各铁路及航空公司。当时许多名人致函中旅，啧啧称道。陈光甫认为：“此种宣传力甚大，人人知有中国旅行社，即知有上海银行。”三、以人为本，严格要求。“笑脸相迎，衣着整齐，手面清洁”是陈光甫对员工的基本要求。中旅员工一律招考录用，通过培训、实习，达到一定水平后才安排工作。工作后先在各部门轮流循环工作，多年后便成为一名旅游业的多面手。至于人员的升降，一律以才能学识为标准，定期择优送英美深造。四、一鱼多吃，敢于创新。中旅代办出国留学一条龙服务，深得留学生欢迎。从介绍欧美著名大学的章程起，到登记名单、办理留学证书、出国护照、入境证、订舱位、代换外币，直至对方国家派员到码头时迎候，再送上火车去应考、留学的学校，这一切都由中国旅行社一手操办。至于中旅社发行的中外旅行支票，不仅为旅客提供了方便，还为上海银行多了一笔活期存款，这在现代中国金融史上也是值得一书的。
