晋武帝太康十年（289），陆机与其弟陆云终于不甘寂寞，结束蛰居生活，离开家乡，一起来到洛阳拜访太常张华。张华很器重他们，高兴地说：“攻打东吴的战役，最大的收获是得到这两位人才！”并为他们广为称扬，使陆机兄弟在京城获得很大声誉。当时有“二陆入洛，三张（指当时著名文学家张载及其弟张协、张亢）减价”之说。由于张华的举荐，陆机被太傅杨骏任命为祭酒。杨骏被杀，陆机担任太子洗马、著作郎等职。吴王司马晏出镇淮南，以陆机为郎中令。后又升尚书中兵郎，转殿中郎。当时贾谧专权，开阁延宾，一时文土辐辏其门，其中著名的有二十四人，号“二十四友”，陆氏兄弟亦入其列。
陆机为人，体气清刚，词锋警醒，才辩敏捷。初入洛时，有不少名公巨卿看不起他，企图用言词加以侮辱，但都受到陆机的回击而予以折服。有一次，陆机拜访侍中王济，王济指着面前所吃的羊酪对陆机说：“你们江东有什么东西能比得上它？”陆机立即回答说：“千里莼羹，未下盐豉。”意思是说江东千里湖的莼羹可以与之媲美，只是眼下没有人知道去加以调味罢了。还有一次，范阳卢志在大庭广众之下问陆机：“陆逊、陆抗是你的什么亲戚？”古代当着儿子的面直呼其父的名字是很不礼貌的行为，陆机当即回敬说：“那关系就像你同卢毓、卢珽一样！”也直呼卢志祖父和父亲的姓名，搞得卢志下不来台。陆云当时曾劝陆机说：“他们这里离江东很远，不太了解情况，可以谅解，何必这么针锋相对！”陆机倔强地回答说：“我们的父祖名播四海，并非无名之辈，他难道不知道吗！”陆机、陆云两兄弟初来洛阳时，名声不分高下，通过这件事，大家分出了两人的优劣。
赵王司马伦辅政，陆机做了相国参军，因参与谋杀贾谧有功，赐爵关中侯。司马伦准备篡位自立，又用他当中书郎。司马伦被诛杀后，齐王司马冏怀疑他身为中书郎，可能参与起草赵王篡位的文章，于是将陆机和有关的人员交给廷尉审讯，幸亏有成都王司马颖、吴王司马晏的救援，陆机才免死流放边疆，后遇赦未行。
陆机感念成都王司马颖的救援之恩，又看到司马颖礼贤下士，温文谦让，便想在成都王手下干一番事业，司马颖也很赏识陆机的才华，让他参大将军①本节材料主要依据《晋书·陆机、陆云传》，凡引此传者，不另作注。军事，又表为平原内史。
太安二年（303），司马颖与河间王司马颙起兵讨伐长沙王司马乂，任命陆机为后将军、河北大都督，统率包括北中郎将王粹，冠军牵秀等在内的二十万人马前往洛阳。行前，陆机对于自己担当军事要职很不安，这一方面是因为他受道家思想影响，认为陆氏家族三世为将，杀戮过多，恐遭不祥，而更主要的原因，是他感到自己势单力薄，在朝廷中根基不深。他以东吴旧臣的身份，旅居洛阳，成为晋朝官吏，一下子突然身居要职，早已引起一些人的不满。尤其司马颖左右的亲信，像王粹，牵秀，还有那个受到陆机羞辱而耿耿于怀的卢志，一直在寻找机会坑害他。陆机几次坚决地向司马颖提出辞去都督的职务，司马颖都没有允许。陆机骑虎难下，他的同乡孙惠劝他将都督的职位让给王粹，陆机说：“再这样辞让下去，别人会误认为我首鼠两端，临阵逃避，这样反而会更加速灾祸的到来呵。”
出发的时候，司马颖向陆机许愿说：“假如大功告成，我将以郡公，台司的爵位相许。你好好努力吧！”陆机坦率地对司马颖说：“从前齐桓公信用管仲建立了霸业，燕惠王由于疑忌乐毅而失去了即将成功的事业。这次讨伐长沙王行动的成败，在您而不在我。”司马颖的左长史卢志听到后，担心陆机进一步得宠，便乘机进谗。他对司马颖说：“陆机把自己比作管仲、乐毅，而拿您同历史上的昏君相比。自古以来，派遣将帅出征，没听说过对君主这么没礼貌而可以成功大事的。”听了卢志的一番话，司马颖沉默了很长时间。
