公元前334年春，亚历山大率领远征军离开希腊马其顿开始东征。阿里安说，他带去的步兵有轻装部队和弓箭手，总共3万多人；还有骑兵5000多人。远征军在塞斯塔斯比较顺利地渡过了赫勒斯滂海峡，到达小亚的阿布达斯。这些部队用了160艘战船和一大批货船。据说亚历山大是从埃雷昂乘船到阿卡安港，曾亲自在旗舰上掌舵，还传说他是远征军中第一个登上亚洲大陆的。[3]按说，波斯人应当在海峡处布置兵力，阻挡亚历山大的军队渡过海峡，因为，亚历山大没有海军，波斯海军完全可以在海峡处袭击渡海的敌方军队，但波斯人却没有在此布防，让亚历山大的军队毫无阻挡地渡过了海峡。
远征军和波斯军队的第一次交锋是在小亚的格拉尼库斯河。交战之前，亚历山大派了一支由阿明塔斯率领的侦察部队，侦察波斯部队的情况，知道波斯军队正沿格拉尼库斯河对岸集结，于是，远征军便赶赴此河，两军在河的两岸对峙。当时，波斯军队中的希腊雇佣军将领迈农建议不要和马其顿军队打仗，因为他们的步兵比波斯人的强得多，他劝波斯将领最好把部队转移；用骑兵践踏粮草，全部毁掉；放火焚烧地里的庄稼，甚至连城市也别留下。这样到处没有粮草，亚历山大就无法在这一带立足。但波斯将领不同意，其中一个名叫阿西提斯的说，他绝不允许自己人的房子有一间被烧。出席会议的人支持他的意见，因为他们怀疑迈农是为了保住国王封给他的官位才有意拖延战争（据阿里安说，迈农被大流士三世任命为海军和沿海军区总司令）。[4]
开战前，亚历山大把骑兵部署在两翼，并加强了步兵方阵。波斯方面有大约两万骑兵以及稍小于此数的步兵和外籍雇佣兵。他们的部署是：骑兵沿河列队，形成一个拉长了的方阵；步兵在后，河岸以上的地势很高，形成居高临下之势。双方在河岸上先是展开了一场骑兵大混战。希腊人拼命要登上对岸，而波斯军则千方百计地阻止。波斯军的标枪铺天盖地，马其顿人的长矛左刺右扎。由于马其顿军队所处的地势极为不利，所以首批与波斯军交锋的马其顿军队几乎全部牺牲。但亚历山大率军冲了上去，很快，马其顿军队一队一队相继过河，双方一场激战，亚历山大的长矛也被折断，在换了一根长矛后，发现大流士三世的女婿米色瑞达提斯带着骑兵过来，便用长矛扎到了他的脸并将其甩到地上，但亚历山大的头盔却被一个波斯将领罗西帕斯砍掉一块。最后波斯军队没有能够挡住亚历山大军队的冲击而溃败了。这一仗的失败，使波斯帝国丧失了大片土地，亚历山大任命卡拉斯为新占领区的总督，命令当地居民按原来的额度交税。据阿里安提供的资料，在这次战斗中希腊人一共牺牲115人，其中有25人是地方部队的，亚历山大命令为他们铸铜像。对牺牲的60个骑兵和30个步兵，亚历山大命令豁免了战死者的父母子女的地方税、财产税和一切劳役。[5]
然后，亚历山大率军沿地中海东岸前进，一路顺利。例如，当他们到达吕底亚的首都撒尔迪斯时，该城的军队自动投降；当亚历山大的军队还没有到达埃菲萨斯时，当地的雇佣军就逃跑了；就在此时，马格尼西亚和特拉利斯两地也派代表向亚历山大献城；马其顿军比较顺利地占领了小亚的内陆地区福瑞吉亚；沿海岸线一路向东占领了西里西亚，夺取了塔萨斯城和伊苏斯城等，波斯的海军虽然企图沿途骚扰，也有一些地区对马其顿军进行过抵抗，企图阻止亚历山大军队的进军，但未造成多大的困难，马斯顿军便占领了几乎整个小亚地区。亚历山大禁止当地人滥杀无辜以防止公报私仇、谋财害命的事情发生。可能一方面由于财政困难，另一方面亚历山大认为自己的海军力量太弱，无力和波斯人对抗，因此他下令解散了自己的海军，说要从陆上打败波斯的海军。[6]
