2月25日，日军大本营将中太平洋地区所有陆军部队整编为第31军，由小烟英良中将任军长，规定该军服从于联合舰队司令的调遣。从3月起，日军进一步动员大批船只向该地区调集部队，至5月下旬，31军已拥有5个师团又8个旅团，分别防守马里亚纳、特鲁克、小笠原和帛琉等岛屿。其中部署在马里亚纳群岛的是2个师团又2个旅团，约6万余人。但防御工事才完成工程量的一半，计划要到11月方能完成。此时，火炮掩体几乎没有，地雷和铁丝网也没铺设，总体防御根本谈不上坚固。
日军企图在第一航空舰队和第一机动舰队实力有所恢复后，寻找战机与美军决战，争取扭转战局。决战计划原是联合舰队司令古贺峰一海军大将主持制定的，代号为“阿”号作战。
根据“阿”号作战计划，第5岸基航空队和第1机动舰队的舰载航空兵将在马里亚纳群岛对来犯之敌实施两面夹击，以抵消美军航母编队舰载机在数量上的优势。日本海军计划用于马里亚纳群岛决战的主力第1机动舰队是1944年2月由第2第3舰队合并组成的，几乎包括了联合舰队所有主要水面舰艇，共有航母9艘，战列舰5艘，巡洋舰14艘，驱逐舰31艘，舰载机439架，由小泽治三郎海军中将任司令，具体编制如下：第一航空战队：大风、瑞鹤、翔鹤3艘航空母舰，第601航空队，作战飞机225架；第2航空战队：隼鹰、飞鹰、龙凤3艘航空母舰，第652航空队，作战飞机130余架；第3航空战队：千代田、千岁、瑞凤3艘航空母舰，第653航空队，作战飞机90架。日军大本营也深知这支舰队与美军太平洋舰队的航母编队在实力上存在较大差距，所以决定第5岸基航空队与之配合作战，充分发挥舰载航空兵与岸基航空兵的协同威力。第5岸基航空队分为3部分，分别部署在帛琉、马里亚纳和雅浦3地，每一处的航空队都拥有战斗机、轰炸机、攻击机和侦察机。日本大本营还在“阿”号作战计划中明确指出：“集中我大部分决战兵力，准备在敌军主要反攻的正面，一举歼灭敌舰队，以挫败敌军的反攻企图。”