Dibawah Perjanjian Persekutuan, Negeri-Negeri Melayu Bersekutu telah mendapat khidmat 'Malay States Guides' yang tidak dianggotai oleh seorang pun bangsa Melayu. Ketika itu orang Melayu hanya mengganggotai Pasukan Sukarela Melayu yang ditubuhkan pada 1902 yang kemudiannya dikenali sebagai 'Malay States Volunteer Regiment' (MSVR).

Gesaan oleh empat pembesar Melayu kepada pemerintah Inggeris telah mendorong kepada penubuhan Skuad Percubaan seramai 25 orang rekrut pada 1 Mac 1933 di Depot Port Dickson.

Penubuhan Askar Melayu diperbesarkan setelah kecemerlangan yang dipamerkan oleh Skuad Percubaan sehingga wujudnya Battalion Pertama dan Kedua di saat-saat tentera Jepun menyerang Tanah Melayu.