Gazneli ordusu dönemin en modern ve profesyonel ordularından birisi idi. Ordu daima savaşa hazır durumda bulundurulurdu. Ordunun başkomutan bizzat sultandı. Gazneli ordusunun önemli bir özelliği de Hindistan'dan haraç olarak alınan fillerdi. Kaynakların belirttiğine göre fil sayısı en çok 1700 civarında olmuştur. Gazne ordusunda fillerin eğitilmesi ve barınması için fil hane kurulmuştu. Gazne ordusundaki askerlerin çoğu süvari idi. Gazne ordusunun sayısı da yaklaşık yüz bin kişi civarında idi. Bu sayı savaş zamanında gönüllüler ve eyalet kuvvetlerinin katılmasıyla artardı.

             Gazne ordusunu oluşturan unsurlar şunlardır:

& Gulâmlar: Gulâm Farsça kul demektir. Orduda "Gulâm Sistemi" ise kulluk sistemi demektir. Gulâm sistemi en gelişmiş şekli ile Gazneliler ve Selçuklularda görülmektedir. Bu sistem bir bakma o devrin askerî okulları idi. Çocuk yaşta toplanan asker adayları, gulâm yetiştirme merkezlerine (gulâmhane) getirilirler, burada at üzerinde silah kullanmayı, saray terbiyesiyle sultana hizmet etme usullerini öğrenirlerdi. Sultana yakın devlet yöneticileri ve yüksek seviyeli komutanlar gulâm sisteminden yetişiyordu. Gulâm sistemindeki eğitim süresi uzun olup, 18 ? 20 yılı bulabiliyordu. Sultanlar kendilerine en yakın askerler olan hassa birliklerini (Gulâman-ı Has) gulâmlardan seçerlerdi. Hassa askerleri savaşa her an hazır olan eğitilmiş askerlerdi. Hassa ordusu askerleri yılda dört defa bistegani adı verilen maaş alırlardı. Gulâmlar saray teşkilatında da önemli görevler alabiliyorlardı. Sultan Alp Arslan'ın kendisine bağlı 4000 gulâmı olduğu bilinmektedir. Gulâm sistemine giren askerlere memlûk (köle)' da denilirdi. Fakat buradaki memlûk, hiçbir kanuni hakkı olmayan esir insan demek değildi. Bunlar tamamen özel statüde eğitilmiş askerlerdi. içlerinden yönetici ve komutan da çıkabiliyordu.

& Muntazam birlikler: Sürekli askerlerin oluşturduğu yaya ve süvarilerden karma düzenli birliklerdir.

& Eyalet askerleri: Eyalet askerleri iktalarda yetişmiş atlı askerlerle, şehzade ve meliklerin kuvvetlerinden oluşmaktadır.

& Ücretli askerler: Ücretli askerler Oğuz, Karluk ve Yağma Türklerinden seçilirdi.

& Gönüllüler: Gönüllüler (gazi) herhangi bir savaş esnasında, savaş bölgesine yakın yerlerden orduya katılan kuvvetlerdi. Sultan Mahmud'un 1018'deki Hindistan seferine yirmi bin gönüllünün (gazi) katıldığı bilinmektedir.