Büyük Selçuklular her alanda olduğu gibi askerî alanda da en ileri seviyeye ulaşmışlardı. Büyük Selçukluların ordu teşkilatı kendisinden sonra kurulan Türk devletlerince de örnek alınmıştır. Dandanakan Savaşı'na (1040) kadar tamamen göçebe Oğuzlardan oluşan Büyük Selçuklu ordusu, bu savaştan sonra yerleşik İslam topluluklarıyla karşılaşan Tuğrul Bey, ordusunda yeni şartlara uygun bazı düzenlemeler yapma gereği duymuştur. Öncelikle Gaznelilerde bulunan hassa ordusuna benzeyen özel birlikler kurdurmuştur. Türklerin yanında yerli mahallî unsurlar da askerî teşkilat içine almıştır. Çünkü fetihler için her zaman kalabalık bir orduya gerek duyuluyordu. Büyük Selçukluların askerî sistemde yaptıkları en büyük yeniliklerden birisi de askerî iktalardır.

 
          Büyük Selçuklu ordusu altı bölümden oluşuyordu:

& Gulam Ordusu: Kulluk sistemi demek olan gulam sisteminde, değişik milletlerin çocukları küçük yaşlarda alınarak gulamhanelerde özel olarak yetiştirilirlerdi. Sultanlar, kendilerine en yakın askerî birlikleri gulam sisteminden yetişmiş askerlerden seçerlerdi. Doğrudan sultana bağlı olan Gulam ordusu yılda dört defa bîstegani adı verilen maaş alırdı. Bu ordunun her türlü masrafları devlet tarafından karşılanırdı.

-- Hassa Ordusu: Çeşitli Türk boylarından seçilerek oluşturulan birliklerdir. Sultana bağlı olan bu orduya maaş yerine iktalardan elde edilen vergi gelirleri verilirdi. Bu ordu her an savaşa hazır atlı birliklerden oluşurdu.

& Sipahiler (ikta askerleri): Selçuklu ordusunun en büyük kısmını sipahiler oluşturuyordu. Hz. Ömer zamanından beri uygulanan ikta sistemini Selçuklular almışlar ve kendilerine göre geliştirerek, ona askerî bir şekil kazandırmışlardır. Nizamülmülk tarafından yapılan bu askerî düzen, daha sonra bütün Türk-İslam devletlerince de kullanılmıştır. ita sisteminde ülke toprakları ergi gelirlerine göre bölümlere ayrılırdı bölümlerin her birine ikta denirdi. Kendilerine ikta verilen emirler iktalar içinde otururlar, vergisini toplarlar ve bu vergilere karşılıkta belirlenen sayıda asker beslerlerdi. Savaş zamanı bir araya gelen bu kuvvetler, Selçuklu ordusu içinde kalabalık bir grup oluştururdu. Böylece devlet ikta sistemi ile hiçbir harcama yapmadan çok sayıda askere sahip olduğu gibi, vergi toplama işini de halletmiş oluyordu. Türkiye Selçuklularında da devam eden bu sistem, Osmanlılarda Tımar adını almıştır.

& Şehzade, Melik ve Askerî Valilerin Kuvvetleri: şehzade, melik ve eyalet valileri kendilerine bağlı atlı askerî birlikler oluşturmuşlardır. Bu birlikler daha çok çeşitli Türk boylarından kurulurdu. Savaş zamanında ise kuvvetleriyle birlikte ana orduya dâhil olurlardı.

& Tabi (bağlı) Devlet ve Beyliklerin Askerleri: Büyük Selçuklulara bağlı devletlerden asker alındığı gibi, komşu devletlerden de paralı askerler toplanırdı. Sultan; Abbasi halifesi, Gürcü ve Ermeni krallıkları, Karahanlılar ve Gaznelilerden ihtiyaç duyduğunda asker talep eder, onlarda bunun üzerine asker gönderirlerdi.

& Türkmenler: Selçuklu Devleti kurulduğu zamanlarda ordunun ana unsurunu göçebe yaşayan Oğuzlar (Türkmenler) oluşturuyordu. Oğuzlar, beyleri vasıtasıyla hükümdara bağlı olmakla beraber kendi boy teşkilatları içersinde yaşarlardı. Doğudan devamlı büyük kitleler halinde göç ederek gelen Türkmenler uç bölgelerine yerleştirilirler, bu şekilde yerleşik hale geçen Türkmenler, hem üretime katkıda bulunurlar hem de yerleştikleri yerlerin güvenliğini sağlarlardı. Sultanın daveti üzerine de orduya katılırlardı. Irak, Suriye, Azerbaycan ve Anadolu'nun fethedilmesinde ve bu bölgelerin Türkleşmesinde, Türkmenlerin büyük faydaları olmuştur. Ancak Selçuklu ordusunda zamanla gulam sisteminden yetişen komutanların öne geçmesiyle, Türkmenler ikinci plâna düşmüşlerdir. Buna üzülen Türkmenler de zaman zaman ayaklanmışlar ya da isyan eden bir melik veya şehzadenin yanında yer alarak tepkilerini göstermişlerdir.

& Gönüllüler: Özellikle halkı Müslüman olmayan ülkelere yapılan seferlerde, halktan çok sayıda gönüllü de cihad düşüncesiyle orduda görev alırdı. Örneğin Malazgirt Meydan Savaşında, orduya Malazgirt ve Ahlat halkından gönüllü (gazi) olarak katılanlar olmuştur.
Selçuklu ordusunda kullanılan başlıca silahları, hafif ve ağır silahlar olmak üzere ikiye ayırabiliriz:

          && Hafif Silahlar: Ok, yay, kılıç - kalkan, mızrak, hançer, bıçak, sapan, kargı, gürz, balta ve zırh hafif silahlardı. Bu silahların ağırlığı bir insanın taşıyabileceği kadardı.

          && Ağır Silahlar: Mancınık, arrade (mancınığın küçüğü), kule, ok ve neft atan çark tipi makineler, koçbaşı denilen kale kapısı kırmaya yarayan ağaçlar ve arabalardı. Bu silahlar daha çok kuşatmalarda kullanılırdı.