Африканските слонове са по-непригодни за война отколкото индийските, но в Картаген ги използват, защото тяхното отглеждане и набавяне е много по-лесно. В ниската част на крепостните стени на Картаген били съоръжени специални помещения, които побирали триста слона.

В Индия и Персия слоновете са обичайна част от войската. При своя поход на изток Александър се сблъсква с персийските слонове и в битката при Гавгамела успява да плени слонове, които впоследствие използва, макар и ограничено. Елинистическата епоха бележи разцвет в употребата на слонове във войската и по-малки или по-големи подразделения от слонове участват във всички елинистически войски. Птолемеите освен индийски използват и африкански слонове, които им е по-лесно да си набавят.

Рим се сблъсква със слонове за първи път във войната си с цар Пир. Слоновете имат важна роля във войните с Картаген и елинистическите държави и римляните се сдобиват със собствени слонове точно покрай тези войни. В Рим се използват предимно африкански слонове поради по-лесното им набавяне, а индийски слонове се появяват при победите на Рим над елинистически владетели.

За няколко столетия обаче биват измислени множество начини за неутрализиране на слоновете в битките. Освен това слоновете често са опасни и за собствената си войска, и постепенно употребата им намалява, като в началото на втори век сл.Хр. изчезват напълно от войската. Тяхна обичайна "служба" в Рим става участието в триумфите (колесници със слонски впряг) и най-вече в игрите. С тази цел на няколко места в Италия било организирано отглеждане и обучаване на слонове.

В битки срещу народи, които не познават слона, основното преимущество на това животно е паниката, която всява сред противника, най-вече ужасът на конете (особено от миризмата), които по тази причина е трябвало да бъдат специално обучавани да не се боят от слоновете.
Върху слоновете се разполагали стрелци, като вместо седла често се поставяли цели кули, изработени от дърво, които побирали до петнадесет човека. Слоновете били покривани с червен плат, за да всяват ужас, а понякога имали и брони. Слагали им се начелници, а бивните били подсилвани с метални наконечници. Всеки слон имал водач, който седял на врата му и го направлявал с помощта на остен. Самите слонове били обучавани да хващат с хобота си вражеските войници и или да ги вдигат към водачите си, които да ги убият, или да ги хвърлят с голяма сила на земята и да ги стъпкват. Слоновете умеели да помагат и при разрушаването на дървени укрепления.
Стандартното подразделение от слонове (фаланга) наброявало 64, разделени на 2 групи от 32, разположени съответно на левия и десния фланг.