Na pociąg pancerny składa się opancerzony parowóz oraz kilka wagonów pancernych. Uzbrojone zostają w działa, a także broń maszynową. Niekiedy na wyposażeniu znajdują się drezyny pancerne bądź bojowe wagony motorowe. W składzie tego typu pociągu najczęściej znajdujemy lokomotywę oraz wagony osłonięte stalowym pancerzem o grubości kilku do kilkudziesięciu milimetrów. Niektóre z pociągów pancernych chronione były materiałami, takimi jak beton bądź worki z piaskiem. Spotykało się również pociągi opancerzone tylko w części. Zastosowanie odmiennych materiałów dotyczyło przede wszystkim pociągów pancernych improwizowanych. Pomysł ich budowy zrodził się po raz pierwszy w 1826 roku we Francji. 20 lat przyszło czekać na zastosowanie pierwszej, częściowo opancerzonej platformy kolejowej z działem, a miało to miejsce w Austrii. Na większą skalę pociągi pancerne znalazły swoje zastosowanie podczas wojny austriacko-włoskiej oraz francusko-pruskiej. Podczas drugiej wojny burskiej używali ich Brytyjczycy. W całości pokryte pancerzem stalowym pociągi, a do tego wyposażone w obrotowe wieże artyleryjskie, pojawiły się w czasie I wojny światowej. Z tego okresu wywodzi się również większość polskich pociągów pancernych. Wagony, które zwykle używane są w pociągach pancernych, to artyleryjskie, piechoty, karabinów maszynowych, przeciwlotnicze, dowodzenia, przeciwpancerne, a także platformy.