德国步兵师是以"波次(Wellen)"来组建和装备的，整个战争期间总共有35个波次。最初，每个波次师团的装备状况都大同小异，这主要取决于兵工厂的能力或者说第三帝国能从被征服地搜刮到什么。一些侵入俄国的师团装备着缴获的法式反坦克炮，并且还用轻型法式拖拉机来拖曳反坦克炮。此外，运输部队里也有缴获的法式车辆。
相对于武器装备来说，组织结构则更为标准。德国步兵师辖有3个步兵团，每团又有3个营。此外，还有1个由4个营组成的炮兵团，营的番号由1编至4。而美国军队的编制则是由1个炮兵指挥部下辖4个独立的炮兵营。德国步兵师还编有1个反坦克炮营和1个装备有马匹、自行车、几辆轻型装甲车的侦搜营。按照德国军队的标准惯例，这2个营的番号与所属师的番号相同。
德国军队和美国军队都编有工兵部队、医疗部队、通信部队和后勤部队。德国步兵师几乎完全以马匹作为运输工具。在其力量最为强大的1939年，一个"第一波"步兵师在最优先装备的条件下，拥有5000多匹战马，卡车却不到600辆。1933-1939年间偶然得以实现的重新武装使得它无法考虑到发展中的汽车工业是否能让一只大规模的军队实现机械化。唯一的例外就是反坦克连和反坦克营，因为需要它们快速运动去狙击敌军的装甲部队。整个战争期间，步兵由卡车运输的情况并不普遍，这通常意味着出现了紧急状况。
随着人员和装备的损失，德国步兵师的编制在战争期间进行了数次修改。个别步兵师1944年每个步兵团仅辖2个营，而侦搜营改称燧发枪营，作为由师长直接指挥的第7个步兵营。人员的减少，至少从理论上讲，要由新的装备来弥补。研究二战美国军队的学生们会发现这种情况并非陌生，1941-1945年间的美军步兵团的结构至少在纸面上是与其德国对手相似的。实际上，1940年的美军编制表就是有意地模仿德国。
每个德国步兵营辖有3个步兵连和1个机枪连。与美军步兵营的重火器连不同的是，这个机枪连编有1个迫击炮排。一个美军步兵团的12个连的番号由字母A编至M，其中省略字母J。而一个德国步兵团的连队番号则由数字1编至12，此外还有1个由马匹拖曳的短程近距离支援火炮组成的第13连（美军步兵团也有1个担负相同任务的火炮连）。最后，德国步兵团还有1个编有12门37毫米反坦克炮的反坦克连，番号为第14连。这是德国步兵团里唯一的全摩托化部队。1942年末美军步兵带入突尼斯的反坦克炮就是这种炮的仿制品。在面对苏德战争头半年出现的T-34和KV重型坦克时，德国反坦克炮手不得不近距离射击炮塔接合部那样容易击穿的位置或者让坦克通过再朝其侧面或后面开火。两者都是高度冒险的选择。在东线的大多数战斗里，这种拖曳的反坦克炮是德国反坦克防御的骨干力量。美军步兵师通常依靠师属的1个坦克营和1个自行驱逐坦克营来担负反装甲任务。与其大不相同的是，德军步兵师最多只能临时组成12辆突击炮，其它的就只能指望各团的反坦克炮炮手了。37毫米炮先后被50毫米炮和75毫米炮取代。但对于炮手和步兵意志力的要求却仍未改变。如果说二战中的德国步兵在近距离战斗中是有史以来最勇猛的战士，其实在相当程度上那是因为他们根本就没有选择的余地。
与美军一样，德军步兵连队的基本构成单位是1个班或称为"gruppe"。美军步兵的战术主要是依靠每一个步枪手和他手中的M-1伽兰德半自动步枪；冲锋枪或机枪的任务是提供火力支援。而一个德军步兵班主要以其轻机枪为核心，无论是进攻或防御，其他手持毛瑟枪的步兵的任务就是掩护机枪手并为他们背负弹药。只要机枪仍在射击，就有可能打退人数占绝对优势的敌军步兵或坦克的进攻。MG-42的高射速和可以快速更换的枪管，至少在一定程度上弥补了一线德军步兵员额的不足。而每个步枪手只要有机会，就会扔掉手中上个世纪末的武器，转而使用MP-40或俄制冲锋枪。尤其后者因为工艺简单、性能可靠而大受欢迎，尽管它独特的射击声容易导致友军误击。1943年初，被步步紧追的德国步兵接收了世界上第一批突击步枪---Sturmgewehr。其子弹的药筒更轻、更小，它可以全自动射击，并且经受住了最恶劣环境的考验。尽管没有普遍列装，但在像132师这样的普通部队里也能出现它的身影。
德军步兵师还有1个新兵训练营或称补充营。整个德国被划分为21个军区，国防军的每个师都从所属军区补充员额。一般来说，新兵、伤愈归队者或是后派学习特定课程的人都应向其所属团的补充营报到，再由补充营组织分派回前线。然后他们应向师属补充营报到，最后才被分派到需要的单位。随着战争的进展，这种制度也逐渐被打破了。归队人员可向任何补充营报到，随之被派往任何有需要的单位，甚至全部投入临时组织的战斗群去应付紧急情况。尽管团和师的界限逐渐变得模糊。但是尽可能保持部队建制区分的观念仍然没有完全消失。
在战争末期，尤其是对于临时组建的部队而言，内部的凝聚力在很大程度上要归功于德军一线部队的有效力。所谓的"突击预备队"或"警报连"就是担负紧急作战任务的战斗群，其基干力量通常为团属的战斗工兵排，可能还包括厨子、文员、可以行走的伤员、掉队士兵等等。德军中这些"不中用的人"在战争末期多次挽救了危急的战场局势。
苏联1943-1945步兵师编制人数为9500人，包括3个步兵团（2500人）及1个炮兵团（1000人），还有反坦克营、工兵营、通信连、侦察连各1个。
步兵团包括了3个步兵营（650人），并有若干个支援连，其中包括装备76mm榴弹炮连、45mm反坦克火炮连、反坦克枪连、迫击炮连、通信连和侦察连。每个步兵营编有3个步兵连（140人），1个迫击炮和机枪连，反坦克火炮排、步枪排、通信排各1个。
炮兵团装备了36支反坦克枪，24门76mm火炮，12门122mm榴弹炮。步兵师的所有压制火炮包括160门迫击炮、94门各种口径的火炮和228支反坦克步枪。
苏军步兵连一般为150人左右。编制3个步兵排和1个火力排。每排37人；火力排2个机枪班（马克沁重机枪1至2挺）和迫击炮班（3门50毫米迫击炮）。1939年步兵班除1挺DP式轻机枪外，全部是1891/1930式步枪。1940年步兵班每班12人，包括2人机枪组（杰格佳廖夫DP-28或DPM轻机枪1挺），班长波波莎，其余人纳甘步枪。1941年4月，步兵班配置1挺轻机枪、2支冲锋枪、7支步枪(包括班长1支)，共11名士兵。1942年12月型步兵连用得最久，直到战争结束。1944年12月编制打日本才用到。
苏军于1941年12月6日开始在步兵师中编入反坦克连，按照“三三”制编有3个排。每个排3个班，24人，装备9支反坦克步枪，配1辆马车。另外设有1个包括正副连长和指导员在内的7人连部。
1942年3月18日，苏军设立了新的步兵团建制。参照原先的师属反坦克连编制，辖有1个团属的独立反坦克连，装备27支反坦克步枪。此外，每个步兵营编入1个反坦克连，只有2个排，每个排设4个班。全连配备16支反坦克枪，其中部分是PTRS反坦克枪。这样，每个步兵团拥有的反坦克枪数量是：1个独立反坦克连27支，3个步兵营48支，总共75支反坦克枪。具备了相当强的反坦克火力。
同时，师属的独立反坦克连扩编成反坦克营。辖3个新编制的反坦克连，每个连含4个排，每个排有3个班。反坦克连装备的反坦克枪总数增加到36支，并配备了4挺轻机枪和一定数量的冲锋枪。
1942年7月，师级和团级所属的独立反坦克部队没有变化，步兵营下属的反坦克部队由1个连减少到1个排，含3个班。抽调出的两个排组成1个反坦克连，装备12支反坦克枪，被编入师属机枪营。师属炮兵连中也开始编入反坦克枪4支，两个炮兵排中各编入2支。
1943~1944年间，苏军又在步兵预备部队中编入了反坦克连。苏军炮兵部队在1941~1942年也装备大量了反坦克枪。这是由于大批反坦克火炮被击毁，而正在撤往后方的苏联工厂无法生产出足够数量弥补损失。等到情况好转，这些炮兵部队才换装了37式或42式45mm反坦克炮。
在战术上，苏军把反坦克步枪当作一种支援性武器，加强到受到敌人坦克威胁的一线部队。所以在苏军建制的步兵营、团和师中，往往找不到固定的反坦克枪部队。
苏军师一级部队常常把反坦克步枪和其他反坦克武器混编以相互弥补反坦克火力的空白。最大的编制是反坦克旅，辖1个轻型45mm反坦克炮团，加上2个装备反坦克枪营。编入的反坦克步枪的数量视敌人坦克而定。1个师最少只配属2到3个反坦克连，加上2个使用穿甲弹的DShK重机枪连。为了保护反坦克枪手，一些反坦克枪营中编入了1个轻机枪班和若干冲锋枪班。
1941年7月的苏军步兵师
3个步兵团(4 x 76mm, 4 x 45mm)
1个炮兵团(16 x 76mm，8 x 122mm)
2个工兵营
1个侦察连
1个补给连
合计：10859人，36门野战炮，78门迫击炮，18门反坦克炮。
1943年步兵师
3个步兵团(4 x 76mm，16 x 45mm，12 in GRR)
1个炮兵团(20 x 76mm，12 x 122mm)
1个反坦克营(12 x 45mm)
1个工兵营
1个信号连
1个侦察连
1个补给连
合计：9380人(10,670 in GRD)，44门野战炮，160门迫击炮，48门反坦克炮。
1941年的步兵团
3个步兵营
1个自动武器连（在7月增加）
1个反坦克炮连(4 x 45mm)
1个炮兵连(4 x 76mm)
1个迫击炮连
1943年的步兵团
3个步兵营
1个自动武器连(2 in GRRs)
1个反坦克枪连
1个反坦克连(6 x 45mm)
1个炮兵连(4 x 76mm)
1个迫击炮连(4 x 120mm)
1943 年德国装甲师 :
师部:
重机枪2挺、81毫米迫击炮2门、20毫米轮式自行高炮4辆、一号自行反坦克炮:3辆、SdKfz 251/1人员输送车:5辆
1x装甲团:
团部:
SdKfz 10/4自行高炮:12辆、3号/4号坦克:5辆
2x装甲营:
营部:
SdKfz 7/1自行高炮3辆、2号坦克:5辆、3/4号坦克:5辆、SdKfz 251/1人员输送车: 6辆
3x装甲连: 3号/4号坦克: 22辆
1x装甲步兵团:
团部:
SdKfz 251/16火焰喷射车: 6辆、75毫米反坦克炮: 3辆、SdKfz 251/1人员输送车: 3辆
1x装甲掷弹兵营:
3x装甲步兵连:
重机枪: 3挺、81毫米迫击炮: 2门、75毫米轻步兵炮: 2门
SdKfz 251/10人反坦克支援车: 3辆、SdKfz 251/1人员输送车: 9辆
1x重武器连:
75毫米反坦克炮: 3门、75毫米轻步兵炮: 4门、SdKfz 251/1人员输送车: 7辆
1x摩托化掷弹兵营:
3x摩托化步兵连:
重机枪: 4挺、81毫米迫击炮: 2门、卡车: 9辆
1x重武器连:
75毫米反坦克炮: 3门、120毫米迫击炮: 4门、卡车: 4辆
1x步兵炮连:
SdKfz 135/1 150毫米自行重步兵炮: 6辆
1x工兵连:
重机枪2挺、81毫米迫击炮2门、SdKfz 251/16火焰喷射车3辆、SdKfz 251输送车9辆
团部:
75毫米反坦克炮: 3辆、SdKfz 251/1人员输送车: 3辆
2x摩托化掷弹兵营:
3x摩托化步兵连:
重机枪: 4挺、81毫米迫击炮: 2门、卡车: 9辆
1x重武器连:
75毫米反坦克炮: 3门、120毫米迫击炮: 4门、卡车: 4辆
1x步兵炮连:
SdKfz 135/1 150毫米自行火炮: 6辆
1x工兵连:
重机枪: 2挺、81毫米迫击炮: 2门
SdKfz 251/16火焰喷射车: 3辆 、SdKfz 251/1人员输送车: 9辆
1x侦察营:
重机枪: 2挺、81毫米迫击炮: 4门、75毫米反坦克炮: 3门、75毫米轻步兵炮: 3门
SdKfz 222装甲侦察车42辆 、SdKfz 231 8轮装甲侦察车8辆、SdKfz 234/2装甲侦察车4辆 、SdKfz 251/1人员输送车31辆 。
1x高炮营:
20毫米轮式自行高炮: 33辆、20毫米四联自行高炮: 9辆、88毫米高炮: 12门
SdKfz 251/1人员输送车: 12辆
1x摩托化炮兵团:
105毫米榴弹炮: 16门、150毫米榴弹炮: 8门
黄蜂105毫米自行榴弹炮: 12辆、野蜂150毫米自行榴弹炮: 6辆
SdKfz 251/1人员输送车: 24辆
1x坦克歼击营:
sdkfz 10/4自行高炮: 12辆、貂鼠II/III坦克歼击车: 36辆
1x工兵营:
重机枪: 6挺81毫米迫击炮: 6门
SdKfz 251/16火焰喷射车: 6辆、SdKfz 251/1人员输送车: 9辆、卡车: 18辆
共计：
2号坦克10辆、3/4号坦克147辆、貂鼠II/III坦克歼击车36辆、1号坦克歼击车3辆 、75毫米反坦克炮：21门 、SdKfz251/1人员输送车：151辆、SdKfz 251/10反坦克支援车: 9辆、SdKfz 251/16火焰喷射车: 18辆 、SdKfz 10/4 20毫米自行高炮24辆、SdKfz 7/1四联20毫米自行高炮6辆、20毫米轮式自行高炮37辆、20毫米四联自行高炮9辆、88毫米高炮: 12门 、81毫米迫击炮40门、120毫米迫击炮12门 、75毫米轻步兵炮13门、SdKfz 135/1 自行重型步兵炮12辆 、105毫米榴弹炮16门、150毫米榴弹炮8门 、黄蜂105毫米自行榴弹炮12辆、野蜂150毫米自行榴弹炮6辆 、SdKfz 222装甲侦察车42辆、SdKfz 231/8轮装甲侦察车8辆、SdKfz 234/2"美洲虎"装甲侦察车4辆 。
1x摩托化炮兵营:
105毫米榴弹炮: 16门
150毫米榴弹炮: 8门
黄蜂105毫米自行榴弹炮: 12门
野蜂150毫米自行榴弹炮: 6门
SdKfz 251/1人员输送车: 24辆
另一种装甲部队是摩托化步兵师，即1943年5月以后人们熟知的装甲护卫师。它有2个摩托化步兵团，每个团有3个营。这些摩托化营人数不到600，由卡车运载。随着战争的发展，部分人员再度由半履带式装甲车运载。此外，摩托化步兵师通常有1个拥有30~50辆装甲作战车辆的装甲营或是1个强击炮营。两种装甲部队只是在坦克与步兵的数量比例上不同。装甲师里的4~6个步兵营，约有160辆坦克。摩托化步兵师里的6个步兵营，约有50辆坦克。
掷弹兵grenadier专门挑选并且投掷手榴彈的士兵。17世紀中叶，欧洲各国在营里组成专用的掷弹兵连，用于围攻战和战壕战。18世紀，手榴弹的使用逐渐减少，但掷弹兵仍然保存下來。一战期间，营以下部队要接受投掷手榴弹和发射枪榴弹的训练。以后作为特种步兵的掷弹兵不存在，掷弹兵这个名称也不再用了。
德军在二战开始时的步兵单位分三种，装甲化步兵（搭乘半履帶车），摩托化步兵（搭卡车），以及步兵。所谓的装甲化、摩托化并不完全，一部份装甲化步兵还是搭卡车，一部份摩托化步兵还是靠人力行军。1942年后战况吃緊，于是用恢复旧时普鲁士时期的军队名称來加強士气，唤回官兵们对昔日的荣誉。掷弹兵在普鲁士军事史上扮演相当重要的角色。部分步兵师改名为掷弹兵师。到1943年所有装甲化步兵改名成装甲掷弹兵（德文Panzergrenadier的直译），唯一加強的地方是配属了比较多的自行火炮和反坦克炮。半履带车仍然不足，大部分兵员还是乘卡车，甚至还有骑自行车。
这些装甲机动部队原先编成装甲军，每个军有2个装甲师和1个摩托化步兵师。装甲师执行突击任务，摩托化步兵师是一支支援部队和后盾。2~3个装甲军编成装甲集群（装甲集团军）。它的坦克可以多达800辆，还有装甲步兵和摩托化步兵以及支援部队。
1943 年型装甲师编制序列
装甲师指挥部直属战斗单位，包括担任警卫任务的装甲掷弹兵连，下辖摩托化通讯排、轻型自行高炮排（4辆20毫米自行高射炮）。连编制内的重型武器包括轻型步兵炮、中型迫击炮。紧急情况将该连基干组成小规模战斗群投入战斗。
1943型装甲师编制1个坦克团（2个坦克营）。坦克营下辖1个营部直属连、4个坦克连、1个维修连。
还编有2个装甲掷弹兵团。每团由2个掷弹兵营组成。其中实际上装备Sd.Kfz251装甲掷弹兵营仅为
第1营，其余第2、3、4营的输送工具均为卡车和人员输送车。装甲掷弹兵营遍有4个连，其重装备第4连拥有重迫击炮和轻型步兵炮，其余3个连只装备有中型迫击炮而被称为相对意义上的“轻装备连”。
“装甲化”第1掷弹兵团指挥部直属掷弹兵连也乘坐半履带式装甲车，装备的重型武器包括牵引式反坦克炮和火焰喷射器。掷弹兵第2团的机械化直属连拥有的重武器的数量很少。各团编制内除2个装甲掷弹兵营外，还拥有1个机械化战斗工兵连，其中第1团所属的一个排是“装甲化”的。团编制内有1个装备6门重自行步兵炮的炮兵连，负责掷弹兵团的直接火力支援。
装甲侦察营可称为装甲师内一支小规模的诸兵种混编部队，包括3个排编制的轮式装甲车连，装备半履带式装甲输送车和II号坦克的装甲侦察连，摩托化侦察连，配备6辆75毫米火炮型装甲输送车的重装备连，1个装备6具火焰喷射器的机械化工兵排。还有轻型货运车单位。
坦克歼击营由营部、1个营部直属连、3个连组成。
装甲炮兵团编有3个营，每营辖3个连。“自行化”的第1营装备12辆105毫米蜜蜂自行榴炮、6辆150毫米野蜂自行榴炮和一个直属连。第2营装备12门牵引式105毫米轻型榴弹炮（每连各4门）和一个直属连。第3营由1个重榴弹炮连（装备4门牵引式150毫米重型榴弹炮）和2个重加农炮连（各装备4门牵引式105毫米重加农炮）及一个直属连组成。
高炮营由2个重装备连（各装备4门牵引式88毫米高炮和3门牵引式20毫米轻型高炮）、1个轻装连（装备12门牵引式20毫米轻型高炮或9门牵引式20毫米轻型高炮加2辆20毫米自行高炮）及一个直属连组成高射炮营另编有1个轻型货运车单位。
工兵营由1个“装甲化”的战斗工兵营和2个机械化工兵营组成。
此外装甲师还编有1个装甲通讯营、1个野战补充营、1个物资补给营以及负责后勤的卫生管理单位等。
