OKW telah dibentuk pada 4 Februari 1938 susulan daripadadari [[Peristiwa Blomberg-FritschBlomberg–Fritsch]], yang mana membawa kepada pemecatan [[Fil Marsyal]] [[Werner von Blomberg]] dari jawatan Panglima Tertinggi Wehrmacht dan pembubaran [[Reichskriegsministerium]] ([[Menteri Pertahanan|Kementerian Perang]] Jerman). OKW menggantikan Kementerian Perang. Pelantikan yang dibuat terhadap OKW dan motif disebalik penyusunan semula biasanya dianggap sebagai keinginan [[Adolf Hitler]] untuk mengukuhkan kuasa dan pengaruh disekeliling kedudukannya sebagai [[Führer]] dan [[Canselor|Canselor Reich]] (Führer und Reichskanzler),akibatnya menjejaskan kepimpinan tentera Wehrmacht.