Организационная структура военно-морских сил Германии в период Второй мировой войны была весьма сложной. Высшим руководством ВМС являлось Главное командование Кригсмарине (Oberkommando der Kriegsmarine — ОКМ) во главе с Главнокомандующим. Оперативное руководство он осуществлял через Штаб руководства войной на море (Stabes der Seekriegsleitung — SKL). Эти структуры находились в Берлине. Руководству войной на море подчинялись флотское командование (Flottenkommando) и командования военно-морских групп (Marinegruppenkommandos — MGK). Первое отвечало за снабжение и боевую подготовку кораблей и непосредственное руководство операциями с их участием. Командования военно-морских групп отвечали за поддержание оперативного режима на ТВД, береговую оборону и осуществляли оперативное руководство силами флота, действовавшими в зоне их ответственности.
К началу войны командующему флотом (Flottenchef) подчинялись командующий броненосцами (BdP), командующий разведывательными силами (BdA) и начальник подводных лодок (FdU). В свою очередь, командующему разведывательными силами подчинялись начальник миноносцев (FdT) и начальник тральщиков (FdM).
Впоследствии структура командования видоизменялась, должности переподчинялись, менялись названия, ликвидировались, вводились новые. В июле 1940 г. должность BdP была ликвиди¬рована, вместо нее в июне 1941 г. ввели должность командующего линкорами (BdS), в июне 1942 г. ее преобразовали в должность командующего крейсерами (BdK), в апреле 1943 г. — в командующего боевой группой (BdK), в октябре 1944 г. ликвидировали. В июне 1944 г. параллельно ввели должность командующего 2-й боевой группой, она просуществовала до апреля 1945 г. Должность BdA в августе 1940 г. преобразована в должность BdK, в октябре 1941 г. ее ликвидировали. В ноябре 1939 г. появилась должность начальника эсминцев (FdZ), которому подчинялись все ЭМ, в ве¬дении FdT остались мм и ТКА. В июле 1940 г. FdZ и FdT переда¬ли в непосредственное подчинение Flottenchef. В апреле 1942 г. должность FdT ликвидировали, мм передали в подчинение FdZ, для руководства ТКА была введена должность начальника торпедных катеров (FdS). Начальник подводных лодок с октября 1939 г. стал называться командующим подводными лодками (BdU), в июле 1942 г. вся эта служба передана в непосредственное подчинение ОКМ. В июле 1943 г. ввели должность начальника судов снабжения. В период с апреля 1942 по ноябрь 1944 г. в подчинении Flottenchef находился начальник минных заградителей (FdMinsch), а с января 1945 г. — командующий силами охранения (BdSich). Кроме того, в сентябре — октябре 1941 г. существовал так называемый "Балтийский флот" (Baltenflotte).
Более сложной выглядела структура военно-морских командований. С началом войны были образованы военно-морские группы "Вест" и "Ост" (MGK West и Ost) со штабами в Вильгельмсхафене и Киле. Командованиям групп подчинялись морские станции соответственно Северного и Балтийского морей (Marinestation der Nordsee и Ostsee) с командующими силами охранения, отвечавшими за обеспечение безопасности судоходства, а также командующие районами береговой обороны (Kustenbefehlshaber). В подчинении командующего силами охранения Северного моря (Befehlshaber der Sicherung der Nordsee — BSN) находились начальники тральщиков, сторожевых кораблей и кораблей специального назначения (охотники за ПЛ и минные заградители) "Вест" (соответственно FdM, FdV и FdS West). Аналогично командующему силами охранения Балтийского моря (BSO) подчинялись FdM, FdV и FdS Ost.
В августе 1940 г. в связи с расширением операционной зоны командования военно-морских групп "Вест" и "Ост" были ликвидированы, вместо них образованы командования военно-морских групп "Норд" и "Вест". В подчинение MGK Nord со штабом в Вильгельмсхафене вошли морские станции Северного и Балтийского морей с командующими силами охранения этих морей, а также командование "Адмирала Норвегии". Последнему подчинялись так называемые командования "Адмиралы побережий", в распоряжении которых находились флотилии охотников за ПЛ, СКР и ТЩ, части береговой обороны и силы охраны водного района. MGK West со штабом в Париже подчинялись командование "Адмирала Франции" и командующий силами охранения на Западе (Befehlshaber der Sicherung Westraum). В марте 1941 г. была сформирована военно-морская группа "Зюд" (MGK Sud) со штабом в Софии, которой подчинялись командования "Адмирала Черного моря", "Адмирала Эгейского моря" и "Адмирала Адриатики". С октября 1941 по май 1944 г. существовало командование "Адмирала Норвежского моря", отвечавшее за борьбу с арктическими конвоями. В ноябре 1941 г. для более тесного взаимодействия с итальянским флотом было образовано германское военно-морское командование в Италии, которому впоследствии подчинялись командования в Северной Африке и Тунисе. В сентябре 1943 г. оно влилось в MGK Sud. В течение 1943 г. сформировали командования ВМС (Marineoberkommando — МОК) Норвегии, Северного моря и Балтийского моря, в связи с чем группу "Норд" в июле 1944 г. расформировали.
Дунайская флотилия первоначально находилась в непосредственном подчинении ОКМ, в июле 1941 г. ее передали в подчинение MGK Sud, а с ноября 1941 г. до конца войны она подчинялась командованию "Адмирала Черного моря".