Середньовисотні німецькі гори (висота перевищує 1000 м над рівнем моря) — це частина широкої гірської дуги, яка тягнеться від центральної Франції аж до центральної Польщі, до якої належать Гарц, Туринський Ліс та Рудави.
На півдні Баварське плоскогір'я тягнеться до північних схилів Альп. Найвищою точкою країни є гора Цуґшпітце (2963 м над рівнем моря).
Рельєф країни підвищується з півночі на південь. На півночі країни — Північнонімецька низовина з мореними горбами і ділянками зандрового рельєфу, південніше — височини, низькі і середньовисотні гори (600–800 м, іноді до 1400 м), — Гарц, Рейнські Сланцеві гори, Шварцвальд, Чеський Ліс, Шумава та ін. На півдні — Баварське плоскогір'я, обрамоване передовими хребтами Альп (найвища точка країни — гора Цуґшпітце висота 2963 м).
Біля кордону із Швейцарією знаходиться найбільше озеро Німеччини, Боденське озеро, з якого бере свої витоки річка Рейн. Великі озера — Боденське, Гім та ін. розташовані в передгір'ях Альп, багато дрібних озер льодовикового походження — на Північно-Німецькій низовині.