Das spätere Territorialkommando Süd hatte seine Wurzeln unter anderem im Verbindungsstab der Bundeswehr zum Oberkommando der US Army in Europa (USAREUR) in Mannheim. Der Verbindungsstab wurde zum 14. September 1956 aufgestellt. Am 11. Oktober 1956 verlegte dieser Stab nach Heidelberg. Zum 1. April 1959 wurde mit der Aufstellung des Stabes des „Deutschen Logistischen Bevollmächtigten Mitte“ begonnen. Sein Bereich umfasste den Bereich der Central Army Group (CENTAG). Diese Dienststellung wurde am 1. August 1959 in „Deutscher Bevollmächtigter Mitte“ umbenannt. Der Deutsche Bevollmächtigte Mitte und sein Stab unterstanden dem Kommando Territoriale Verteidigung.
Das Territorialkommando Süd wurde am 30. September 1994 außer Dienst gestellt. Pläne zur Fusion mit einem Korps wurden für das Territorialkommando Süd nicht umgesetzt.
„Von einer silbernen Kordel mit eingeflochtenem schwarzen Faden gefasst, geteilt zu Schwarz, Rot, Gold in goldenem Mittelschild ein einköpfiger schwarzer Adler, den Kopf nach rechts gewendet, die Flügel offen, aber mit geschlossenem Gefieder, Schnabel, Zunge und Fänge von roter Farbe (Bundesadler); der Mittelschild unten begleitet von Wort SÜD in schwarzen lateinischen Großbuchstaben.“
Die Schildteilung entsprach der Flagge Deutschlands. Die Motive des Verbandsabzeichens ähnelten im Übrigen dem Wappen Deutschlands. Der Bundesadler war das deutsche Wappentier. Er wurde ähnlich auf den Truppenfahnen abgebildet. Die enge Anlehnung an das Wappen und die Flagge Deutschlands verdeutlichte, dass das Territorialheer und seine Territorialkommandos auch im Verteidigungsfall unter Kommandogewalt des nationalen Befehlshabers blieben und nicht der NATO assigniert waren.
Die Verbandsabzeichen der Kommandobehörden im Territorialheer waren sich besonders ähnlich. Insbesondere unterschieden sich die Verbandsabzeichen der Territorialkommandos und der Wehrbereichskommandos nur durch die Beschriftung. Auch die Verbandsabzeichen des Bundesministeriums der Verteidigung und des Führungsstabes des Heeres waren bis auf den Bord fast identisch. Der bei den Territorialkommandos silber/schwarz geflochtene Rand symbolisierte die Stellung unterhalb des Bundesministeriums der Verteidigung, das entsprechend eine „höherwertige“ goldene Kordel aufwies.