מגאת החל את קריירת המשחק שלו בקבוצה המקומית ויקטוריה אשאפנבורג. מועדון הבוגרים הראשון שלו היה קבוצה מזארבריקן ששיחקה בבונדסליגה השנייה. בשנת 1976 עבר למועדון המבורג מליגה העליונה-הבונדסליגה. מגאת בילה עשור שלם במועדון, במהלכו השלים 306 משחקי בונדסליגה בהם כבש 46 שערים בסך הכל, כאשר מספר הכיבושים הרב ביותר בעונה אחת היה 10, ב-1981.
שיאו כשחקן הגיע בגמר גביע אירופה לאלופות 1983, בו הבקיע את שער הניצחון לזכות קבוצתו מול יובנטוס. מגאת שיחק עבור נבחרת גרמניה בשני גמרים של טורניר מונדיאל-ב-1982, בו הפסידה הנבחרת לאיטליה, וב-1986 בו הפסידה הנבחרת לארגנטינה. אולם, גם במישור הבינלאומי טעם טעמה של הצלחה, עת זכתה גרמניה ביורו 1980.
קריירת אימון
המועדון הראשון אותו מגאת אימן היה המבורג, בשנת 1995. תוארו הראשון בתור מאמן קבוצה הגיע עם שטוטגרט בשנת 2002, עת זכתה הקבוצה בגביע האינטרטוטו. בשנת 2004, מונה מגאת למאמן באיירן מינכן. מגאת הצליח להשלים שתי זכיות רצופות בדאבל (שנים 2005 ו-2006), בפעם הראשונה בהיסטוריה של הבונדסליגה. אולם, הצלחתו בבאיירן הגיע לקיצה בעונה הבאה, בה הקבוצה סיימה במקום ה-4 בלבד ואיבדה את מקומה בליגת האלופות.
מגאת פוטר מבאיירן מינכן ועבר לאמן את וולפסבורג ביוני 2007. בשנת 2009, הצליח מגאת להוביל את המועדון מעיר לאליפות הראשונה בתולדותיה. ביולי 2009 עזב מגאת את וולפסבורג וחתם בשאלקה 04. מגאת אמנם הצליח באופן פושר בבונדסליגה, אך הוביל את הקבוצה הגרמנית לחצי גמר ליגת האלופות, לאחר ניצחון ברבע הגמר על אלופת אירופה היוצאת אינטר מילאנו. במרץ 2011 מגאת פוטר משאלקה וחזר לאמן את וולפסבורג, אותה הוביל לאליפות בשנת 2009. באוקטובר2012, לאחר פתיחת עונה חלשה, פוטר מהקבוצה. בפברואר2014 מונה למאמנה של פולהאם מהפרמייר ליג, בסיום העונה ירד עם הקבוצה ליגה, בספטמבר 2014 פוטר מתפקידו לאחר שבעה משחקי ליגה ללא ניצחון מתחילת העונה. ביוני 2016 מונה למאמנה של שנדונג לוננג הסינית.