כשחקן תפקד רמזי כמגן ימני, וניחן ביכולות קריאת המשחק, ההתמקמות במגרש וההנהגה הקבוצתית, שחיפו על העדר מהירותו. לאחר שהפגין כישרון רב במשחקיו במסגרת קבוצה מייצגת של הצבא הבריטי, הצטרף למחלקת הנוער של פורטסמות' ב-1940. בשנת 1942 הוא השתתף עם הקבוצה בליגה מקומית של לונדון שפעלה בזמן מלחמת העולם השנייה, וב-1943 עבר לשחק בסאות'המפטון (שנה לאחר מכן החל לשחק על תקן מקצוען). ב-1949 עבר רמזי לטוטנהאם הוטספר, בה שיחק עד 1955 והיה שותף לזכייה באליפות אנגליה ב-1951. במהלך תקופתו בסאות'המפטון הוא זומן לראשונה לנבחרת אנגליה, במדיה היה שותף להדחה בסיבוב הראשון של מונדיאל 1950. משחקו האחרון בנבחרת היה בתבוסה 6:3 לנבחרת הונגריה בנובמבר 1953.
לאחר פרישתו ממשחק ב-1955 מונה רמזי למאמנה של איפסוויץ' טאון. הקבוצה, שעם הגעתו הייתה בליגה השלישית, העפילה תחת הדרכתו עד לליגה הראשונה בתוך שש שנים. כבר בעונתה הראשונה בליגה הבכירה, 1961/1962, הוא הצעיד את הקבוצה לזכייה באליפות. בעקבות הצלחתו הגדולה מונה רמזי באוקטובר 1962 למאמנה של נבחרת אנגליה, והחל לכהן רשמית בתפקיד במאי 1963, עת עזב את תפקידו כמאמן איפסוויץ'.
גביע העולם ב-1966
עם מינויו דרש רמזי שליטה מלאה על בחירת סגל הנבחרת, שעד אז הושפעה בידי גורמים אחרים בהתאחדות. הוא הנחיל לנבחרת שיטת משחק חדשנית, במסגרתה שינה את מערך 4-4-2 הקלאסי והפך את שחקני האגף, שלא הצטיינו במשחק ההגנה, לקשרים התקפיים במרכז המגרש שהיו יכולים לעזור גם במשימות ההגנתיות. השיטה הביאה לבלבול של הנבחרות היריבות, אשר ציפו להתקפות שיגיעו מהאגפים ולא דרך המרכז. במסגרת שיטה זו התבסס רמזי באופן מיוחד על שחקנים כמו בובי צ'רלטון ומרטין פיטרס.
לקראת מונדיאל 1966 העניק רמזי את סרט הקפטן של אנגליה לבלםבובי מור. רמזי הרכיב נבחרת חזקה במיוחד מבחינה הגנתית כשפתח עם גורדון בנקס בעמדת השוער, ועם מור וג'ק צ'רלטון כצמד הבלמים. במשחקי שלב הבתים החליט לפתוח עם מערך של 4-3-3, כשבכל אחד מהמשחקים הוא כלל קיצוני בהרכב. לאחר תיקו 0:0 במשחק הראשון נגד נבחרת אורוגוואי החל רמזי לבצע חילופים רבים בחוליית הקישור, והשיג שני ניצחונות רצופים של 0:2 על מקסיקו וצרפת. במשחק מול צרפת נפצע החלוץ המצטיין ג'ימי גריבס, ורמזי הכניס במקומו להרכב את ג'ף הרסט הצעיר, על אף שעמדו לרשותו חלוצים מנוסים יותר בסגל.
לקראת שלבי ההכרעה החליט רמזי לחזור להשתמש במערך 4-4-2 עם טקטיקת המשחק הייחודית שפיתח, כאשר הסיר את הקיצוניים מהמערך ובמקומם השתמש בקשרים התקפיים במרכז. ברבע הגמר פגשה אנגליה את נבחרת ארגנטינה הקשוחה, ובתום משחק רווי-אלימות ניצחה 0:1 משער של הרסט. בסיום המשחק הוא הורה לשחקניו שלא להחליף חולצות עם הארגנטינאים כמחאה על משחקם האלים, ואף כינה את שחקני היריבה כ"חיות".
בחצי הגמר נגד נבחרת פורטוגל התמודדה הגנת אנגליה בהצלחה עם הכישרון ההתקפי של הפורטוגלים, בראשותו של אאוזביו, ניצחה 1:2 והעפילה למשחק הגמר, שם פגשה את גרמניה המערבית. בגמר ניצחה אנגליה בתוצאה 2:4 בתום הארכה, וזכתה בגביע העולמי בפעם הראשונה בתולדותיה. יכולתם של השחקנים הצעירים עליהם סמך רמזי באה לידי ביטוי במשחק זה - ג'ף הרסט, שהועדף בהרכב על פני גריבס שהחלים מפציעתו, הבקיע שלושער, ואילו אלן בול נבחר לשחקן המצטיין של הגמר וזכה לשבחים מיוחדים מרמזי.
המשך דרכו כמאמן
שנה לאחר הזכייה בגביע העולמי, ב-1967, קיבל רמזי תואר אבירות במסדר האימפריה הבריטית. אנגליה העפילה בהדרכתו של רמזי לאליפות אירופה ב-1968. שני טורנירי אליפות הבית הבריטית שהתקיימו בשנים 1966–1968 היוו את משחקי המוקדמות לאליפות זו; בטורניר הראשון מביניהם איבדה אנגליה את התואר לסקוטלנד, אך זכתה בטורניר השני וסיימה בראש הבית המשולב. בטורניר הגמר הודחה הנבחרת בחצי הגמר על ידי יוגוסלביה, וסיימה במקום השלישי אחרי ניצחון על ברית המועצות.
לקראת מונדיאל 1970 נחשבה אנגליה לאחת מהמועמדות הבכירות לזכייה, אך הציגה יכולת מאכזבת במהלך הטורניר. היא סיימה במקום השני בשלב הבתים, אחרי נבחרת ברזיל, וברבע הגמר הפסידה 3:2 לגרמניה המערבית, על אף שכבר החזיקה ביתרון של 0:2 עשרים דקות לפני סיום המשחק. רמזי זכה להאשמות תקשורתיות רבות על הכנסתו של פיטר בונטי בעמדת השוער במקום בנקס שסבל מהרעלת מזון, ועל החילוף שבו הכניס את קולין בל במקומו של בובי צ'רלטון. במוקדמות אליפות אירופה ב-1972 הודחה אנגליה פעם נוספת על ידי גרמניה. במוקדמות מונדיאל 1974 הייתה צריכה הנבחרת לנצח במשחק האחרון מול פולין, אך סיימה בתיקו וכשלה בניסיונה להעפיל לטורניר. רמזי קיבל ביקורות רבות על כישלונות אלו, וכעבור מספר חודשים פוטר מאימון הנבחרת.
רמזי שימש כמאמנה של ברמינגהאם סיטי בין 1977 ל-1978, וסיים את דרכו באימון לאחר ששימש כיועץ מקצועי בפנאתינאיקוס היוונית בין 1979 ל-1980. לאחר פרישתו הוא הופיע כדמות ברצועת הקומיקס "Roy of the Rovers", כמי שלוקח את תפקיד המאמן הזמני של קבוצת "מל'צסטר רוברס".