כרמי נולד בירושלים, למשפחה מבוני היישוב. אביו הוא האדריכל דב כרמי אשר תכנן מבנים רבים בתל אביב הישנה בתקופת היישוב. אמו, חיה, הייתה בתו של חיים מקלב, בנו של מרדכי מקלב, איש העלייה הראשונה ומראשי אנשי הציבור בפתח תקווה. אחותו היא האדריכלית עדה כרמי-מלמד.
את לימודי האדריכלות עשה בלונדון בבית הספר לאדריכלות של אגודת האדריכלים AA, בין השנים 1951-1956. בשנים 1975–1979 כיהן כאדריכל ראשי במשרד השיכון.[1]
כרמי הושפע בסגנונו מקריאת הספר "כמעיין המתגבר" מאת איין ראנד.[4] הוא היווה את קולו של דור אדריכלים חדש שצמח בסוף העשור הראשון של הקמת המדינה ומרד כנגד האדריכלות הלבנה שייצגו דור האדריכלים הקודם. השפה שאימץ כרמי ושלט בה באופן חסר תקדים, היא הברוטליזם - שימוש בחומרים זמינים ופשוטים כדוגמת בטון, מתכת, עץ וזכוכית והותרתם בפרויקט ללא גימור נוסף. שפה זו זכתה לכינוי "אדריכלות אפורה" הודות לשימוש הרב בבטון חשוף שצבעו אפור. לבד מההיבט החומרי של הפרויקטים, זכו עבודותיו של כרמי לפרסום בינלאומי הודות לפרשנותו החדשה של כרמי למושגים כדוגמת "רחוב", "עיר" ו"אור". שלושת המושגים הללו אשר באו בכל יצירותיו האדריכליות לאורך הקריירה שלו, היוו ניסיונות בעיצוב עירוני בקנה מידה של בניין. דוגמאות לכך ניתן למצוא במפעל ארגמן ביבנה, בניין מרכז הנגב בבאר שבע, והתחנה המרכזית החדשה של תל אביב. ניסיונות אלה, אשר היו קיצוניים ולא התקבלו תמיד על הציבור והמבקרים, זוכים באופן תמידי לדיון ציבורי.
ביקורת
חלק מעבודותיו זכו לתשבחות רבות בישראל ומחוצה לה, בהן בניין בית המשפט העליון ומסוף היוצאים בטרמינל 3. עם זאת, רבות מעבודותיו המרכזיות בישראל נתקבלו בביקורת ציבורית קשה. כך היה לגבי התחנה המרכזית החדשה של תל אביב, אשר נטען כלפיה שגרמה לנזקים אורבניים קשים בסביבתה, קמפוס הר הצופים, בו מתקשה הציבור להתמצא, מגדלי חוף הכרמל בחיפה, המסתירים את הנוף וזכו בתואר המפוקפק "מפלצות חוף הכרמל" מתושבי העיר[5] ומגדלי הולילנד שפוגעים באופן קשה בקו הנוף של ירושלים, וזכו לכינוי "המפלצת על הגבעה". גם על שיפוץ בית הבימה בתל אביב נמתחה עליו ביקורת קשה.[6] רם כרמי הגיב לביקורת על בניין הבימה באופן בוטה "מה שעשיתי זה דבר גדול ולא אכפת לי מה אומרים כולם, שיישקו לי בתחת".[7] בהזדמנות אחרת אמר: "כל תוכנית טובה שאני עושה, מוהלים אותה במים, מוציאים לה כמעט את הנשמה. אבל אני לא הורס ולא מפוצץ את המבנה, כי כמו כל אבא טוב, אם הילד שלך יוצא קצת לא לפי התוכניות שלך ולא הכי מוצלח, אז אתה לא פוגע בו ולא אוהב אותו פחות. כולם היו בנייני".[4]