רם כרמי נולד בשנת 1931 בירושלים וגדל בתל-אביב. אביו הוא האדריכל דב כרמי ואמו, חיה, היא בת חיים מקלב, בנו של מרדכי מקלב, איש העלייה הראשונה ומראשי אנשי הציבור בפתח תקווה. את לימודי האדריכלות השלים בלונדון בבית הספר לאדריכלות של אגודת האדריכלים AA בין השנים 1951-1956. בתחילת דרכו עבד במשרד משותף עם אביו ועם האדריכל צבי מלצר. בשנים 1959-1962 תכננו את בית אל על בתל-אביב – בניין המשרדים הגבוה הראשון בארץ שהוקם על ידי יזם פרטי, עליו זכה רם בפרס רוקח ב-1965. בשנים 1975-1979 כיהן כאדריכל ראשי במשרד השיכון.

כרמי זכה פעמיים בפרס רכטר לאדריכלות: בשנת 1966 עבור תכנון פרויקט "מרכז הנגב" בבאר שבע וב-1999 עבור תכנון מוזיאון "יד לילד" בקיבוץ לוחמי הגטאות. כמו כן הוא זכה בפרס רוקח נוסף ב-1970 עבור מבני מגורים שתכנן ברחוב בארי בתל-אביב ובפרס ישראל לאדריכלות בשנת 2002. תכנן פרויקטים נודעים כמו המשכן החדש של תאטרון הבימה בתל-אביב, מסוף היוצאים של טרמינל 3 בנמל תעופה בן-גוריון וכן לקח חלק בפרויקטים שנויים במחלוקת כמו בנייני הולילנד בירושלים והתחנה המרכזית החדשה בתל-אביב. תכנן בשותפות עם אחותו, האדריכלית עדה כרמי מלמד, מספר פרויקטים שהידוע בהם הוא בניין בית המשפט העליון בירושלים (1986-1992).