דב כרמי נולד בשנת 1905 באודסה, אוקראינה. עלה ארצה בשנת 1921 ולמד אמנות בבצלאל. לאחר לימודיו נסע ללמוד ארכיטקטורה והנדסה בבית הספר הגבוה להנדסה ואמנות שימושית בגנט, בלגיה, בין השנים 1925-1929. בשנת 1931 חזר לארצה ושנה לאחר מכן פתח משרד אדריכלים בשיתוף עם המהנדס צבי ברק ומשנת 1955 עבד עם צבי מלצר ובנו רם כרמי.

במשך שלושים שנות פעילותו תכנן כמאה פרויקטים: מבני ציבור ותרבות, בתים פרטיים ובתי דירות – רובם המכריע בתל אביב, ביניהם בית ליבלינג (1936-1937), פסאז' אלנבי (1948-1950, בשותפות עם אריה שרון), בית הוועד הפועל (1949-1955) והיכל התרבות בתל-אביב (1952-1957, בשותפות עם זאב רכטר). כמו כן כרמי היה הראשון לזכות בפרס ישראל לאדריכלות, בשנת 1957, עבור תכנון בניין המנהלה בקמפוס גבעת רם של האוניברסיטה העברית וכן על תרומתו לתרבות הדיור בתל-אביב. דב כרמי נפטר בשנת 1962 בגיל 57.