באמצע שנות ה־50 של המאה ה־20 , בעקבות צמיחתה של העיר ועומסי התנועה הגדלים, החלו בעיריית תל־אביב–יפו לקדם את הקמתה של תחנה מרכזית חדשה. העירייה פנתה תחילה למתכנני התחנה המרכזית הישנה, ורנר יוסף ויטקובר ונחום זלקינד, שאליהם צורפו האדריכלים אריק באומן ומשה הראל. הצוות הציע תוכנית להרחבת התחנה הקיימת, אך זו לא השביעה את רצונה של העירייה שהחליטה על הקמת תחנה חדשה ברחוב לוינסקי, בשטח ארבעים דונם שהעמיד לרשות הפרויקט היזם אריה פילץ.
פילץ, שעבד עם רם כרמי בפרויקטים אדריכליים קודמים, פנה אליו כדי שיציע תכנון חלופי לתחנה. בשנים 1965–1976 הגיש כרמי חמש חלופות לתכנון התחנה בשטח כולל של כ־180 אלף מ״ר, ודימה את הפרויקט ל״עיר שלמה״ עם רחובות וכיכרות תחת קורת גג אחת. מבחינה טיפולוגית שינה כרמי את התפיסה הבניינית המקובלת בתחנות אוטובוסים בסדר גודל כזה. את המוקדים המרכזיים של התחנה הוא מיקם בשתי הקומות התחתונות (לחברת אגד) ובשתי הקומות העליונות (לחברת דן), ובשלוש הקומות שביניהן מיקם את פונקציות המסחר. הרעיון היה שהנוסעים ינועו בין המוקדים הללו תוך מעבר דרך אזורי המסחר. כתוצאה מכך, האוטובוסים לא יתנקזו אל קומות הרחוב אלא יטפסו בגשרים על מעטפת הבניין, בדרכם אל הקומות העליונות.
אבן־הפינה הונחה בדצמבר 1967, אולם קשיים כלכליים, מחסור בכוח אדם ובחומרי בניין בעקבות מלחמת יום כיפור ואילוצים נוספים הביאו להשעיית הפרויקט. העבודות חודשו בדצמבר 1987, לאחר שהיזם הירושלמי מרדכי יונה רכש את זכויות הבנייה ואף קיבל אישור להרחבת שטח התחנה, שהחלה לפעול באוגוסט 1993.
כבר במהלך הבנייה הוטחה בתחנה, שמעולם לא אוכלסה במלואה, ביקורת קשה – על שום גודלה, הוויאדוקטים של האוטובוסים שחלפו סמוך לחלונות מגורים, והפגיעה במרקם העירוני של הסביבה. התחנה מעולם לא אוכלסה במלואה והידרדרה עד מהרה למרחב עירוני מוזנח. במרוצת השנים הפכה התחנה למרכז חברתי לקהילות מהגרי העבודה בתל־אביב–יפו.
