בתכנון בית הסוכנות היהודית לארץ-ישראל, או בשמה המקוצר הסוכנות היהודית, זכו שרון ושותפו בנימין אידלסון בתחרות שנערכה ב-1955. לאחר הקמת המדינה ונוכח גלי העלייה הגדולים, ביקשו אנשי הסוכנות לרכז בבניין אחד את פעילות ההנהלה והעובדים שטיפלו בעולים החדשים. קרן קיימת לישראל הקצתה לבניין מגרש בשטח 38 דונם ברחוב שכונה אז דרך הים של הטמפלרים (לימים רחוב קפלן) בתל-אביב, שהלכה והתפתחה מזרחה. הרחוב החדש והרחב, שבו נסללו כבישים דו-מסלוליים, כמו יועד למבני ציבור. ב-1956 הוקם ברחוב בית הסופר ע״ש טשרניחובסקי, וב-1957 הצטרף אליו בית העיתונאים ע״ש סוקולוב. בניינים נוספים נבנו באזור לצד הקריה, שתפסה אז את החלק הארי של שטחי המושבה שרונה.
הסוכנות ביקשה מעיריית תל-אביב ומהוועדה המקומית אישור לבניין בן שש קומות ולא ארבע כמפורט בתב״ע. הסוכנות גם ביקשה בניין שיושב ישירות על הקרקע, בלי קומת עמודים במפלס הקרקע. הבקשה אושרה, ולתחרות הגישו שרון ואידלסון הצעה לבניין בן שש קומות בנסיגה קלה מקו הרחוב.
בקומת הקרקע מיקמו שרון ואידלסון שלושים משרדים, מזנון, חדר טלפונים ושלוש מעליות. בקומות השנייה עד השישית תוכננו שתי שורות של משרדים, שנערכו בזה אחר זה לאורך החזית הצפונית והדרומית של הבניין ובתווך ביניהם מסדרון גישה אורכי, סך של 42 משרדים בקומה. בפתח הבניין נקבע גרם מדרגות בחיפוי גגון, שהוביל למבואת כניסה עם אזור מרכזי למעליות וגרם מדרגות רחב. בבניין נחפרה גם קומת מרתף, שדמתה בארגונה לקומות העליונות ובה שישה מקלטים, חדרי ארכיון, חדרי שירות (חשמל, דודים), חדרי מעליות, מטבח ואולם ישיבות.
ב-1960, כמה חודשים לפני תחילת הבנייה, ביקשה הסוכנות להוסיף קומה שביעית לבניין, זהה לקומות שמתחתיה, והתוספת אושרה על-ידי מהנדס העיר דאז משה (רויטמן) עמיעז והוועדה המקומית, תמורת הוספה של חניות. חזית הבניין חופתה רפפות שוברי-שמש המקנות לו מראה מכובד, כאשר גם המנח המוגבה מהרחוב תורם להדרו של הבניין.
