בניין עיריית ירושלים תוכנן על-ידי ינאי, בשיתוף עם אלי עטיה, לתחרות תכנון שהוכרזה על-ידי העירייה ב-1963, עוד כשהיה מתמחה במשרדו של פרופ׳ אל מנספלד. לנוכח הגידול באוכלוסיית העיר, נדרשה עיריית ירושלים להיקף גדל והולך של שירותים, שיעילותם לקתה בחסר עקב פיזורם של אגפי העירייה בבניינים שונים ברחבי העיר המערבית. ראש עיריית ירושלים דאז, מרדכי איש-שלום, החליט לאחד את האגפים השונים בבניין אחד, ולשם כך הכריז על תחרות לתכנון בניין העירייה, במיקום הסמוך לגן העצמאות ברחוב המלך ג׳ורג׳. ינאי ועטיה תכננו את בניין העירייה בהתייחס לצורכי העיר המתפתחת גם בעתיד, והצעתם הפרידה בין שתי הפונקציות המרכזיות של העירייה: המשרדים, שהוקמו במגדל; ואולם המליאה, שמוקם בסמוך בבניין נמוך יותר. ההפרדה בין הפונקציות נועדה לחשוף לציבור הרחב, ולו באופן סמלי, את ההתנהלות של הנהגת העיר, הדיון בעתידה וקבלת ההחלטות באולם המליאה, ומטעמים אלו הדגישו ינאי ועטיה את מעטפת אולם המליאה בקירות משוננים. הקהל הוזמן להגיע אל אולם המליאה ולהיכנס אליו דרך כיכר בחלקו התחתון של הבניין. פנים האולם הושתת על משטחים איזומטריים, שהגדילו את נפחו ואת קיבולת המושבים שבו. גם מעטפת המגדל תוכננה באותה שיטה, ושני הבניינים מוקמו זה לצד זה וחוברו על-ידי מערכת תנועה שלימים כונתה בפי ינאי ״מוביוסית״. ינאי ועטיה זכו במקום שלישי בתחרות. במקום הראשון והשני בתחרות זכו שתי הצעות של פרופ׳ מנספלד (עם דניאל חבקין), אך גם ההצעה הזוכה של מנספלד וחבקין לא נבנתה. היא נגנזה עם בחירתו של טדי קולק לראשות עיריית ירושלים ב-1965.
