אבן הפינה למגדל הונח באפריל 1907[2][3], הבנייה הושלמה באוגוסט 1907[4] והמגדל נחנך בתחילת ספטמבר 1907 לכבוד חגיגות יום עליית הסולטן על כסאו[5][6].
הקמת המגדל עלתה לתושבי העיר כעשרים אלף פרנק. העובדה כי שער יפו נבחר מכל שערי ירושלים כבסיס למגדל השעון, מעידה על חשיבותו הרבה באותה עת, שגברה אף על שער שכם. מגדל השעון נבנה מאבן גיר שנחצבה במערת צדקיהו הסמוכה[7]. הוא התנשא לגובה 13 מטרים, ובראשו נקבעו ארבעה שעונים, שפנו לארבע רוחות השמים. השעון המערבי והמזרחי הציגו את השעה הרגילה ("שעה אירופית"), בעוד ששני השעונים האחרים הציגו את השעה המקומית ("שעות זמניות"). מעל השעונים, בחלק המקושט והמעוטר ביותר, הוצב פעמון ולידו סמל השלטון העות'מאני, שכלל סהר וכוכב.
לאור תלונות על כך שהשעון מכער את העיר העתיקה, למשל מפיו של בוריס שץ[8], הוחלט בתחילת ינואר 1922 לפרק את השעון ולמכור את אבניו[9]. אולם בעקבות תלונות מצד המוסלמים בעיר הוחלט לשמר את השעון אך להעבירו למקום אחר[10]. ביולי 1922 נשקלה האפשרות להעביר את השעון לתחנת הרכבת ההיסטורית של ירושלים, אם הנהלת הרכבת תשתתף בהוצאות ההעברה[11]. מגדל השעון העות'מאני פורק ב-1922 בהוראת מושל ירושלים הבריטי רונלד סטורס שטען שהוא מכער את העיר.
"מגדל השעון שהוקם על ידי האזרחים הנאמנים של ירושלים... הוסר כמות שהוא מצדו הצפוני של שער יפו, שאותו כיער במשך זמן רב מדי. כדי לקיים את יעדו שהובטח (מלאות 30 שנה לשלטון רב החסד של הסולטאן המנוח עבדול חמיד) אף כי בפחות תוקפנות, הוא נבנה כעת מחדש במקום מרכזי ומתאים בכיכר הדואר המרכזי."
בניין מגדל השעון
העיתונים בערבית מחו כנגד הריסת השעון[12]. בנובמבר 1923 הוחלט להקים את מגדל השעון בכיכר אלנבי[13]. לצורך כך רכשה עיריית ירושלים את המגרש בכ-6,000 לירות והוצאות הבנייה כוסו בידי האגודה למען ירושלים[14] שהעניקה את הבניין כשי לעיריית ירושלים[15]. בנוסף לשעון עצמו, כלל הבניין מספר חנויות, בהם לשכת מידע לתיירים[16]. בניין המגדל נבנה בסגנון מודרני במבנה שכלל מרכז מסחרי קטן במפלס הרחוב, בתכנונו של האדריכל הבריטי קליפורד הולידיי[17].
לאחר הקמת בניין עיריית ירושלים ההיסטורי, גברה התנועה באזור והוחלט להרוס את בניין מגדל השעון, כדי להקל על עומס התחבורה באזור[18]. לטענת י. שוכמן ב"דבר" ההריסה נתבקשה בלחץ ראשי בנק ברקליס שטענו שבניין השעון מסתיר את הבנק בבניין עיריית ירושלים[14].
שוכרי החנויות פונו מהבניין, אך ההריסה נתעכבה[19] והחנויות שבו ונפתחו בתחילת 1933[20].
בספטמבר 1934 הוחל בהריסת הבניין[21]. במקום תשלום, הקבלן קיבל את אבני הבניין[22]. תחילה נהרסו החנויות וכשנה לאחר מכן נהרס גם המגדל עצמו[23].