הבריכה ממוקמת בחלקו הצפוני של גיא בן הינום, למרגלות חומת העיר העתיקה ממערבה. היא הוקמה בדרך של בניית סכר לרוחב הגיא, שעצר את ניקוז הגיא דרומה לעבר נחל קדרון ויצר מאגר מים. במקומו של הסכר עבר קודם לכן גשר עתיק, עליו עברה אמת המים שהובילה מים מבריכות שלמה שליד בית לחם אל ירושלים והר הבית. מידותיה המקוריות של הבריכה היו אורך 40 מ', רוחב ליד הסכר 20 מ' והעומק ליד הסכר 4 מ'.
הבריכה שופצה לאורך ההיסטוריה כמה פעמים, כאשר בפעם האחרונה היה זה בתקופת הסולטן הממלוכי ברקוק בשנת 1392. ברקוק ציווה להגדיל את הבריכה עד כי ממדיה הגיעו לאורך של 167 מ', רוחב של 67 מ' ועומק של 12 מ'. נפחה של הבריכה גדל לכ-30,000 מ"ק[1]. שמה של הבריכה מקורו בשיפוץ זה וקיימת התייחסות אליה כבריכת הסולטן כבר בתקופה הממלוכית על ידי מוג'יר אל דין[2].
הסולטן סולימאן הראשון עשה שתי פעולות עיקריות כאשר שלט בארץ ישראל, בתקופת השלטון העות'מאני בארץ ישראל:
בנה מחדש את חומות העיר העתיקה בירושלים על מנת להגן על תושביה.
תיקן מתקני מים רבים ושיפץ את מאגר המים בגיא בן הינום על מנת לספק מים לעולי הרגל הרבים. על סכר הבריכה בנה הסולטאן סולימאן סביל לשימוש עוברי רגל, והציב במקום כתובת אשר שניהם השתמרו עד ימינו. בשל הכתובת הזו מזוהה הבריכה עם הסולטאן סולימאן. כיום עובר מעל הסכר (וליד הכתובת) הכביש של רחוב דרך חברון.
לשון הכתובת:
ציווה לבנות מקום שתייה מבורך זה, אדוננו הסולטן, המלך הכביר, השליט המכובד, מלך העמים, סולטן הטורקים, הערבים והפרסים, הסולטן סולימאן, בן הסולטן סלים ח'אן, יקיים אללה מלכותו, ושלטונו לעד
— זאב וילנאי, ירושלים - העיר החדשה, אחיעבר - ירושלים, 1970
בתקופה העות'מאנית, בימות הקיץ בהם הבריכה הייתה יבשה, היה מתקיים בבריכה שוק למכירת בהמות.
לאחר מלחמת ששת הימים ואיחוד ירושלים, יזם ראש עיריית ירושליםטדי קולק את פיתוח סביבת השכונות ימין משה ומשכנות שאננים כאזור תרבות ואמנות[3], בין השאר הוקמו באותה עת: חוצות היוצר, המרכז למוזיקה ירושלים במשכנות שאננים, בית הקונפדרציה ותיאטרון החאן. בשנת 1981 עבר גם סינמטק ירושלים לאזור. כחלק מתוכנית זו, הקרן לירושלים פיתחה בריכת הסולטן כמתחם לאירועי תרבות. נבנתה במה ומתחתיה חדרי הלבשה[4]. בנוסף החליטה עיריית ירושלים לכרות מעבר בסכר העתיק, כדי לחבר בין הבריכה לגיא בן הינום, המעבר נועד לשמש ככניסה נוספת לבריכה בעת אירועי תרבות ולשפר את הגישה אליה[5]. מאז, בבריכת הסולטאן מתקיימים כמידי שנה מופעים ואירועים שונים רבי משתתפים. במקום מוקרן על מסך ענק סרט הפתיחה של פסטיבל הקולנוע ירושלים, נערכות בה הפקות של פסטיבל ישראל, הפקות אופרה תחת כיפת השמיים.
החל משנות התשעים הורחב מתחם יריד חוצות היוצר (המתקיים כל שנה באוגוסט) מתחומי חוצות היוצר אל בריכת הסולטאן, תוך שהוא כולל הופעות מוזיקה, סדנאות יצירה, פעילויות לילדים ותצוגות של אומנים מארצות חוץ (ביתנים בולטים הם של ארצות דרום אמריקה, סין, רוסיה ארצות אפריקה ועוד)[7].