האחווה הוקמה ב-4 בדצמבר1906, בקמפוס של אוניברסיטת קורנל, באית'קה, עיר בצפונה של מדינת ניו יורק שבארצות הברית. מייסדי האחווה - הנרי א. קאליס, צ'ארלס ה. צ'פמן, יוג'ין ק. ג'ונס, ג'ורג' ב. קלי, נתנאל א. מוריי, רוברט ה. אוגל וורטנר ו. טנדי, שכונו "שבעת התכשיטים" ("Seven Jewels"), קידמו את האחווה במהירות רבה, וכבר תוך שנה מייסודה של האחווה - בשנת 1907 - הסניף השני הוסמך והוכר רשמית באוניברסיטת הווארד שבעיר וושינגטון. החל משנת 1908, הסניף שבהווארד היווה אב טיפוס לשאר הסניפים.
האחווה עוסקת במפעלים פילנתרופיים יחד עם ארגוני צדקה ורווחה שונים, בהם ארגון הצופים של ארצות הברית ואגודות אחרות הדואגות לרווחת הקהילה. אנדרטת מרטין לותר קינג, אשר נחנכה בוושינגטון ב-2011, נמנית אף היא בין מפעליה של אלפא פי אלפא.