בתקופת לימודיו היה פעיל פוליטית, בין השאר במסגרת "הוועד לאחווה יהודית-ערבית" ובמאבק לביטול הממשל הצבאי שחל על אזרחי ישראל הערבים. בשנת 1966, באחת מההפגנות שארגן, פגש את אשתו לעתיד, זהבה כספי. כעבור חצי שנה נישאו בני הזוג. לאחר שנה נולד בנם שי, וב-1971 נולדה בתם גלית.
בבחירות לכנסת השישית ב-1965, היה פעיל במפלגת "העולם הזה-כוח חדש" של אורי אבנרי, ומדי פעם כתב גם בשבועון "העולם הזה".
לאחר סיום לימודיו באוניברסיטה העברית פנה כספי ללימודי לתואר שני בניהול בטכניון, וכשסיים עבד כמנהל כוח אדם בכמה מפעלים. המפעל האחרון שבו עבד היה מפעל אלקטרוניקה בבעלותו של קונצרן אמריקאי. חוויותיו שם גרמו לו לגבש את השקפת עולמו הסוציאליסטית, ולבסוף לפרוש מעבודתו בתחום, כפי שסיפר בריאיון האחרון שנערך עמו:
זה היה בגלל חיים שרעבי. שרעבי היה הפועל הכי חרוץ במפעל, עובד כמו חמור, עושה פרמיות ושעות נוספות, מוציא את הנשמה בשביל עוד כמה גרושים, ואני לוקח את הכסף שלו ומעביר לאיזה בעל מניות בארצות הברית... ואז התמוטטה אצלי אחת מאמונות היסוד של החברה הקפיטליסטית, שמי שמתאמץ יותר מצליח.
בתחילת שנות השמונים, הצטרף כשותף וכמנהל לחברה להפקת סרטים, ובין השאר היה אחראי להפקת תשדירי ההסברה לתוכנית הייצוב הכלכלית של 1985. באותן שנים החל לכתוב מדי פעם בשבועון "כותרת ראשית".
ב-1986 התגלתה בגופו מחלת הסרטן, שבה נאבק במשך 17 שנה. בעקבות כך פרש מעיסוקי ההפקה והתמקד בכתיבה העיתונאית. כש"כותרת ראשית" נסגר, היה שותף בתוכנית לרכוש את השבועון מהבעלים ולהפעיל אותו כקואופרטיב, אולם הבעלים סירבו למכור את השבועון והעדיפו לסגור אותו.
כספי עבר לכתוב תקופה קצרה ב"חדשות", ומ-1988 במוסף הארץ, שם פרסם את רוב טוריו. בכתיבתו עסק רבות בנושאי חברה וכלכלה, תוך שילוב של שימוש רב בנתונים, יכולת לנתח אותם ולהגיש אותם לקורא באופן בהיר ופשוט, ידע תאורטי בכלכלה, והשקפת עולם סוציאל-דמוקרטית. טורו השבועי נקרא "איפה הכסף", ולעיתים פרסם גם מאמרים קצרים יותר תחת הכותרת "הנתון של השבוע", בהם הוא ניתח בכל פעם נתון סטטיסטי מסוים. כספי עסק גם בנושאים מדיניים ובנושאי ביטחון, דת ומדינה, ופרסם אף לא מעט טורים בעלי גוון אישי.
כספי היה מזוהה במיוחד עם מאמריו בנושאי בריאות, אשר התבססו על ניסיונו רב השנים כחולה סרטן, ועל התקופות שבהן היה מאושפז. כך אחד ממאמריו בנושא נפתח בשורות הבאות:
אחת לפרק זמן אני נאלץ בניגוד מוחלט לרצוני לעזוב את חדר השינה שלי, את הסלון, את חדר העבודה, האמבטיה ופינת הדשא ולעבור לרמת דיור אחרת. אני עובר להתגורר בשטח של ארבעה מטרים מרובעים, בחדר נודף ריח מתועב, עם שלושה טיפוסים שלא היכרתי קודם ואת רובם גם לא הייתי רוצה להכיר. את כולנו מלבישים במדים אחידים שלעולם אינם כמידתנו, וגם כשהכפתורים רכוסים תמיד יציץ משהו מתוך המכנסיים. אני אוכל עם שותפי מזון באיכות של בית תמחוי, ישן איתם, ולפעמים אנחנו עושים את צרכינו בחברותא. זה לא אבו כביר, ולא כלא רמלה, ולא סניף של הגיהנום. זה בית חולים ישראלי.
לפני ימים אחדים הזדמנתי ללובי של מלון אחד. יצחק רבין נכנס אליו דקות אחדות אחרי בליווי שומרי ראשו. לו רצה מישהו להכות את רבין היה נכשל. שומרי הראש נראו מיומנים מאוד בהרחקת אנשים ובמניעת מגע אישי. אבל כל אחד מהשוהים בלובי היה יכול לחסל בקלות את ראש הממשלה ביריית אקדח ממרחק כחמישה מטר. נראה שבמערכת הביטחון, כמו בפעמים קודמות, מוכנים היטב למלחמה שהייתה ולא לזו שתהיה. כדאי שמישהו בסביבה של ראש הממשלה יתחיל לחשוב אחרת לפני הירייה הראשונה.
מקורות המידע של כספי לא נבעו מקשרים הדוקים עם אנשי מפתח במסדרונות השלטון. חומר הגלם שלו היה בעיקרו הדיווח החדשותי השוטף ומידע הנגיש לכל אזרח. כספי התייחד ביכולתו לדלות ממקורות אלה אבחנות בדבר עוולות שלטוניות, כשלים ועיוותים, והפך מידע גולמי לתובנות באשר לאופן ההתנהלות הציבורית בתחומים רבים בפוליטיקה ובכלכלה הישראלית. הוא לא היסס להביע דעות חריגות ובלתי פופולריות, והעדיף היגיון על דוגמטיות אידאולוגית, גם כשהדברים היו בלתי תקינים פוליטית. סגנונו התאפיין בכתיבה חדה, בלתי מתיפייפת, ולא פעם אף פרובוקטיבית.
כספי המשיך את כתיבתו תוך כדי המאבק על חייו כנגד מחלת הסרטן, והמשיך לכתוב גם תוך כדי תקופות האשפוז בבית החולים. הוא נפטר ב-11 במאי2003 ונקבר בבית העלמין של מזכרת בתיה.
לאחר מותו, בשנת 2007, ראתה אור אסופה של מבחר מרשימותיו בהוצאת חרגול ועם עובד[2].
ספרו
אריה כספי, חזקים על חלשים; בעריכת עמיחי גור ונחום יהושע, תל אביב: חרגול ועם עובד, תשס"ז 2007. (מבחר מרשימותיו שהתפרסמו במדורו "היכן הכסף" בעיתונים "כותרת ראשית" ו"הארץ" בין השנים 1986–2003)