הנספח הצבאי הוא בדרך כלל קצין צבא בכיר הנמצא בשליחות דיפלומטית במדינה זרה. הנספח הצבאי אחראי על היחסים עם צבאה של המדינה המארחת, הוא מייצג את מדינתו בנושאים הקשורים לאינטרסים הביטחוניים, מייצג את התעשיות הביטחוניות של מדינתו במדינה המארחת ומשמש כיועץ לשגריר מדינתו בנושאים הנוגעים בביטחון.
לעיתים משרתים מספר נספחים בשגרירות לה חשיבות גדולה, כאשר האחריות מתחלקת ביניהם. נספח יבשה עוסק בענייני צבא היבשה, נספח אווירי עוסק בענייני חיל האוויר ונספח ימי עוסק בענייני הצי. כך למשל בשגרירות ישראל בוושינגטון משמשים שישה נספחים צבאיים, נספח ההגנה (הנספח הראשי), נספח חיל האוויר, נספח חיל הים, נספח לענייני מודיעין, נספח זרוע היבשה ונספח מחקר ופיתוח.
קצינים שנבחרים לייצג את ממשלתם בחו"ל עוברים בדרך-כלל קורס המכשיר אותם לתפקידם החדש כדיפלומטים, האורך כשלושה חודשים. לעיתים תפקיד הנספח הצבאי במדינות מסוימות מאויש על ידי קצין בכיר מאוד.
תפקיד נספח צבאי משמש לעיתים למטרות כיסוי לפעילות ביון, ולכן במקרים רבים ממונה לתפקיד איש מודיעין מובהק.