نظریهٔ طیفی یا تئوری طیفی (Spectral theory) به مجموعهٔ نظریه‌های ریاضی گفته می‌شود که پیرامون مسئلهٔ مقادیر خاص مربوط به ماتریس‌های مربعی و به‌ویژه در راستا و مسیر امتداد و گسترش آن به حوزهٔ عمل‌گرها بررسی می‌کند.
مجموعهٔ شامل تمامی مقادیر ویژهٔ ماتریس مربعی A {\displaystyle A\!} را طیف[۱] A {\displaystyle A\!} نامیده و آن را با Λ A {\displaystyle \Lambda {A}\!} نشان می دهیم.[۲]