表現論の成功は、多くの一般化を生み出した。その一般的な理論は圏論の中にある[11]。適用する代数的対象を特別な圏として、対象のなす圏からベクトル空間の圏(英語版)(category of vector spaces)への函手を表現とみなすことができる。この記述には 2つの明白な一般化がある。ひとつは代数的対象をより一般的な圏により置き換えることが可能であり、第二には、ベクトル空間のなす圏を別の良く知られた圏に置き換えることが可能である。
定義と概念
V を体F 上のベクトル空間とする[3]。例えば、V が Rn や Cn のときは、それぞれ、実数や複素数上の列ベクトルの標準的な n-次元空間である。この場合、表現論の考え方は、抽象的な代数構造を実数や複素数の n × n 行列を使って具体化することである。
表現の定義には 2つの方法がある[13]。表現を定義する第一の方法は、群の作用の考えを使い、行列の積により列ベクトル上へ行列を作用させる方法を一般化したものであり、ベクトル空間 V 上の群 G や結合代数やリー代数 A の表現は、次の 2つの性質((i), (ii))を満たす写像
と定義する。
(i) G の任意の元 g (あるいは、A の任意の元 a )に対し、写像
は、F 上で線型であること。
(ii) Φ (g, v) に対し、記号 g ・ v を導入すると、G の任意の g1 と g2 と V の任意の v に対し、
が成り立つこと。
ここに e を G の単位元、g1g2 は G の積である。結合代数に対しも同様なことが要求される。ただし、結合代数はいつも恒等元があるとは限らない。結合代数では、式 (1) は無視する。式 (2) は行列の積の抽象的な表現であり、この積は行列の交換子では成立せず、交換子の恒等元も存在しない。したがって、リー代数では、A の任意の元 x1, x2 と V の元 v に対し、
(W, ψ) を群 G の表現とする。すべての v ∈ V に対し g ・ v ∈ V となるという意味(セール[14]は、このようなの V を G の下に安定と呼んだ)で、V が G の作用により不変な W の線型部分空間であるとき、V を部分表現(subrepresentation)と呼ぶ。φ(g) を ψ(g) の V への制限と定義することにより、(V, φ) は G の表現となり、W の V への制限は同変写像となる。商空間 W/V も G の表現として定義することができる。
W がちょうど 2つの部分表現しか持っていないとき、つまり、自明な部分空間(英語版)(trivial subspace) {0} と W 自身以外には部分表現空間を持たない場合、この表現を既約(irreducible)という。W が非自明な表現を持つとき、可約(reducible)という[15]。
既約表現の定義は、シューアの補題を含んでいる。既約表現の間の同変写像 α: V → W は、その核と像が部分表現となるので、零射か、同型射となる。特に、V = W のとき、これは V の同変な自己準同型が基礎となる体 F 上の結合多元代数を形成する。F が代数的閉体であれば、既約な表現の同変自己準同型は、恒等元のスカラー倍のみである。
既約表現は、表現論の基本ブロックであり、表現 W が既約でないならば、ある意味、単純な部分表現と商表現から構成される。W が有限次元であれば、部分表現も商表現も次元がより小さなものとなる。
標数 0 の体上では、有限群 G の表現は、便利な性質を多く持つ。第一に、G の表現は半単純(完全可約)な性質を持ち、任意の G-表現 W の部分表現 V が G-不変な補完表現(compliment)を持つというマシュケの定理である。この定理を証明する方法は、W から V への射影 π を選び、次で定義される平均 πG と置き換えることである。
πG は同変であり、この写像の核が求めている補完表現である。
有限次元 G-表現は、指標理論(character theory)を使って理解することができる。表現 φ: G → GL(V) の指標は、次の式で定義される類函数 χφ: G → F である。
任意の体上で、有限群で良い表現論的性質を持つ別のクラスは、リー型の有限群(英語版)(finite groups of Lie type)である。重要な例は、有限体上の線型代数群(linear algebraic group)である。線型代数群の表現とリー群の表現は、これらの無限次元の群の例を拡張し、後者はリー代数の表現と密接に関連する。有限群の指標理論の重要性は、リー群やリー代数の表現にとってはウェイト(weights)が類似する理論となる。
有限群 G の表現は、直接、群環F[G] を通して、代数表現へも結びついている。群環は、F 上の G の元を基底とするベクトル空間であり、積の操作は、群の操作と群操作とスカラー積が可換であることを要求する線型性により定義される。
有限群 G のモジュラー表現は、体の標数が |G| と互いに素ではない(公約数を持っている)あるような体の上の表現であり、したがって、マシュケの定理はもはや成り立たない(なぜならば、|G| が F で可逆ではなく、したがって割ることができないからである)[18]。にもかかわらず、リチャード・ブラウアー(英語版)(Richard Brauer)は、指標理論の多くをモジュラー表現へ拡張した。この理論は、初期の有限単純群の分類(classification of finite simple groups)の発展に重要な貢献をし、特に、シローの2-部分群が「あまりに小さすぎる」ので純群論的な方法を適用することが難しい単純群に対して、貢献した[19]。
群 G のユニタリ表現は、実もしくは複素の完備ヒルベルト空間 V 上の G の線型表現 φ であり、φ(g) がすべての G の元 g に対しユニタリ作用素となっている。そのような表現は、1920年代以来、特にヘルマン・ワイル[20]と彼が発展を動機付けたことのにより、広く量子力学へ応用されてきた。中でも、もっとも有名なことは、エフゲニー・ウィグナーによるポアンカレ群の表現(英語版)(representations of the Poincaré group)である[21]。(特定の群というよりも任意の群 G に対しての応用上有益であるが、)応用上有益なユニタリ表現の一般論を構成する開拓者の一人は、ジョージ・マッケイ(英語版)(George Mackey)であり、拡張された理論はハリッシュ・チャンドラ(英語版)(Harish-Chandra)他により1950年代と1960年代に開発された[22]。
非コンパクトな G に対して、表現がユニタリとなるかという疑問は微妙である。既約ユニタリ表現は「許容的(admissible)」である必要があり(ハリッシュ・チャンドラ加群(英語版)(Harish-Chandra module)のように)、容易に許容表現が非退化な不変半双線型形式を持つことを示すことができるが、いつこの形式が正定値となるかを決定することが困難である。ユニタリ双対の有効な記述は、実簡約的なリー群(以下に議論するが、)のような比較的うまく定義できる群の場合でさえ、表現論の重要な未解決問題である。たとえば、SL(2, R)(英語版)やローレンツ群(英語版)のように、多くの特殊な群については解かれている[25]。
体 F 上のリー代数は、リーブラケットと呼ばれヤコビ恒等式を満たす歪対称双線型作用を持つベクトル空間である。特に、リー代数は、単位元でのリー群の接空間として発生し、「無限小対称性」として相互作用を導く[28] リー代数の表現論の重要なアプローチは、リー代数の対応する表現論を研究するためであるが、リー代数の表現論は本質的に興味深いものを持っている。[29]。
リー代数は、リー群のように、半単純な部分と可解な部分へと分解するレヴィ分解をもつが、一般には扱いにくい可解リー代数の表現がついて回る。これとは対蹠的に、半単純リー代数の有限次元表現はエリー・カルタンの仕事以来、完全に理解されている。半単純リー代数 g の表現は、その上ではリーブラケットが 0 となる(可換である)ような g の本質的に最大生成部分代数 h である、カルタン部分代数(Cartan subalgebra)を選択することにより解析される。g の表現は、h の作用の固有空間であるウェイト空間(weight spaces)と指標の無限小の類似へと分解することができる。したがって、半単純リー代数の構造は、ウェイトの発生可能な組み合わせを容易に理解するという表現の解析へと還元される[28]。
線型代数群(より一般には、アフィン群スキーム(英語版)(group scheme))は、R や C よりも一般的な体上でのリー群の代数幾何学と類似している。特に、有限体上では、線型代数群はリー型の有限群(英語版)(finite groups of Lie type)をもたらす。線型代数群はリー群の分類と非常によく似た分類ができるが、ザリスキー位相が比較的弱いため解析学のテクニックがもはや有効でないので、それらの表現論は異なっていて少ししか理解されておらず、別のテクニックを必要とする[32]。
Alperin, J. L. (1986), Local Representation Theory: Modular Representations as an Introduction to the Local Representation Theory of Finite Groups, Cambridge University Press, ISBN978-0-521-44926-7.
Kim, Shoon Kyung (1999), Group Theoretical Methods and Applications to Molecules and Crystals: And Applications to Molecules and Crystals, Cambridge University Press, ISBN978-0-521-64062-6.
Lam, T. Y. (1998), “Representations of finite groups: a hundred years”, Notices of the AMS (American Mathematical Society) 45 (3,4): 361–372 (Part I), 465–474 (Part II).
Yurii I. Lyubich. Introduction to the Theory of Banach Representations of Groups. Translated from the 1985 Russian-language edition (Kharkov, Ukraine). Birkhäuser Verlag. 1988.
Mumford, David; Fogarty, J.; Kirwan, F. (1994), Geometric invariant theory, Ergebnisse der Mathematik und ihrer Grenzgebiete (2) [Results in Mathematics and Related Areas (2)], 34 (3rd ed.), Berlin, New York: Springer-Verlag, ISBN978-3-540-56963-3, MR0214602(1st ed. 1965) MR[https://mathscinet.ams.org/mathscinet-getitem?mr=0719371 0719371 (2nd ed.) MR1304906(3rd ed.)]
Olver, Peter J. (1999), Classical invariant theory, Cambridge: Cambridge University Press, ISBN0-521-55821-2.
Sally, Paul; Vogan, David A. (1989), Representation Theory and Harmonic Analysis on Semisimple Lie Groups, American Mathematical Society, ISBN978-0-8218-1526-7.
Sharpe, Richard W. (1997), Differential Geometry: Cartan's Generalization of Klein's Erlangen Program, Springer, ISBN978-0-387-94732-7.
Simson, Daniel; Skowronski, Andrzej; Assem, Ibrahim (2007), Elements of the Representation Theory of Associative Algebras, Cambridge University Press, ISBN978-0-521-88218-7.
Weyl, Hermann (1928), Gruppentheorie und Quantenmechanik (The Theory of Groups and Quantum Mechanics, translated H.P. Robertson, 1931 ed.), S. Hirzel, Leipzig (reprinted 1950, Dover), ISBN978-0-486-60269-1.
Weyl, Hermann (1946), The Classical Groups: Their Invariants and Representations (2nd ed.), Princeton University Press (reprinted 1997), ISBN978-0-691-05756-9.