を満たすものを言う。このとき、集合 X は左 G-集合(leftG-set) と呼ばれ、また群 G は X に(左から)作用(act) するという。紛れの虞が無いならば g • x などの演算を省略して gx のようにしばしば略記する。
二つの公理から、G の各元 g に対して x ∈ X を g • x へ写す写像は X から X への全単射となることが従う(逆写像が x を g−1• x に写す写像によって与えられる)。したがって、群 G の X への作用を、群 G から X 上の全単射全体の成す対称群 Sym(X) への群準同型として定義することもできる。
まったく同様に、群 G の集合 X への右群作用(right group action) を写像 R: X × G → X; (x, g) ↦ R(x, g) =: x • g と二つの公理
x •(gh) = (x • g)• h
x • e = x
によって定義することができる。右作用と左作用の違いは、gh のような積の x への作用の順番であり、左作用ならば h を先に作用させてから g が作用するが、右作用では g が先に作用してから h が作用する。右作用に群の反転演算を合わせれば左作用が得られる。実際、R が右作用ならば
より一般に、全単射 g: V → V からなる群は、写像 x: V → W 全体からなる集合に (gx)(v) = x(g−1(v)) によって作用する(全体でなくこの群作用について閉じているような写像の集合に制限して考えてもいい)。従って、ある空間の全単射からなる群は、その空間に属する「物体」の集合への作用を誘導する。
作用の種類
群 G の X への作用が、
推移的あるいは可移(transitive) であるとは、X が空でなく、X の任意の元 x に対して Gx = X が成り立つときに言う。ここで Gx = {gx | g ∈ G} は x の G による軌道である。
鋭推移的(sharply transitive) であるとは X の各元 y に対して、gx = y となるような g が一意であるときにいう。これは後述の正則性と同値。
n-重推移的(n-transitive) であるとは、X が少なくとも n 個の元を持ち、どの二つも相異なる任意の x1, ..., xn とどの二つも相異なる y1, ..., yn に対して g ∈ G で gxk = yk (1 ≤ k ≤ n) が成り立つものが取れるときに言う。
鋭 n-重推移的(sharplyn-transitive) であるとは、n-重推移的かつその定義における g がちょうど一つであるときにいう。
忠実(faithful) あるいは効果的(effective) であるとは、G の相異なるどのような二元 g, h に対しても x ∈ X を適当に選べば gx ≠ hx となるようにできるときにいう。これは g ≠ e なる G の各元に対して x ∈ X で gx ≠ x となるものが存在するといっても同じことである。これは直観的には、G の異なる元が X の異なる置換を引き起こすということを言っている。
自由(free) あるいは半正則(semiregular) であるとは、X の任意の元 x に対して「 gx = hx となるのは g = h であるときに限る」が成立することをいう。これは X の任意の元 x に対して「 gx = x ならば g は単位元である」が成り立つと言い換えてもよい。
正則(regular) あるいは単純推移的(simply transitive) であるとは、自由かつ推移的であるときにいう。すなわち、X の任意の二元 x, y に対し、g ∈ G がちょうど一つ存在して gx = y とできるということである。このとき、X は G の主等質空間(英語版)あるいは G-トーサーと呼ばれる。
局所自由(locally free) であるとは、G が位相群で、G の単位元 e の適当な近傍 U が存在して、作用の U への制限が自由、すなわち X の適当な元 x と U の適当な元 g に対して gx = x となるならば g = e であることをいう。
既約(irreducible) であるとは、X がある環 R 上の自明でない加群で、G の作用が R-線型であって、X は自明でない真の G-不変部分加群をもたないときにいう。
空でない集合上の任意の自由作用は忠実である。群 G の X への作用が忠実であるための必要十分条件は、群準同型 G → Sym(X) の核が自明であることである。従って、G の X への忠実な作用があれば、G は X 上の置換群のある部分群(G の Sym(X) における像)に同型である。
任意の群 G の左からの乗法による自身への作用は正則であり、したがって忠実でもある。従って、任意の群 G はそれ自身の元上の対称群 Sym(G) に埋め込める(これはケイリーの定理として知られる)。
群 G が X に忠実に作用しない場合も、群を少し変更して忠実作用を得ることができる。N = {g ∈ G | gx = x (∀x ∈ X)} と置けば、N は G の正規部分群である(実際、これは群準同型 G → Sym(X) の核になっている)。剰余群G/N は (gN) • x := gx と置くことにより X に忠実に作用する。X への G のもともとの作用が忠実であることと N = {e} であることとは同値である。
軌道と等方部分群
群 G が集合 X に作用しているとき、X の点 x の軌道(orbit) とは、G の各元を x に作用させた要素の集合である。x の軌道を Gx で表せば、
と書くことができる。群の性質から、X における(各点の)G の作用に関する軌道全体の成す集合が X の類別(軌道分解[1])を与えることが保証される。この類別に対応する同値関係 ∼ は「x ∼ y となる必要十分条件は gx = y となる g ∈ G が存在すること」として得られる。軌道はこの同値関係に関する同値類であり、二つの元 x, y が同値であることは、それらが属する軌道が一致 (Gx = Gy) することとして述べることもできる。
G の作用に関する X の軌道全体の成す集合は X/G(あるいは多少稀だが G ⧵X)で表され、G の作用による X の商(quotient) とも呼ばれる。幾何学的な設定では軌道空間(orbit space) とも、代数的な設定では余不変式(coinvariant) の空間とも呼ばれ、XG で表される(これに対して不変式(不動点)の全体は XG で表される。余不変式の全体が「商」なのに対し、不変式の全体は「部分集合」となる)。余不変式の概念と記法は特に群コホモロジーと群ホモロジー(これも同様の添字の上付き・下付きで区別する慣習がある)で用いられる。
とする。部分集合 Y が G の作用に関して安定あるいは不変(invariant) であるとは、GY = Y(これは GY ⊆ Y としても同じ)が成り立つことを言う。このとき、G は Y にも作用している。また、部分集合 Y が G の作用で固定される (fixed) あるいは G が自明に作用するとは、G の各元 g と Y の各元 y に対して gy = y が成立することを言う。G の作用で固定される任意の部分群は G-不変だが、逆は正しくない。
任意の軌道は、G が推移的に作用する X の G-不変部分集合である。G の X への作用が推移的であるための必要十分条件は、全ての元が同値、すなわち軌道がただ一つであることである。
X の各元 x に対して、x の安定化部分群あるいは固定部分群(stabilizer subgroup)、等方部分群(isotropy group) もしくは小群(little group) などと呼ばれる G の部分群を、x を固定する G の元全体の成す集合
によって定める。これは G の部分群だが、大抵は正規部分群でない。G の X への作用が自由であるための必要十分条件は、任意の固定部分群が自明であることである。群準同型 G → Sym(X) の核 N は、X の全ての元 x に関する固定部分群 Gx の交わりによって与えられる。
軌道と固定部分群は近い関係にある。X の元 x を一つ固定して、写像
を考える。この写像の像は x の属する軌道であり、余像は Gx の左剰余類全体の成す集合である。集合論における標準商定理により、 G /Gx と Gx との間には自然な全単射が存在する。具体的にはこの全単射は hGx と hx との対応によって与えられる。このことは、軌道・固定部分群定理(orbit-stabilizer theorem) として知られる。
X の G-不変元(invariant element) とは、G の全ての元に対して常に gx = x となるような X の元 x のことをいう。X の G-不変元の全体を XG で表して、X の G-不変部分集合と呼ぶ。X がG-加群であるときは、XG は G の X に係数を持つ 0-次群コホモロジー群であり、高次のコホモロジー群は G-不変部分集合をとる函手の導来函手となる。
群作用と亜群
群作用の概念は、群作用に付随する「作用亜群」
を対応させることによってより広い文脈において考えることができる。こうすることで、表示やファイバー付けといったような亜群の理論における手法が使えるようになる。さらに言えば、作用の固定化群は頂点群 (vertex group) であり、作用の軌道は作用亜群の成分である。詳細は (Ronald Brown 2006) を参照.
この作用亜群には「亜群の被覆射」p: G′ → G が考えられる。これにより、このような射と位相幾何学における被覆写像とが関連付けられる。
射と同型
X および Y がともに G-集合であるとき、X から Y への G-集合の射あるいは準同型(morphism) とは、写像 f: X → Y であって、G の任意の元 g と X の任意の元 x に対して
そのような G-集合の射 f が全単射ならば、その逆写像も G-集合の射であり、f は G-集合の同型(写像)であるという。また、二つの G-集合 X および Y は、その間に G-集合の同型写像が存在するとき、G-集合として同型(isomorphic)であるといい、実用上は同じものとして区別されないことも多い。
同型の例:
任意の正則 G-作用は G の左からの乗法によって与えられる G 自身への作用に同型である。
任意の自由 G-作用は、ある集合 S に対する G × S に G の作用を第一座標への左乗法によって定めたものに同型である。
任意の推移的 G-作用は、G の適当な部分群H による左剰余類全体の成す集合に G の左からの乗法を考えたものに同型である。
G が位相群、X が位相空間であるとき、写像 G × X → X がG × X の積位相に関して連続であるような G の X への連続群作用(continuous group actions) を考えることもよくある。この場合、位相空間 X を G-空間(G-space) とも呼ぶ。任意の群は離散位相に関する位相群と見ることができるから、これは実際には一般化になっている。既に述べた各種概念はこの文脈でもそのまま考えることができるが、G-空間の間の射としては G の作用と両立する「連続写像」を考えるのが普通である。商 X/G には X から誘導される商位相を入れて位相空間としたものを、この作用に関する商空間(quotient space) と呼ぶ。正則、自由、推移的な作用に対する同型射について上述した主張は、連続群作用に対してはもはや正しくない。
G が位相空間 X に作用する離散群であるとき、作用が固有不連続あるいは真性不連続(properly discontinuous) であるのは、X の各点 x に対して開近傍 U が存在して、g(U) ∩ U ≠ ∅ となるような G の元 g 全体成す集合が、ただ一つ単位元のみからなるようにできるときである。X が別の位相空間 Y の正則被覆空間であるとき、デック変換群の X への作用は固有不連続かつ自由である。群 G の弧状連結位相空間 X への、任意の自由かつ固有不連続な作用は、このようにして得られる。商写像 X ↦ X/G は正則被覆写像であり、デック変換群は G の X への作用によって与えられる。さらに、X が単連結ならば X/G の基本群は G に同型である。これらの結果は (Brown 2006) で、適当な局所条件の下での、離散群のハウスドルフ空間への不連続作用の軌道空間の基本亜群や、空間の基本亜群の軌道亜群などを含む形に一般化されている。これにより、対称平方の基本群などが計算できるようになる。
群 G の局所コンパクト空間 X への作用が余コンパクト(cocompact) であるとは、X のコンパクト部分集合 A で GA = X となるようなものが存在するときに言う。固有不連続作用に対しては、余コンパクト性は商空間 X/G のコンパクト性に同値である。
G の X への作用が固有 (proper) であるとは、写像 G × X → X × X; (g, x) ↦ (gx, x) is a 固有写像 (proper map) であるときに言う。
強連続群作用と平滑点
α: G × X → X を位相群 G の位相空間 X への作用とする。作用 α が強連続(strongly continuous) であるとは、X の各元 x に対して、写像 g ↦ αg(x) がそれぞれの位相に関して連続であるときに言う。このような作用は、X 上の連続写像全体の成す空間への G の作用を
によって誘導する。
強連続作用 α に対する平滑点あるいはスムース点(smooth points) とは、g ↦ αg(x) が滑らか(つまり、連続かつ各階の導函数が全て連続)であるような X の点 x のことをいう。
集合への作用を考える代わりに、群やモノイドの適当な圏の対象への作用を考えることもできる。これはある圏の対象 X からはじめて、X への作用を X の自己準同型全体の成すモノイドへのモノイド準同型として定めたものである。対象 X が台となる集合を持つならば、既に述べた各種の定義や結果はこの場合でも有効である。例えば、ベクトル空間の圏を考えることにより、この方法で群の表現が得られる。
群 G をすべての射が可逆な単一対象圏とみなせば、群作用とは G から集合の圏Set への函手、群の表現はベクトル空間の圏への函手に他ならない。同様に、G-集合の間の射は群作用函手の間の自然変換である。このアナロジーとして、亜群の作用を亜群から集合の圏あるいはもっと別の圏への函手として定義することができる。
圏の言葉を使わずとも、集合 X への群の作用を、それが誘導する X の冪集合 2X への作用を調べることによって拡張することもできる。これは例えば、24元集合上の巨大なマシュー群の作用や、有限幾何学のある種の模型の対称性を調べることなどに対して有用である。
Categories and groupoids, P.J. Higgins, downloadable reprint of van Nostrand Notes in Mathematics, 1971, which deal with applications of groupoids in group theory and topology.