4.4 群表示论初步

English

群在物理学中最常通过其对向量空间的作用出现，这种作用称为表示。更具体地说，任意群 $G$ 在向量空间 $V$ 上的一个 表示(representation) 是同态 $T$ ，它将 $G$ 映入 $V$ 的线性自同构群，

$$T:G\to GL(V).$$

对每个群元素 $g$，我们于是有相应的线性变换 $T(g):V\to$ $V$，使得

$$T(g)T(h)v=T(gh)v\text{ for all }g,h\in G,v\in V.$$

本质上，抽象群的表示是将群的元素具体模型化为向量空间上的线性变换的一种方式。若该表示是一一对应的，即若 $\ker$ $T=\{e\}$ ，则称该表示为 忠实表示(faithful representation) 。尽管原则上 $V$ 既可以是实向量空间也可以是复向量空间，我们将主要考虑复向量空间上的表示。若 $V$ 是有限维的，则其维数 $n$ 称为 表示的次数(degree of a representation) 。我们将几乎完全限于关注有限次数的表示。群表示论在[6–8]中有更为详细的展开。

随文练习

证明：任何表示 $T$ 都诱导出商群 $G/\ker T$ 在 $V.$ 上的忠实表示。

两个表示 $T_1:G\to V_1$ 与 $T_2:G\to V_2$ 称为 等价表示(equivalent representations)，记作 $T_1\sim T_2$，如果存在一个向量空间同构 $A$：$V_1\to V_2$，使得

$$T_2(g)A=A{T}_1(g),\text{ for all }g\in G.\text{\hspace{1em}(4.32)}$$

若 $V_1=V_2=V$，则 $T_2(g)=A{T}_1(g)A^{-1}$。对于有限维表示，表示 $T_2$ 的矩阵可由表示 $T_1$ 的矩阵经相似变换得到。此时，这两个表示可视为本质相同，因为它们仅通过基的变换相联系。

任何算符 $A,$，即使它是奇异的，只要满足式 (4.32)，就称为这两个表示的一个 交织算符(intertwining operator)。这一条件常用交换图来刻画

$$\begin{array}{ccc}{V}_1& \stackrel{A}{\to }& V_2\\ T_1(g)\downarrow & & \downarrow T_2(g)\\ V_1& \stackrel{A}{\to }& V_2\end{array}$$

不可约表示

若 $V$ 的子空间 $W$ 在作用 $G$ 下不变，或称 $G$-不变，是指它在每个线性变换 $T(g)$ 下不变，

$$T(g)W\subseteq W\text{ for all }g\in G.$$

对每个 $g\in G$，映射 $T(g)$ 是满射，$T(g)W=W$，因为对每个向量 $w\in W$ 都有 $w=T(g)(T(g^{-1}w))$。因此，$T(g)$ 在 $W$ 上的限制是 $W$ 的一个自同构，并给出 $G,$ 的另一个表示，称为 $G,$ 的一个 子表示(subrepresentation)，记作 $T_W$ $G\to GL(W)$。整个空间 $V$ 与平凡子空间 0 显然对 $V$ 上的任意表示 $T$ 都是 $G$-不变的。若这些是仅有的不变子空间，则称该表示是 不可约表示(irreducible representation)。

若 $W$ 是 $V$ 上表示 $T$ 的不变子空间，则在商空间 $V/W$ 上诱导出一个表示，其定义为

$$T_{V/W}(g)(v+W)=T(g)v+W\text{ for all }g\in G,v\in V.$$

随文练习

验证该定义与陪集 $v+W$ 中代表元的选取无关，并且它确实是一个表示。

设 $V$ 为有限维，$\dim$ $V=n$ ，且 $W^{\prime }\cong V/W$ 是 $W$ 的补子空间，使得 $V=W\oplus W^{\prime }$ 。由定理 3.7 和例 3.22 可知，存在一个基，其前 $r=$ $\dim$ $W$ 个向量张成 $W$ ，而其余 $n-r$ 个向量张成 $W^{\prime }$ 。表示变换关于这样的基的矩阵将具有如下形式

$$\mathsf{T}(g)=\left(\begin{array}{cc}{\mathsf{T}}_W(g)& \mathsf{S}(g)\\ \mathsf{O}& {\mathsf{T}}_{W^{\prime }}(g)\end{array}\right).$$

子矩阵 ${\mathsf{T}}_{W^{\prime }}(g)$ 在子空间 $W^{\prime }$ 上构成一个表示，该表示等价于商空间表示，但 $W^{\prime }$ 一般不是 $G$-不变的，因为存在非块对角矩阵 $\mathsf{S}(g)$。若 $\mathsf{S}(g)\ne 0$，则本质上不可能仅从 $W$ 和 $W^{\prime }$ 上的子表示恢复原表示。然而，如果补子空间 $W^{\prime }$ 也像 $W$ 一样是 $G$-不变的，情况会大为改善。此时，在适应于 $W$ 与 $W^{\prime }$ 的基下，表示矩阵具有块对角形式，

$$\mathsf{T}(g)=\left(\begin{array}{cc}{\mathsf{T}}_W(g)& \mathsf{O}\\ \mathsf{O}& {\mathsf{T}}_{W^{\prime }}(g)\end{array}\right)$$

并称该表示为完全可约表示(completely reducible representation)。

例 4.7

设映射 $T:\mathbb{R}\to GL({\mathbb{R}}^2)$ 由下式定义

$$T:a\mapsto \mathsf{T}(a)=\left(\begin{array}{cc}1& a\\ 0& 1\end{array}\right).$$

这是一个表示，因为 $\mathsf{T}(a)\mathsf{T}(b)=\mathsf{T}(a+b)$ 。形如 $\left(\genfrac{}{}{0ex}{}{x}{0}\right)$ 的向量构成的子空间是不变的，但不存在互补的不变子空间——例如，形如 $\left(\genfrac{}{}{0ex}{}{0}{y}\right)$ 的向量在矩阵 $\mathsf{T}(a)$ 下不是不变的。等价地，由若尔当标准形可知，不存在矩阵 $A$ 使得 $\mathsf{AT}(1){\mathsf{A}}^{-1}$ 为对角矩阵。因此，表示 $T$ 是一个可约但非完全可约的表示的例子。

例 4.8

三个对象上的置换对称群，记作 $S_3$，在由向量 $e_1,e_2$ 和 $e_3$ 张成的三维向量空间 $V$ 上有一个表示 $T$，其定义为

$$T(\pi )e_i=e_{\pi (i)}.$$

在此基下，变换$T$($\pi$)的矩阵为$\mathsf{T}=[T_i^j(\pi )]$，其中

$$T(\pi )e_i=T_i^j(\pi )e_j.$$

使用置换的循环记号，$S_3$ 的元素为 $e=\mathrm{id},{\pi }_1=(123),{\pi }_2=$ (1 3 2)、${\pi }_3=(12),{\pi }_4=(23),{\pi }_5=(13)$。于是 $T(e)e_i=e_i$，因此 $\mathsf{T}(e)$ 是单位矩阵 $I$，而 $T({\pi }_1)e_1=e_2,T({\pi }_1)e_2=e_3,T({\pi }_1)e_3=e_1$，等等。$S_3$ 的所有置换的矩阵表示为

$$\mathsf{T}(e)=\left(\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right),\mathsf{T}({\pi }_1)=\left(\begin{array}{ccc}0& 0& 1\\ 1& 0& 0\\ 0& 1& 0\end{array}\right),\mathsf{T}({\pi }_2)=\left(\begin{array}{ccc}0& 1& 0\\ 0& 0& 1\\ 1& 0& 0\end{array}\right),$$ $$\mathsf{T}({\pi }_3)=\left(\begin{array}{ccc}0& 1& 0\\ 1& 0& 0\\ 0& 0& 1\end{array}\right),\mathsf{T}({\pi }_4)=\left(\begin{array}{ccc}1& 0& 0\\ 0& 0& 1\\ 0& 1& 0\end{array}\right),\mathsf{T}({\pi }_5)=\left(\begin{array}{ccc}0& 0& 1\\ 0& 1& 0\\ 1& 0& 0\end{array}\right).$$

设 $v=v^i{e}_i$ 为任意向量，则 $T(\pi )v=T_i^j(\pi )v^i{e}_j$，且矩阵 $\mathsf{T}(\pi )$ 的作用是对该列向量进行左乘

$$\mathbf{v}=\left(\begin{array}{c}{v}^1\\ v^2\\ v^3\end{array}\right).$$

现在我们来求这个表示的不变子空间。首先，任何一维不变子空间必定由某个向量 $v$ 张成，而该向量是每个算符 $T({\pi }_i)$ 的特征向量。用矩阵表示，

$$\mathsf{T}({\pi }_1)\mathbf{v}=\alpha \mathbf{v}⟹v^1=\alpha v^2,v^2=\alpha v^3,v^3=\alpha v^1,$$

因此

$$v^1=\alpha v^2={\alpha }^2{v}^3={\alpha }^3{v}^1.$$

类似地，$v^2={\alpha }^3{v}^2$ 和 $v^3={\alpha }^3{v}^3$，并且由于 $\mathbf{v}\ne 0$，我们必须有 ${\alpha }^3=1$。由于 $\alpha \ne 0$，由此推出三个分量 $v^1,v^2$ 和 $v^3$ 均不为零。类似的论证给出

$$\mathsf{T}({\pi }_3)v=\beta v⟹v^1=\beta v^2,v^2=\beta v^1,v^3=\beta v^3,$$

由此得到 ${\beta }^2=1$，以及 $\alpha \beta =1\sec v^1=\alpha v^2=\alpha \beta v^1$。满足这些关系的唯一一对复数 $\alpha$ 与 $\beta$ 是 $\alpha =\beta =1$。因此 $v^1=v^2=v^3$，并且唯一的一维不变子空间是由 $v=e_1+e_2+e_3$ 张成或生成的子空间。

现在我们将通过选择基来证明该表示是完全可约的。

$$f_1=e_1+e_2+e_3,f_2=e_1-e_2,f_3=e_1+e_2-2e_3.$$

逆变换是

$$e_1=\frac{1}{3}{f}_1+\frac{1}{2}{f}_2+\frac{1}{6}{f}_3,e_2=\frac{1}{3}{f}_1-\frac{1}{2}{f}_2+\frac{1}{6}{f}_3,e_3=\frac{1}{3}{f}_1-\frac{1}{3}{f}_3,$$

而表示 $S_3$ 中元素的矩阵，则通过计算各种变换对基元素 $f_i$ 的作用而得到。例如，

$$\begin{array}{c}T(e)f_1=f_1,T(e)f_2=f_2,T(e)f_3=f_3,\\ T({\pi }_1)f_1=T({\pi }_1)(e_1+e_2+e_3)\\ =e_2+e_3+e_1=f_1,\\ T({\pi }_1)f_2=T({\pi }_1)(e_1-e_2)\\ =e_2-e_3=\frac{1}{2}{f}_2+\frac{1}{2}{f}_3,\\ T({\pi }_1)f_3=T({\pi }_1)(e_1+e_2-2e_3)\\ =e_2+e_3-2e_1=-\frac{3}{2}{f}_2-\frac{1}{2}{f}_3,\text{etc.}\end{array}$$

对所有 $T({\pi }_i)$ 继续如此进行，我们得到以下矩阵：

$$\mathsf{T}(e)=\left(\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right),\mathsf{T}({\pi }_1)=\left(\begin{array}{ccc}1& 0& 0\\ 0& -\frac{1}{2}& -\frac{3}{2}\\ 0& \frac{1}{2}& -\frac{1}{2}\end{array}\right),\mathsf{T}({\pi }_2)=\left(\begin{array}{ccc}1& 0& 0\\ 0& -\frac{1}{2}& \frac{3}{2}\\ 0& -\frac{1}{2}& -\frac{1}{2}\end{array}\right),$$ $$\mathsf{T}({\pi }_3)=\left(\begin{array}{ccc}1& 0& 0\\ 0& -1& 0\\ 0& 0& 1\end{array}\right),\mathsf{T}({\pi }_4)=\left(\begin{array}{ccc}1& 0& 0\\ 0& \frac{1}{2}& \frac{3}{2}\\ 0& \frac{1}{2}& -\frac{1}{2}\end{array}\right),\mathsf{T}({\pi }_5)=\left(\begin{array}{ccc}1& 0& 0\\ 0& \frac{1}{2}& -\frac{3}{2}\\ 0& -\frac{1}{2}& -\frac{1}{2}\end{array}\right).$$

由$f_2$和$f_3$张成的二维子空间因此在$S_3$的作用下不变，且表示$T$是完全可约的。

随文练习

证明表示 $T$ 限制在由 $f_2$ 和 $f_3$ 张成的子空间上不可约，只需证明不存在由 $f_2$ 和 $f_3$ 张成的不变一维子空间。

舒尔引理

以下关键结果及其推论在群的不可约表示分类中很有用。

定理 4.6 · 舒尔引理 (Schur’s lemma)

（舒尔引理）设 $T_1:G\to GL(V_1)$ 与 $T_2:G\to GL(V_2)$ 是群 $G$ 的两个不可约表示，且 $A:V_1\to V_2$ 是一个交织算符，使得

$$T_2(g)A=A{T}_1(g)\text{ for all }g\in G.$$

于是 $A=0$ 或 $A$ 是同构，此时这两个表示等价，$T_1\sim T_2$

证明

设 $v\in$ $\ker$ $A\subseteq V_1$。则

$$A{T}_1(g)v=T_2(g)Av=0$$

因此 $T_1(g)v\in$ $\ker$ $A$。于是 $\ker$ $A$ 是表示 $T_1$ 的不变子空间。由于 $T_1$ 是不可约表示，我们有或者 $\ker$ $A=V_1$，此时 $A=0_i$，或者 $\ker$ $A=\{0\}$。在后一种情形中，$A$ 是一对一的。为表明它是同构，只需表明它是满射。这由以下事实推出：$\mathrm{im}$ $A\subset V_2$ 是表示 $T_2$ 的不变子空间

$$T_2(g)(\mathrm{im}A)=T_2(g)A\left(V_1\right)=A{T}_1(g)\left(V_1\right)\subseteq A\left(V_1\right)=\mathrm{im}A.$$

由于 $T_2$ 是不可约表示，我们有 $\mathrm{im}$ $A=\{0\}$ 或 $\mathrm{im}$ $A=V_2$ 。在第一种情形中 $A=0$ ，而在第二种情形中 $A$ 是满射。舒尔引理得证。

推论 4.7 · 与表示对易的算符 (Operators commuting with a representation)

设 $T:G\to GL(V)$ 是有限群 $G$ 在复向量空间 $V$ 上的一个表示，且 $A:V\to V$ 是一个与所有 $T(g)$ 交换的算符；即 $AT(g)=$ $T(g)A\forall g\in G$。则 $A=\alpha {\mathrm{id}}_V$ 某个复标量 $\alpha$。

证明

在舒尔引理中令 $V_1=V_2=V$ 和 $T_1=T_2=T$。由于 $AT(g)=T(g)A$，我们有

$$(A-\alpha {\mathrm{id}}_V)T(g)=T(g)(A-\alpha {\mathrm{id}}_V)$$

由于 ${\mathrm{id}}_V$ 与 $V$ 上的所有线性算符对易。由定理 4.6，或者 $A-\alpha {\mathrm{id}}_V$ 可逆，或者它为零。设 $\alpha$ 为 $A$ 的一个特征值——对于复向量空间上的算符，这总是可能的。算符 $A-\alpha {\mathrm{id}}_V$ 不可逆，因为若将其作用于相应的特征向量，结果为零向量。因此 $A-\alpha {\mathrm{id}}_V=0$，此即所需结果。

应当注意，此推论的证明仅对复表示成立，因为实矩阵未必具有任何实特征值。

例 4.9

若 $G$ 是有限阿贝尔群，则其所有不可约表示都是一维的。这由推论 4.7 推出，因为若 $T:G\to GL(V)$ ) 是 $G$ 的任意表示，则任意 $T(h)(h\in G)$ 与所有 $T(g)$ 交换，从而是单位矩阵的倍数，

$$T(h)=\alpha (h){\mathrm{id}}_V.$$

因此，任何向量 $v\in V$ 都是 $T(h)$ 的特征向量，对于所有 $h\in G$ 均成立，并且张成 $V$ 的一个不变一维子空间。于是，若 $\dim$ $V>1$，则表示 $T$ 不可能是不可约的。