一类特殊的线性变换将是保持内积的可逆变换，即，，满足
对于所有 。此类变换将标准正交基映为标准正交基，因此它们出现的一个作用是在两个标准正交基之间作为基变换。
用伴随的术语来说，这个条件变为
因此
或等价地
在矩阵记号中，这第一个条件变为
它表明 的矩阵的列向量是正交归一的向量。改用等价条件
我们发现， 的矩阵的行向量也是正交归一的。由于这类保持内积的线性变换可以复合并且是可逆的，它们构成群，而李群的一些基本例子正是由实向量空间与复向量空间情形下的这些群给出的。
4.6.1 正交群
我们从实情形开始，此时这些群称为正交群：
定义 · 正交群
中行列式为 1 的矩阵构成的子群（等价地，保持正交基定向的子群）称为 。
回忆一下，对于群 在 上的表示 ，存在一个在 上的对偶表示，其由取 的转置逆给出。如果 是一个正交群，那么 与其对偶是相同的矩阵，其中 通过内积由 等同。
由于矩阵转置的行列式与矩阵的行列式相同，我们有
因此
是一个连续李群，其两个分量由行列式的符号区分：，即保定向变换的子群，包含恒等变换，以及一个改变定向的变换分量。
最简单的非平凡例子是 ，其中 的所有元素都由以下形式的矩阵给出
这些矩阵给出 中角度为 的逆时针旋转。 的另一个分量将由以下形式的矩阵给出
它们描述了一个反射后接一个旋转。注意，群通过以下方式同构于群
因此， 的表示论与 完全一样，不可约复表示都是一维的，并由一个整数分类。
在第6章中，我们将详细考虑的情形，这对于物理应用至关重要，因为它是物理三维空间中的旋转群。
4.6.2 酉群
在复情形下，保持厄米内积的可逆变换构成的群称为酉群：
定义 · 酉群
中行列式为 1 的矩阵构成的子群称为 。
在酉的情形下，表示 的对偶的表示矩阵是 的表示矩阵的转置逆，但
因此对偶表示由对矩阵的所有元素取共轭给出。
这里的计算与实数情形下的计算相同，给出
因此 是一个模为 1 的复数。该映射
是一个群同态。
我们已经见过例子和。对于一般的值，对的研究可以拆分为对其行列式的研究，该行列式位于中，因此易于处理，随后是子群，这是一个复杂得多的故事。
题外话。注意，群 是乘积群 这一说法并不完全正确。如果试图将 等同于 中形如 的元素构成的子群，那么形如
对于 为整数，它将同时属于 和 ，因此 不是这两个群的乘积（它是半直积的一个例子，这些将在第 18 章讨论）。
我们在 3.1.2 节末尾看到， 可以与三维球面 等同起来，因为任意一个群元素都可以通过指定一行（或一列）来构造，而这一行必须是 中长度为 1 的向量。对于 的情形，同样的构造从在 中选取一行长度为 1 的向量开始，这将是 中的一个点。第二行必须正交归一，并且可以证明其可能性位于一个三维球面 中。一旦前两行被指定，第三行就唯一确定了。因此作为一个流形， 是八维的，人们可能会认为它可以与 等同起来。事实证明并非如此，因为当 中的点变化时， 以拓扑非平凡的方式变化。作为空间， 是奇数维球面的拓扑“扭曲”乘积，提供了一些相当非平凡的拓扑流形的基本例子。