我们前面讲了距离空间、赋范空间,距离空间赋予了两个点之间的距离度量,范数赋予了每个点自身的长度度量,而范数则可以导出距离。本章要讲的内积可以看成是更加统一的定义,因为从内积我们可以导出范数,进而导出距离。因此内积空间是一个“更小”的空间,在此基础上结合完备性我们引出了 Hilbert 空间,后续我们的研究也大多集中在 Hilbert 空间上。
1. 内积空间
定义:
为 上的线性空间,,若满足如下条件
则称
为内积空间。可以用内积定义范数 。若得到的 为 Banach 空间,那么 为Hilbert 空间。
定理:
有(Schwartz 不等式)等号成立 线性相关 或 等号成立 线性相关 或
定理:
,设 ,则 (此定理说明内积为连续映射)。
证明:略。
命题:若
为 上的范数,若 都满足平行四边形等式 ,则存在 上的内积 ,使得
证明:较复杂,略。
例子 1:
不是内积空间,反例比如 ,验证平行四边形等式不成立即可。
例子 2:
不是内积空间,反例如 。
实际上对于空间
,只有在的时候才是内积空间,其余情况均不是内积空间。
对于空间
也只有在的时候才是内积空间。
例子 3:
不是内积空间,反例比如 ,验证平行四边形等式不成立即可(说明找不到合适的内积定义来导出无穷范数)。
类比上面的例子,我们也可以对连续函数定义
范数( 范数)。首先定义内积
同样地,只有在
的时候才是内积空间。
到这里大家基本了解了内积空间的特点,他比一般的赋范空间更严格,度量空间就更不用说了。根据初中的知识,有了内积我们就能计算夹角了,不过这里我们不讲夹角,而是考虑正交和正交补的概念。
小结:这一部分讲了内积运算的定义,并且由内积可以导出范数的定义,但是内积比范数的要求更严格,因此对于某个范数,可以通过验证平行四边形等式来验证其是否可以由内积运算来导出。
2. 正交补与正交投影
内积空间
中,称正交,若 ,记为 。 非空,定义其正交补
命题:
为 的闭集线性子空间。
证明:易证
为线性子空间,然后再用内积的是连续映射证明 为闭集。
这里插入一个最佳逼近元的概念。定义
,若存在 使得 ,那么就称 为最佳逼近元。什么情况下最佳逼近元存在呢?当 为非空紧集的时候, 存在(因为紧集一定是有界闭集)。若 为赋范空间, 为 的有限维线性子空间,则 存在(因为有限维赋范空间都完备, 为闭集)。
定理:
, 为 非空凸子集,且 完备,则 , 为最佳逼近元,并且有 。
证明:先找到
,证明其为柯西列,由于 完备,得到最佳逼近元的存在性。再由 的凸性质证明唯一性。证毕。
对于线性空间
, 为 的线性子空间,称 为 的直和,若 ,记为
很容易验证
定理:设
为 Hilbert 空间, 为 的闭线性子空间,则
证明:
完备,对 ,,使得 ,并且 。证毕。
定理:设
为 Hilbert 空间, 为 的闭线性子空间,则
证明:略。
上面两条定理当中,只有
是 的闭线性子空间才有如此良好的性质!因为只有闭线性子空间才能认为 是尽可能“丰满”的。举个例子, 中,令 ,那么 为 平面, 为 轴,相比于原始的 扩展到无穷远处了。
推论:设
为 Hilbert 空间, 非空,则
引理:
证明:略。
NOTE:这个引理实际上说明了正交补空间在定义的时候已经是“最大化的”,即使原空间
稍微扩张一点点,其正交补空间仍然保持不变。
设
为 Hilbert 空间, 为 的闭线性子空间,那么对于 ,存在唯一的分解 记 ,称 为从 到 上的正交投影,其有如下性质: 为线性算子; 有界,并且 ,;;。
小结:本小节给出了正交补的定义(1) 不论原空间 如何,正交补空间 总是有一些良好的性质:1)闭线性子空间;2)“最大化的”;
(2) 如果原空间 同时有良好的性质(闭线性子空间),那么他们两个就是对整个空间 的良好分割。
3. 标准正交基
内积空间
中, 为正交集,若 进一步若 中任意元素 ,则称 为标准正交集。
对于一个标准正交序列
,有Bessel 不等式
有了标准正交集的概念,我们很容易联想到正交基。下面列出的正交集的性质都可以类比基,但是随便取一个标准正交集,其并不一定完备,因此二者又有细微的差别。
定理:
为 Hilbert 空间, 为 的标准正交集,那么有 收敛 若 ,则 收敛
证明:由于涉及到无穷级数,因此证明过程中需要首先考虑
的情况,再证明 的时候极限成立。细节略。
如果对于标准正交集
我们有 ,那么称 在 中为完全的。实际上这里很容易联想到完备正交基,我们知道空间中任意一点都可以用基的线性组合来表示,如果 是完全的,那么我们可以有相似的结论。
命题:首先定义
,那么一定有 是至多可数的。
证明:定义
,,只需证明 为至多可数集。
假设
中两两不等的元素可以表示为 ,那么 ,说明 中的元素个数是有限的。证毕。
定理:
为 Hilbert 空间, 为 的标准正交集,则下述命题等价: 为完全的;;
证明:首先用反证法证明
然后考虑 ,令 , ,容易证明 ,那么就有 ,从而 ,。其余证明可以参考课本。此处省略。
对于内积空间
的一列线性无关元素 ,那么存在一组标准正交序列 使得
其中一种获取方法为Gram-Schmidt 标准正交化方法,即
首先取 然后 上述过程重复进行。
定理:
为 Hilbert 空间, 为 的标准正交集,则存在 为完全标准正交集,
推论:任意 Hilbert 空间均有完全标准正交集。
证明:可以根据有限维空间、无限维可分空间进行讨论,应用 Gram-Schmidt 标准正交化方法即可获得完全标准正交集。
实际上如果我们能构造出来 Hilbert 空间的一组标准正交基,那么对于有限维空间
,其与 等距同构;对于无穷维可分空间,其与 等距同构。
小结:1) 本小节讲到的标准正交集可以用于向量的线性分解表示。
2) 当标准正交集是完全的,那么它实际上就是 Hilbert 空间 的一组标准正交基。这又可以看作是线性空间中 Hamel 基/Schauder 基的更特殊的情况,因为完备的标准正交集要求相互正交,而 Hamel 基和 Schauder 基只要求线性无关。
3) 实际上根据 Gram-Schmidt 标准正交化方法可以由两种基构造出标准正交基。
4. Hilbert 空间上有界线性泛函表示
对于内积空间
,取 ,那么我们可以定义一个线性泛函 ,可以验证 ,并且有 ,因此 。
那么如果反过来,任取
,我们是否能够断言 都可以表示为 的形式呢?可以!这个表示形式如此简洁,以后你会发现这个性质非常有用!但并不是任意赋范空间都可以如此表示,只有 Hilbert 空间有这个良好的性质。
定理(F.Riesz): 为 Hilbert 空间,则证明:若 ,取若,那么 为 的闭线性子空间,因此有 ,且 。接下来的问题就是如何构造一个函数 让其等于 ?
首先固定 。任给 ,考虑 ,显然有 ,故 ,从而有 下面证明 的唯一性。略。
证毕。NOTE:实际上 是一维空间,也就是 ,因此我们随便从 中取一个向量 乘以一个线性系数就能得到 。
假设
为 上的赋范空间,称 为共轭双线性泛函,若
称其为有界的,若
,使
定义其范数为
定理(F.Riesz):
为 Hilbert 空间, 为有界共轭双线性泛函,则
证明:首先固定
,只关注 ,即 为有界线性泛函,因此可以 ,使得
现在对
任取,可以得到 ,由于 是有界共轭双线性的,容易验证 为有界线性算子。证毕。
下面如果我们定义
,那么 也是有界共轭双线性算子,并且根据上面的 Riesz 表示定理, 使得 由此我们就导出了伴随算子的定义,我们称 为 的伴随算子,记为 ,并且根据上面的推导过程可以得到伴随算子是唯一的。
伴随算子有以下性质:
例子 1:伴随算子一个最简单的例子就是矩阵。
为 阶方针,使得 ,容易验证
定理:
为 Hilbert 空间, 为一一映射,则 为等距同构,当且仅当
此时称
为 到 的酉算子。
证明:要证明等距同构只需要验证
或者 成立,做一下变换即可证明。证毕。
NOTE:实际上这里可以联想到酉矩阵。
小结:这一小节最核心的内容就是 Riesz 表示定理,即Hilbert 空间上任意有界线性泛函都可以唯一地表示为