矩阵范数详解.docx

周国标师生交流讲席010向量和矩阵的范数的假设干难点导引(二)一.矩阵范数的定义引入矩阵范数的原因与向量范数的理由是相似的，在许多场合需要“测量”矩阵的“大小”，比方矩阵序列的收敛，解线性方程组时的误差分析等，具体的情况在这里不再复述。最容易想到的矩阵范数，是把矩阵AC"'"可以视为一个也维的向量(采用所谓“拉直”的变换)，所以，直观上可用Cm上的向量范数来作为ACm×"的矩阵范数。比方在4-范数意义下,IIAIlI=ZZ%=(tr(A"A)p;一)r=l=l'inIi、2在4-范数意义下，IlAII尸=%F，(1.2)3=注意这里为了防止与以后的记号混淆，下标用“F”，这样一个矩阵范数，称为FrOberIiUS范数，或F-范数。可以验证它们都满足向量范数的3个条件。那么是否矩阵范数就这样解决了？因为数学上的任一定义都要与其对象的运算联系起来，矩阵之间有乘法运算，它在定义范数时应予以表达，也即估计A3的“大小”相对于A与B的“大小”关系。定义1设AC心"，对每一个A,如果对应着一个实函数N（八）,记为IlAl|,它满足以下条件:(1)非负性:A0;(Im正定性：A=OfnxnoIIAII=O(2)齐次性：IIaAlHaIllAII,C;(3)三角不等式：HAHA+51AH+HBH,VBeCwxrt那么称N（八）=IIAII为A的广义矩阵范数。进一步,假设对CE",C'M,C"T上的同类广义矩阵范数Il|,有(4)(矩阵相乘的)相容性：IlAIlABIAllIlB|,BWCM,那么称N（八）=IIAll为A的矩阵范数。我们现在来验证前面(1.1)和(1.2)定义的矩阵范数是否合法？我们这里只考虑(1.2),把较容易的(1.1)的验证留给同学们，三角不等式的验证。按列分块，记A=(q,4,%)，B=1.,.,/对上式中第2个括号内的诸项，应用CaUChy不等式，那么有WA+BA.+2HAfBIlF+1B.=(AIlF+BIlJ(1.3)于是，两边开方，即得三角不等式。再验证矩阵乘法相容性。f2Y2"(这一步用了Cauchy不等式)y三三)三i)(ntn、('=22=IMIl-IIa-()Ii=Ik=Js=1>可见，矩阵相容性满足。这样就完成了对矩阵F-范数的验证。是不是这样直接将向量范数运用到矩阵范数就可以了吗？No!运用乙-范数于矩阵范数时便出了问题。如果IlAll8=max%I,那么,这样的矩阵范数在下面一个1M，J1jn(A(22、例子上就行不通。设A=,A2=2AO因此，按上述矩阵8-范数的定义，UD(22)IlAl1.=1,IIAlIAIl1,A2x=2,于是但这是矛盾的。所以简单地将。-范数运用于矩阵范数，是不可行的。虽然这仅是一个反例，但是数学的定义是不可以有例外的。由此，我们必须认识到，不能随便套用向量范数的形式来构造矩阵范数。为此,我们仅给出矩阵范数的定义是不够的，还需要研究如何构成具体的矩阵范数的方法。当然，你也可以不去考虑构成方法，一个函数一个函数去试，只要满足条件就行。不过这样做的工作量太大，也很盲目。第二，在实际计算时，往往矩阵与向量出现在同一个计算问题中，所以在考虑构造矩阵范数时，应该使它与向量范数相容。比方要考虑Ar的“大小”，AX是一个向量，但它由A与X相乘而得的，它与A的“大小”和X的“大小”的关系如何？这提出了两类范数相容的概念。定义2对于C"*"上的矩阵范数a7和C7C”上的同类向量范数y,如果成立IlAxHvAw.xv,VACmX二VxC,（1.5）那么称矩阵范数IlHw与向量范数IlHv是相容的。mn521例1.1可以证明Af=ZZl%F=（tr（A"A）尸是与向量范数2相容。1.=I7=1事实上，在（1。2）中，取8二xCwd,那么二.矩阵算子范数现在给出一种构造矩阵范数的一般方法，它可以使构造出的矩阵范数与向量范数相容，当然，它也满足定义1规定的4个条件。定义3设C7C”上的同类向量范数为y,AC"",定义在Cm空间上的矩阵A的由向量范数IlIlv诱导给出的矩阵范数为IlAIly=max"（2.1）'"°Ilxllv可以验证，这样定义出的矩阵范数IlAIly满足定义1规定的4个条件，同时又满足矩阵范数与向量范数相容性要求（定义2）。由于有什么样的向量范数y,就有什么样的矩阵范数，所以，这样的矩阵范数称为由向量范数诱导出的，简称诱导范数；又因为（2.1）实际上规定了一个函数（或算子），故又称为算子范数（2.（1） 的范数实际是寻求一个最优化问题的最优值，求目标函数必出的最大值，约束条件IlXIIy是XW0,也就在。"空间中除原点外的点中，找一个维向量X,使华？1.取得最大值。如果直接考IIxIly虑这样一个优化问题,还是有困难的.可以证明，它可以以下等价方式定义,使问题的处理简单。IMIIv=max"?=max=maxIlAXIIV（2.2）noHxv<=Hxv<='事实上，分母上的IlXllV是一个正数（x0）,那么根据向量范数的齐次性有上面第3个等号成立是因为向量Z=为一个单位向量。IlxlIV下面我们从理论上证明这样的矩阵范数IlAIIy满足定义1规定的4个条件，同时又满足矩阵范数与向量范数相容性要求。定理2。1由（2.1）或（2.2）给定的。杵”上的矩阵范数满足矩阵范数定义1的4个条件，且与相应的向量范数相容。证明：首先，矩阵范数与向量范数的相容性是不难证明的，事实上，对IIiIIy=I,IlaHvIIxv=AIlv=maxAzv>Axv,因此,矩阵范数与向量范数的相容性条件（1.5）成立。IIZIlV=I我们下面来验证（2.1）或（2.2）满足矩阵范数的4个条件。这4个条件中，前2个也容易验证，因此这里只来考察第3,4个条件。三角不等式的验证：对于任一3Cmx"矩阵相乘相容性的验证：由(1.5),不难有当XWO时，llllvAvgvIlxIly所以HABHv=maxUrT<AjBIIy-t*°IIXllV至此，证实了用算子范数确能给出满足矩阵范数定义和矩阵范数与向量范数的相容性的矩阵范数。推论1对于C"'"上的任一种向量诱导范数，都有Il=maxIlII=I(2。3)IWl=I但是要注意的是，对一般的矩阵范数，对任一向量xC",有故有Il/a1。比方，IlHf不是诱导矩阵范数，所以flo三.几个常用的诱导矩阵范数上面的论述说明，诱导矩阵范数与向量范数密切相关，有何种向量范数，就有什么样的诱导矩阵范数。下面就来具体地构造几个常用的诱导矩阵范数。设AC'"'".例3.1设4C"'X",由向量/范数诱导而来的最大列和诱导矩阵范数1=maxya.I(3.1)证明：按列分块，记A=(q,%,%)，那么由(3.1)和向量/范数的定义可知设X=(XI，/，,X")"且有IlXII=1因此，HAII1=maxHAxll1maxya(+)w=)7Z另一方面,选取人使得令X0为第k的单位向量/=(0,0,l,0,0)r,那么Axq=ak=(ljt,a2k,-,ank)IlAiII=maxAx1Ax01=aik=maxZlaij(+)阿=I/=|J1=综合(+)与(+)可知，由向量/小范数诱导出的矩阵范数既是IlAlll的上界,又是其下界,因此必有(3.1).例3.2设AC'pc",矩阵谱范数由4-范数诱导得出的矩阵范数，定义为IlAll2=max是A”A的特征值="nax(A"A)=5(3.2)其中2为A的最大奇异值，当AT"时，IlAH2=nm(ArA)(3.3)证明：首先由线性代数，A"A是半正定矩阵，事实上,对任一xC有因此，A"A的特征值都为非负实数,记为A1A240,而且A'A具有n个相互正交的，I2-范数等于1(即标准化了的)特征向量冗,x,衣，它们分别对应于特征值422n0o故这组特征向量构成了一组标准正交基，用它们可表示任一个范数IlXII2=1的向量X：x=Zaix1=1而且，由IlXIl2=1，可得到£苗二1。r=l这样，AhAx=AhAjaix=Zaj(A"A?")=。j=lZ=IZ=I由此=11«112+Ia212+Jan21=4,3=也就是IlAr27由x的任意性和算子范数的定义HAH2=maxHAr2(*)IWl2=I另一方面，由IlXll2=1，并且取4对应的特征向量X，考虑所以A,=maxAxkx,二4IIaII2=I综合(*)和(*),由4-范数诱导得出的矩阵范数应为IlAll2=max是A"A的特征值=nax(Az/A)=l。例3.3设AG。'">",乙-范数诱导得出的矩阵范数(*)HAIlx=max«IltnJJ=I证明：设X=,X2,xj,且IIXII8=1,由算子范数，IlAH30=maxHArjmaxZlaijIW1.=I=另一方面，选取，使得1,令y二(凹，y,>,其中yj=,必J(3.4)即maxIxi=1。i(*)/%=O矿。那么IlyIl00=maxIyj=1,从而有由算子范数IlAIlx=maxAv1.AylIJ£|aki=maxaijo(*)Il叽=1j=1/=|'综合(*和(*),便得IlAIlx=maxyIa.Iolim-jJ=I除了上述3种常用的矩阵范数外，FrobeniUS范数虽然不是算子范数，但也经常所用，在讨论序列收敛等问题上是等价的。(1一2、例3.4设A=,求其各种矩阵范数。-34解：IlAIll=最大列和=6：IlAlloC=最大行和=7；IlAII产l2+22÷32+42=305.477；四.由矩阵范数推出的向量范数矩阵范数可由向量范数诱导，反过来，向量范数有时也可从矩阵范数推出。例4.1设1.是CM上的矩阵范数，任取C"中的非零向量y,那么函数ley”".rC,(4oD是Cn上的向量范数，且矩阵范数IlIlw与向量范数IlIly相容。证明：欲证IlXlly是一个向量范数，只须验证它满足向量范数得个条件。非负性：当x0时,由于y非零,故IlXlIV=Il孙”M>0，VXWCZ当X=O时，Xyy=QX“，故IIXlly=II孙IIM=0。齐次性：对任一常数cC,有IRxWv=WcxytiIIm=IcIH盯IlM=ICIlIXvo三角不等式：对任意的X,zwC",有=IkIIv+112Ilwo因此由向量范数的定义知，Ilxllv是一个