矩阵、概率等

左行右列：初等阵 P P P 左乘 A A A 有 P A PA PA，相当于对 A A A 按照 P P P 行元素，初等行变换；初等阵 Q Q Q 右乘 A A A 有 A Q AQ AQ，相当于对 A A A 按照 Q Q Q 列元素，做了列变换。

定义：设置矩阵 A ∈ C r m × n A \in C_r^{m\times n} A∈Crm×n​ ， λ i \lambda _i λi​ 是 A A H ( A H A ) AA^H(A^HA) AAH(AHA) 的非零特征值，则称 σ i = λ i \sigma _i=\sqrt{\lambda _i} σi​=λi​ ​ 为 A A A 的奇异值， i = 1 , 2 , ⋯   , r i=1,2,\cdots,r i=1,2,⋯,r 定理：设矩阵 A ∈ C r m × n A \in C_r^{m\times n} A∈Crm×n​ ，则存在 U ∈ U m × m U \in U^{m\times m} U∈Um×m， V ∈ U n × n V \in U^{n\times n} V∈Un×n，使得 A = U [ Δ 0 0 0 ] V H A=U \left [ \begin{matrix} \Delta &0\\ 0&0\end{matrix} \right]V^H A=U[Δ0​00​]VH，其中 Δ = d i a g [ σ 1 , σ 2 , ⋯   , σ r ] \Delta=diag[\sigma _1,\sigma _2,\cdots,\sigma _r] Δ=diag[σ1​,σ2​,⋯,σr​]， σ 1 ≥ σ 2 ≥ ⋯ ≥ σ r \sigma _1 \geq \sigma _2 \geq \cdots \geq \sigma _r σ1​≥σ2​≥⋯≥σr​ 为 A A A 的奇异值。 证明：因为 A A H AA^H AAH 是正规阵，所以存在 U ∈ U m × m U\in U^{m\times m} U∈Um×m ，使得 U H A A H U = d i a g [ σ 1 2 , σ 2 2 , ⋯   , σ r 2 , 0 , ⋯   , 0 ] = [ Δ Δ H 0 0 0 ] U^HAA^HU=diag[\sigma _1^2,\sigma _2^2, \cdots,\sigma _r^2,0,\cdots,0]=\left[\begin{matrix}\Delta \Delta ^H&0\\0&0\end{matrix}\right ] UHAAHU=diag[σ12​,σ22​,⋯,σr2​,0,⋯,0]=[ΔΔH0​00​] 且 σ 1 2 ≥ σ 2 2 ≥ ⋯ ≥ σ r 2 \sigma _1^2 \geq \sigma _2^2 \geq \cdots \geq\sigma _r^2 σ12​≥σ22​≥⋯≥σr2​ 其中 Δ = d i a g [ σ 1 , σ 2 , ⋯   , σ r ] \Delta=diag[\sigma _1,\sigma _2,\cdots,\sigma _r] Δ=diag[σ1​,σ2​,⋯,σr​]。设 U = [ U 1 U 2 ] U=[\begin{matrix}U_1&U_2\end{matrix}] U=[U1​​U2​​]，则 U H A A H U = [ U 1 H U 2 H ] A A H [ U 1 U 2 ] = [ U 1 H U 2 H ] [ A A H U 1 A A H U 2 ] = [ U 1 H A A H U 1 U 1 H A A H U 2 U 2 H A A H U 1 U 2 H A A H U 2 ] = [ Δ Δ H 0 0 0 ] \begin{aligned}U^HAA^HU&=\left[ \begin{matrix} U_1^H\\U_2^H\end{matrix}\right]AA^H\left[\begin{matrix}U_1&U_2\end{matrix}\right]\\&=\left[ \begin{matrix}U_1^H\\U_2^H\end{matrix}\right]\left[\begin{matrix}AA^HU_1&AA^HU_2\end{matrix}\right]\\&=\left[\begin{matrix}U_1^HAA^HU_1&U_1^HAA^HU_2\\U_2^HAA^HU_1&U_2^HAA^HU_2\end{matrix}\right]\\&=\left[\begin{matrix}\Delta \Delta ^H&0\\0&0\end{matrix}\right]\end{aligned} UHAAHU​=[U1H​U2H​​]AAH[U1​​U2​​]=[U1H​U2H​​][AAHU1​​AAHU2​​]=[U1H​AAHU1​U2H​AAH