线性代数
稍微回顾线性代数得到了一些以前我没搞懂或者我看的教学视频/文章没说清楚的结论
矩阵乘法举例：
| a11 a12 | | x11 | = | a11x11 + a12x21 |
| a21 a22 | | x21 | | a21x11 + a22x21 |
| a31 a32 | | a31x11 + a32x21 |
当初没有找到一个直观理解这种矩阵乘法在几何意义里的方式
现在看来假设x11和x21是一个平面坐标的(1,0)和(0,1)的话，那么这个乘法就相当于把x11和x21变成了(a11, a21, a31)和(a12, a22, a32)
变换矩阵每一行实际上是和原基向量做点积成变换后的基向量，就这样转换了基向量的坐标
所以矩阵乘法就是通过基向量的变换来构造新的向量
特征值和特征向量
特征向量是在进行矩阵变换的时候方向不变只有大小变化的向量
特征值是特征向量进行矩阵变换时大小变换的比例
知道这两个的具体值大概按某个规则画图就能完全画出变换成什么样了吧
上面这句话ai更正了一下，条件是需要特征向量构成一组基底，然后没想到的是和我刚刚看的SVD联系在一起了
SVD 一定能在“输入空间”和“输出空间”各找到一组正交基，在这两组基底下，任意线性变换都等价于沿坐标轴的拉伸
具体公式就不贴了，总之公式里U、V 分别是两个对称矩阵A^TA AA^T的特征向量矩阵，也就是说无论输入还是输出都有构成了一组基底的特征向量
大概是因为总能把一个不太好研究的矩阵转换成能研究的矩阵，所以svd很有意义
矩阵范数
把“矩阵有多大”这件事变成一个满足规则的数值度量
常见谱范数和Frobenius范数
Frobenius（F范数）
把矩阵内所有元素平方相加再开根号
也等于 所有奇异值的平方和再开根号
特点：计算简单，对所有元素平均敏感
谱范数
定义为矩阵对向量的最大放大倍数，数值上等于最大奇异值
特点：只关心最坏方向的伸缩，常用于稳定性、误差放大等
条件数
衡量 输入里一点点误差，到输出里会被放大多少倍
最常用的是2-范数条件数：
cond2(A) = A矩阵的2范数 × A^{-1}矩阵的2范数
如果A可逆，可以写成更直观的形式：cond2(A) =最大奇异值/最小奇异值
微积分与矩阵微分
链式法则
实际上和高等数学里的1对1映射的函数过程差不多，只是这里变成了矩阵，其中写法变了一点，计算量大了一点
x->y->z，y的多个值对应z的多个值，于是多个z近似成多个z(y)+偏导dy，▽z可写成一个一维向量形式
x和y之间的对应关系也可以像y和z那样写，不过这里我们不这样写
因为我们用链式法则本质上是要消去y，用这样两个传递链的方式用x表示z或者z表示x
所以我们要用x表示dy，再替换y和z之间的dy，最后即可得到公式
公式之后再贴上吧，我得调一下博客的数学公式渲染之类的设置
