011 求解计算最优值（normal equation）

• 将梯度下降变化问题转换为求解问题。
• 对代价函数导数为零情况的方程求解。

ps：并未证明该式子（挖坑ing..）

• 一般选择求解代价函数依据条件之一为特征变量的个数。
  按老师说法，n在10000以下时，一般选择normal equation（但再大就要使用梯度下降法，考虑计算矩阵的逆需要耗费n**3的时间复杂度）

  
  

矩阵逆的计算

参见 http://www.360doc.com/content/18/0325/20/48503472_740145916.shtml

公式：

例子：

• 矩阵的逆的提出最主要原因是矩阵无法被除 。换句话说，矩阵本身没有被除的概念。

如已知矩阵 A,B 且知道AX = B，求解矩阵X。
可以利用以下思路：

因此通过矩阵，也可以解决许多线性方程组的问题。