最佳平方逼近

最佳平方逼近是用多項式逼近一個函數的方法，它選擇的誤差度量是賦范線性空間中的 L-2 範數，即平方積分。

概念

設$f$是內積空間$E$中的一個元素，$(,)$是$E$上的內積，$M$是$E$的一個子空間，那麼對任意的$p \in M$使

$$e := \sqrt{(f-p, f-p)}$$

達到最小的$p$稱作$f$在子空間$E$上的最佳平方逼近元素。

在離散型中，$(f, g)$是實向量空間（Euclid 空間）上的內積；在連續型中，$(f, g) = \int_I \rho(x) f(x) g(x) \mathrm{d}x$，其中函數$f(x), g(x)$定義在$I$上且連續。

上述逼近問題的逼近元素是存在且唯一的。

充要條件

假設同上，且設$M$的維數有限，那麼$p$是$f$的最佳逼近元素當且僅當誤差元$f - p$與$M$正交，即

$$(f - p, e_k) = 0, k = 1,2,\cdots,m$$

其中$\{ e_k \}_{k=1}^m$是$M$上的極大線性無關組，特別地，可以是基底甚至是正交基底。

此時逼近誤差滿足

$$e := \sqrt{(f-p, f-p)} = \sqrt{(f, f) - (f, p)}.$$

法方程組

假設同上，設元素$p$用基底$\{ e_k \}$線性表示為

$$p = \sum_{k=1}^m c_k e_k.$$

那麼注意到充要條件，有

$$\left( f - \sum_{k=1}^m c_k e_k, e_j \right) = 0, \quad j = 1,2,\cdots,m.$$

於是展開內積，得到線性方程組

$$\sum _{k=1}^{m}(e_{k},e_{j})c_{k}=(f,e_{j}),\quad j=1,2,\cdots ,m.$$

它的係數矩陣就是 Gram 矩陣$G(e_1, e_2, \cdots, e_m).$方程組#A1被稱為法方程組。

特別地，若$\{ e_k \}_{k=1}^m$是正交基底，那麼容易得到 Gram 矩陣是對角矩陣，直接就得到逼近元素

$$p = \sum_{k=1}^m \dfrac{(f, e_k)}{(e_k, e_k)} e_k.$$

因此設法使用正交多項式去逼近一個函數空間中的函數$f(x)$會大大簡化計算。

參考資料

1. 黃雲清, 《數值計算方法》, 科學出版社, 北京, 2012-06, ISBN 978-7-0302-3428-5.