函數凸性

函數的凸性（convexity）是除了函數單調性之外的又一個重要性質，這裏我們以一元實函數為例研究。注意在不同的教材中定義凸函數可能完全相反。

一元情形

定義

設定義在區間$I$上的函數（不必連續）對任意的$x_1, x_2 \in I$和$\theta \in [0, 1]$，都成立關係式 $$f(\theta x_{1}+(1-\theta )x_{2})\leqslant \theta f(x_{1})+(1-\theta )f(x_{2}),$$ 我們就說函數$f(x)$是區間$I$上的凸函數（或上凸函數，convex function），$I$是$f(x)$的凸區間，如果將上述等式中的大於等於改為小於等於，我們就說該函數是一個凹函數（或下凸函數），$I$是$f(x)$的凹區間。如果上述等式取不到，我們就說該函數是嚴格凸（凹）的。以下性質我們主要針對上凸函數敘述。

通俗來理解，凸函數是區間$I$上函數圖像之上的區域為凸集的函數：在該圖像上方的區域中，任取兩點，它們的連線全在該區域中；凹函數是區間$I$上函數圖像之下的區域為凸集的函數。

等價刻畫

這裏我們給出凸函數的幾個等價刻畫，它們比定義更常用，尤其是可導函數和二階可導函數的等價刻畫。

一般性前提

設$f(x)$是區間$(a,b)$上的函數（不必連續），以下四款等價：

1. $f(x)$是凸函數；
2. $\dfrac{f(x_3) - f(x_1)}{x_3 - x_1} \leqslant \dfrac{f(x_3) - f(x_2)}{x_3 - x_2}, \quad \forall x_1 < x_2 < x_3 \in (a, b).$可以通過畫三角形研究割線斜率的方式通俗理解；
3. $\begin{vmatrix} 1 & x_1 & f(x_1) \\ 1 & x_2 & f(x_2) \\ 1 & x_3 & f(x_3) \end{vmatrix} \geqslant 0, \quad \forall x_1 < x_2 < x_3 \in (a, b);$（三角形的定向面積之倍）
4. $\dfrac{(x_3 - x_2) f(x_1) + (x_1 - x_3)f(x_2) + (x_2 - x_1)f(x_3)}{(x_3 - x_2) (x_1 - x_3) (x_2 - x_1)} \leqslant 0, \quad \forall x_1, x_2, x_3 \in(a, b).$
5. 對任意的$x_0 \in (a, b), \exists \beta \in \R$使得$f(x) - f(x_0) \geqslant \beta (x - x_0).$當$f$可導的時候，$\beta$的最佳常數是$f'(x_0).$

上述刻畫中我們沒有考慮端點，實際上，閉區間$[a, b]$上的凸函數，除了在開區間$(a,b)$上滿足上述某條之外，只需在端點處滿足下面的等式即可： $$f(a) \geqslant \lim_{x \to a^+} f(x), \qquad f(b) \geqslant \lim_{x \to b^-} f(x).$$ 它和上述等價刻畫中第二條是兼容的。

連續性前提

設$f(x)$在$(a,b)$上連續，那麼以下兩款等價：

1. $f(x)$是凸函數；
2. 任意子區間中點函數值小於等於積分平均值：$$f\left(\dfrac{x_1+x_2}{2} \right) \leqslant \dfrac{1}{x_2-x_1} \int_{x_1}^{x_2} f(t) \mathrm{d}t, \quad \forall x_1, x_2 \in (a, b).$$

可導性前提

設$f(x)$在$(a,b)$上可導，那麼以下三款等價：

1. $f(x)$是凸函數；
2. 導數$f'(x)$在$(a,b)$上單調遞增。這是利用一階導數判斷函數凸性的方法；
3. 函數$f(x)$的圖像總是位於每一點的切線的上方，即$f(x) \geqslant f(x_0) + f'(x_0)(x - x_0), \forall x, x_0 \in (a, b).$

二階可導性前提

設$f(x)$在$(a,b)$上二階可導，$f(x)$是（嚴格）凸函數當且僅當導數$f''(x)$在$(a,b)$上恆正（恆非負）。這是利用二階導數判斷函數凸性的方法。

性質

自身性質：

• 凸函數不必連續，實際上，閉區間$[a, b]$上的凸函數至多可以有兩個不連續點（若有，則在端點處），整個函數在開區間$(a,b)$上是連續的；
• 凸函數不必可導，即使是限制在開區間上的凸函數也一樣，考察$f(x) = |x|$，進而凸函數不必二階可導；
• 凸函數最多有一個極值點，或者沒有，極值點可以取在開區間內，實際上，凸函數只可能在它的定義區間中要麼單調遞增，要麼先單調遞減再單調遞增；
• 凸函數$f(x)$的相反數$-f(x)$是凹函數，由定義顯然可知；
• 有限開區間上的有界凸函數必定在端點處存在單側極限；
• 閉區間上的連續凸函數$f(x)$，如果導數在端點處存在單側極限，那麼$f(x)$是 Lipschitz 連續的。

凸函數對運算的兼容性：

• 兩個凸函數的和仍是凸函數，差不一定；
• 兩個非負的單調遞增凸函數的積一定是凸函數；
• 兩個凸函數在開區間上的取最大值函數也是凸函數；
• 複合函數的凸性：設$f(x)$是$(a,b)$，$f(x) \in (c, d)$，且$g(x)$是$(c,d)$上的單調遞增凸函數，那麼$g(f(x))$是$(a,b)$上的凸函數。

多元情形及推廣

一般的凸函數可以在任意賦范線性空間中的凸集上定義，

假設有賦范線性空間$X$及其中的一個凸集$C$，實泛函$f: C \to \R$被稱為是凸函數，是指它滿足如下的凸不等式： $$\forall x, y \in C, \forall \theta \in (0, 1), \quad f(\theta x + (1-\theta y)) \leqslant \theta f(x) + (1-\theta) f(y).$$ 稱其為嚴格凸的是指上述不等式對$\theta \in (0, 1), x \ne y$嚴格成立。如果泛函$f: C \to \R$是 連續可微的，如果滿足： $$\langle f'(u) - f'(v), u - v \rangle \geqslant 0.$$ 那麼它是凸泛函漢，入宮上述不等式對任意$u \ne v$嚴格成立，那麼它是嚴格凸泛函。

特別地，$\R^n$上的多元凸函數$f(x)$也有性質： $$\forall x \in C, \exists \beta \in \R, \forall y \in C, \quad f(y) - f(x) \geqslant \beta (y - x).$$ 如果$f(x)$在凸集$E$上二階可微，那麼$f(x)$是凸函數當且僅當$\forall x \in E, H(f) \geqslant 0$，$H(f)$是 Hesse 矩陣。

如果$f$是凸集$C$上的凸函數，那麼對任意實數$t \in \mathbb{R}$，集合$f_t := \{ x \in C: f(x) \leqslant t \}$是凸集，反過來也是對的。

Jensen 不等式

和凸函數相關最密切的一個不等式，也是使用頻率最高的，它可以證明某些典型的不等式。

設函數$f(x)$是凸集$C$上的凸函數，對任意$\{x_k\}_{k=1}^n \subset C$和任意滿足$\sum_{k=1}^n \omega_k = 1$的$\{\omega_k\}_{k=1}^n \subset [0, 1]$都有 $$f\left( \sum_{k=1}^n \omega_k x_k \right) \leqslant \sum_{k=1}^n \omega_k f(x_k).$$ 其中，$\omega_k$也稱作是$x_k$的權。上述不等關係是說：加權平均的凸像小於等於凸像的加權平均。

一致凸性

一個二階可微的一元實函數$f(x)$在區間$I$上稱為是一致凸的（uniformly convex），是指存在$\theta > 0$，對任意$x \in E$都有$f''(x) \geqslant \theta.$

一個$n$元函數$f(x)$在凸集$E \subset \R^n$上稱為是一致凸的，是指存在$\theta > 0$，$H(f) \geqslant \theta E_n$，即 $$\xi^\text{T} H(f) \xi \geqslant \theta \xi^\text{T} \xi, \forall \xi \in \R^n, x \in E.$$

參考資料

1. 歐陽光中, 朱學炎, 金福臨, 陳傳璋, 《數學分析》, 高等教育出版社, 北京, 2018-08, ISBN 978-7-0404-9718-2.