| 此條目需要 精通或熟悉相關主題的編者參與及協助編輯。 (2014年7月22日) 請邀請適合的人士改善本條目。更多的細節與詳情請參見討論頁。 |
在數學中的最佳化問題中,拉格朗日乘數法(英語:Method of Lagrange multiplier,以數學家約瑟夫·拉格朗日命名)是一種尋找多元函數在其變數受到一個或多個條件的限制時的局部極值的方法。
對一個有 個變數與 個限制條件的最佳化問題,拉格朗日乘數法會將其轉換成一個 個變數的方程式組,稱作拉格朗日方程式(英語:Lagrange function),這個方程組的解將包括所有最佳化問題的解。拉格朗日乘數法將會引入一個或一組新的未知數,即拉格朗日乘數(英語:Lagrange multiplier),又稱拉格朗日乘子,或拉氏乘子,它們是在轉換後的方程式,即限制方程式中作為梯度的線性組合中各個向量的係數。
比如,求 在 時的局部極值時,我們可以引入新變數拉格朗日乘數,這時我們只需要求下列拉格朗日函數的局部極值:
更一般地,對含n個變數和k個限制的情況,有:
拉格朗日乘數法所得的臨界點會包含原問題的所有臨界點,但並不保證每個拉格朗日乘數法所得的臨界點都是原問題的臨界點。拉格朗日乘數法的正確性的證明牽涉到偏微分,全微分或連鎖律。
微積分中最常見的問題之一是求一個函數的極大極小值(極值)。但是很多時候找到極值函數的顯式表達是很困難的,特別是當函數有先決條件或限制時。拉格朗日乘數則提供了一個非常便利方法來解決這類問題,而避開顯式地引入限制和求解外部變數。
先看一個三維的例子:假設有函數:,要求其極值(最大值/最小值),且滿足條件
c為常數。對不同的值,不難想像出
的等高線。而方程式的可行集所構成的線正好是。想像我們沿著的可行集走;因為大部分情況下的等高線和的可行集線不會重合,但在有解的情況下,這兩條線會相交。想像此時我們移動上的點,因為是連續的方程式,我們因此能走到更高或更低的等高線上,也就是說可以變大或變小。只有當和相切,也就是說,此時,我們正同時沿著和走。這種情況下,會出現極值或鞍點。
氣象圖中就很常出現這樣的例子,當溫度和氣壓兩列等高線同時出現的時候,切點就意味著限制極值的存在。
用向量的形式來表達的話,我們說相切的性質在此意味著和的切線在某點上平行,同時也意味著兩者的梯度向量有如下關係(引入一個未知純量):
即:
- .
一旦求出的值,將其套入下式,易求在無限制條件下的極值和對應的極值點。
- =
新方程式在達到極值時與相等。因為達到極值時,而,也就是說等於零。
設函數在點處有極值,且在點的鄰域內連續。則在點處有
另有一常值函數
兩函數在點處的全微分為
當中的等式右方等於零是由於極值會發生在兩者函數斜率完全相同且在區段內有極值的時候
由於和是任取的無窮小量,故該線性方程組的係數成比例,有
即
將上二式分別乘以和,再相加並積分,得到一新函數
那麼,求原函數極值的問題就轉化為求該函數極值的問題。
類似地,這種求極值的方法也可以推廣到多維函數。
如f定義為在Rn上的方程式,限制為gk(x)= ck(或將限制左移得到gk(x) − ck = 0)。定義拉格朗日Λ為
- 。
注意極值的條件和限制現在就都被記錄到一個式子裡了:
和
- 。
拉格朗日乘數常被用作表達最大增長值。原因是從式子:
- 。
中我們可以看出λk是當方程式在被限制條件下,能夠達到的最大增長率。拉格朗日力學就使用到這個原理。
拉格朗日乘數法在卡羅需-庫恩-塔克條件被推廣。
求此方程式的最小值:
同時未知數滿足
因為只有一個未知數的限制條件,我們只需要用一個乘數.
將所有方程式的偏微分設為零,得到一個方程組,最小值是以下方程組的解中的一個:
求此離散分布的最大熵:
- 。
所有機率的總和是1,因此我們得到的限制是g(p)= 1即
- 。
可以使用拉格朗日乘數找到最高熵(機率的函數)。對於所有的k從1到n,要求
由此得到
- 。
計算出這n個等式的微分,我們得到:
- 。
這說明pi都相等(因為它們都只是λ的函數)。解出限制∑k pk = 1,得到
- 。
因此,使用均勻分布可得到最大熵的值。
限制最佳化在經濟學占有很重要的地位。例如一個消費者的選擇問題可以被視為一個求效用方程式在預算限制下的最大值問題。拉格朗日乘數在經濟學中被解釋為影子價格,設定在某種限制下,在這裡即收入的邊際效用。
拉格朗日乘數就是效用函數在最佳解處對收入的偏導數,也就是在最佳解處增加一個單位收入帶來的效用增加,或者說在最佳解處有效用衡量收入的價值,稱之為收入的邊際效用。
在企業生產問題中,拉格朗日乘數用來衡量要素投入變動所帶來的收入變動,du/dm=λ,u表示效用函數或生產函數,m表示收入或要素投入。
在具體數學推導中還可以運用包絡定理的內容。
參考拉格朗日原作或方法的命名:
更深入的介紹和互動applet: