Objective Function

Definition / 定义

Objective function（目标函数）：在数学建模、运筹学、机器学习等领域中，用来衡量方案好坏并作为优化目标的函数；优化时通常要对它进行最小化或最大化。在机器学习里常与 loss function / cost function（损失函数/代价函数）含义接近。

Pronunciation / 发音（IPA）

/əbˈdʒɛktɪv ˈfʌŋkʃən/

Examples / 例句

We minimized the objective function.
我们把目标函数最小化了。

In logistic regression, the objective function often combines the negative log-likelihood with a regularization term to reduce overfitting.
在逻辑回归中，目标函数常把负对数似然与正则化项结合起来，以减少过拟合。

Etymology / 词源

• objective 源自拉丁语 obiectivus，与“object（对象）”同源，含“作为目标/对象的”之意。
• function 源自拉丁语 functio（履行、执行、作用），在数学中引申为“函数”。
  合起来 objective function 就是“用来作为优化目标的函数”。

Related Words / 相关词汇

• Optimization
• Loss Function
• Cost Function
• Constraint
• Gradient
• Lagrangian
• Regularization
• Utility Function
• Feasible Set

Literary Works / 文献与作品中的用例

• Convex Optimization — Stephen Boyd & Lieven Vandenberghe（凸优化经典教材，系统使用“objective function”讨论优化问题）
• Numerical Optimization — Jorge Nocedal & Stephen J. Wright（数值优化教材，频繁出现并配合梯度/海森矩阵等概念）
• Nonlinear Programming — Dimitri P. Bertsekas（非线性规划教材，以“objective function + constraints”框架展开）
• The Elements of Statistical Learning — Hastie, Tibshirani & Friedman（统计学习经典著作，常以目标函数表述学习/估计问题）
• Deep Learning — Ian Goodfellow, Yoshua Bengio & Aaron Courville（深度学习教材，常用目标函数刻画训练目标与损失）