最优化算法的简单基础介绍（主要侧重于二次规划（QP）的问题优化）

最优化方法相当于一门学科，大多为求最大值最小值。因为我刚开始看什么都不懂，所以在网上搜集了一些资料，算个简单的基础吧，让大家对整个的比较熟悉，我主要关注的是二次规划问题（Quadratic Programming）QP 问题的求解，所以里面的更多的关于这个方面的。，

最优化问题的分类

最优化问题根据变量取值可分为:连续最优化问题(continuous optimizationproblem)和离散最优化问题(discrete optimization problem),而离散最优化问题也称为组合优化问题(combinatorial optimization problem).
连续最优化问题又分为:
线性规划(linear program) (要求目标函数与约束条件均为线性的);
非线性规划(nonlinear program) (目标函数与约束条件未必是线性的).
非线性规划又可分为:
二次规划(quadratic program) (目标函数是二次,约束条件是线性);
凸规划(convex program) (目标函数是凸函数,约束条件是凸集)；

离散最优化问题可分为:
整数规划(integer program);
0-1规划(0-1 program) ;
网络流问题(network flow problem) ;
旅行商问题(traveling salesman problem) .
上述线性规划、非线性规划、整数规划统称为数学规划(mathematical program-ming problem).

采用最优化算法解决实际问题主要分为下列两步：

1.建立数学模型。对可行方案进行编码（变量），约束条件以及目标函数的构造。
2.最优值的搜索策略。在可行解（约束条件下）搜索最优解的方法，有穷举、随机和启发式搜索方法。