数学规划学期总结与感想
化物于抽象谓之数，博古以通今谓之学，经天且纬地谓之规，去伪而存真谓之划。故数学规划者，借以代数，运筹于帷幄，而决胜于千里也。遇数学规划四月有余，睹前贤近哲构思之精良，闻魏老师见解之巧妙，略有所感，故述之如下：
最速下降法和改进牛顿法的搜索路径示意图
一.数学之为学
追溯数学的发展历程，大概在两千多年前的古希腊时期，数学就已经作为一门独立的学科而为人们所知了。对古希腊哲学进行一定的探究，去看看数学思想的起源，反倒更能理解自己所学习的学科——数学。苏格拉底，柏拉图等古希腊的哲学家曾经将数学归为追求真理必经的一个阶段，因为真理探究的是万物的共性，而数学正是将事物之间的逻辑关系抽象成数学概念来进行推演模拟，并将结果反诸实践，对现实世界具有很强的指导作用。而且不拘泥于军事，建筑，商业等各个具体而微的行业，任何事情都可以用相近的数学模型进行解决，体现了“万物归一”的哲学思想，不得不承认数学具有运筹帷幄决胜千里的神奇功能。以是数学被西方先贤们列为科学之首，两千年以来数学界的精英层出不穷，极大地推动了数学的发展。等到欧几里得及其后数学家开创了高等代数，牛顿、莱布尼茨建立了微积分的体系，近代数学的面貌始呈现于世人面前，而其功用更是令人叹为观止，以致近代工业、商业各个领域的发展都离不开数学模型的基础。正如马克思曾慨叹的：“一种科学只有在成功地运用数学时，才算达到完善的地步。”
信赖域法(Trust Region)的最优解轨迹图
二.数学规划的实际意义与内容总结
盖各行各业精英人才研究数学的原因，不过是为了运用数学的理论，改善行业的业绩状况，增加企业的效益罢了。现代社会，作为一个市场经济社会，遍览各行各业，诸如交通运输，城市开发，招商引资，如果不是为了追求最大的收益，就是为了寻找最节省的成本，也由此才推动了生产的发展创新，使得社会能够进步。正是从这个目的出发，人们才费劲心思地寻找最优化的解决方案，能够以最小的成本，换取最大的利润。最优化原理与方法应运而生，以解决该问题为己任，开始探究各极值条件，寻找最优解，并以此来进行最优化的资源分配和人事调度。数学规划作为一门独立的方向以来的百余年历程中，也不知有多少数学人为此焚膏继晷，前赴后继，使得数学规划能够得到像今天一样的充分发展。
凡学科之发展，由浅入深，由易及难，数学规划亦不例外。初入数学规划，我们接触到的就是线性规划，与线性代数一脉相承，用欧氏空间中的基本概念，来解决最简单地规划问题。在理论层面，关于线性规划可行解的存在问题曾一度引发数学界学者的争论，在争论的过程中，数学理论却得到了飞速的发展。凸集，凸规划，凸锥等一系列概念不断地被提出、应用，渐渐地在理论层面，数学规划的发展，推动了现代数学的一个新分支——凸分析的产生，也体现出数学从实际出发，延展于理论的基本探究方法。
既然从理论上解决了线性规划可行解存在性的问题，作为一门实用性的学科，数学规划并没有止步于此，而是力求找到求解最优解的方法。这个过程中，单纯形法可谓是最广为应用的方法之一，在它提出之后的一段时间内，各种关于它的改进和优化层出不穷，两阶段法、对偶单纯形和大M算法等，一步步解决了单纯形法中仍在困扰人们的一些问题，将单纯形法逐渐发展完善。线性规划的基本解法的探究至此也到达了一个较为完善的水平。
世事变幻莫测，毕竟以线性的思想终究难以解决所有的问题，因而从线性规划走向非线性规划，才是数学规划真正走向使用的第一步。于是，数学规划走向了一个更加广阔的应用空间。然而，其面临的困难与待解决的问题也随之增加。不过应用各种各样的高等数学的工具，一代代数学人不懈努力，也探索出了应用范围广泛的各种搜索算法。从最速下降法到牛顿法，再从共轭方向法到变尺度法，每一个算法都解决了之前算法的缺点和不足之处，更是凸显了数学精益求精的基本思想。然而现代以来，随着计算机科学的突飞猛进，数学逐渐摆脱了冗杂的计算任务，用于解决数学规划问题的软件和算法更是日新月异，大量规划问题解决过程中的计算交给了计算机完成，从而规划能够大踏步地向前进了。
非线性规划的种种算法最初解决的都是无约束极值问题，而等待解决的问题却往往不是那么理想。正如苏子曾叹，“哀吾生之须臾，羡长江之无穷”，人的精力和能力终究是有限的，无可以非金石之质，与草木而争荣，实际问题的解决不可避免地受到种种的约束，难以达到无约束时的最优状态。如何在存在约束的情况下寻找到极值的条件，成为一个亟待解决的问题。从极值的一阶充分必要条件和二阶充分条件入手，借助凸规划的种种理论成果，人们在凸规划与导数之间寻找到了沟通的桥梁，从而通过可以求得的导数运算来求出最优解。这其中，Kuhn-Tucker条件给了约束极值问题的一个简单易行的求解思路，而Farkas等人通过建立凸规划与K-T条件解之间的关系而说明了K-T解的可行性，使得存在约束条件的非线性规划求解变的豁然开朗。
数学的发展往往都是拿已知的理论推演未知的事物，如果一个问题可以转化为人们已经解决的问题，则问题的求解就容易了许多。因而当人们接触到约束极值问题时，自然而然地想到如何将其转换为无约束极值问题，从而可以由之前的算法将其进行求解。数学分析当中的极限思想在这里得到了充分的体现：虽然我们不能知道约束的最优解在哪里，但是我们可以从外部或内部去逼近它，通过极限来推知它的存在。因此，人们想到了外点法（惩罚函数法）和内点法（障碍函数法），通过将跃出边界的代价放大到无穷来控制函数的取值。惩罚函数，就像生活中公安部门对违法犯罪采取的强硬措施一样，增大违法的代价，以创造法制的社会，这也是数学来源于生活的一种体现。
至此，数学规划的各个理论方法趋于完整，成为了一个完备的体系结构，也发展为应用数学的一门独立课程。
割圆法示意图
三.学习数学规划的感想
数学的学习，终究是要应用到实际生活中去，用数学知识造福于社会，而数学规划则是目前我所接触到数学类课程中与实际生活最紧密相连的。数学规划的学习，也给了我们将理论应用于实际的最典型的案例。不过，虽说它是一门应用性课程，但其中的理论部分也不容忽视，尤其是它在解决实际问题的过程中又催生了理论数学凸分析的产生和发展，理论与实际相辅相成，可见一斑。
对于学习来说，正所谓“学而不思则罔，思而不学则殆”，学习不可缺少一个自己独立思考的过程。尤其数学课程，充满了严谨的推理过程，不经一番独立的推演思考，确实难以理解书本内容。故学习数学，正如王安石所云，“非有志者，不能至也；有志者，不随以止也，然力不足者，亦不能至也”。不经一番彻骨寒，也不可能有数学的学习和发展。
当然，“有志与力，而又不随以怠，至于幽暗昏惑而无物以相之，亦不能至也”，数学的学习期间，充满了困难险阻，而魏老师授课循循善诱，使我们学习过程中启迪不断，少许点播，就使题目峰回路转，柳暗花明，跟随老师这一年半的学习，收获颇丰；且老师亦师亦友，在课程之外，对我们的成长促进良多，字里行间的谆谆教诲，令我们受益终生。
“吾生也有涯，而知也无涯”，学习知识，并不在于将知识完全掌握，贵在理解其中洋溢的解决问题的基本思想。思想既得，考核就显得不那么重要了。因此，正所谓“尽吾志也，而不能至者，可以无悔矣，其孰能讥之乎”，对于数学规划的学习，就课程本身而言，既然理解了其思想方法，大体也就无憾了。当然，至于博各家之长，深入理解，将它推之于更加广阔的应用领域，只能随时间的推移去慢慢体会了。
此余之所得也。
于2015年夏
