绪论 -- 算法简述

算法定义
  算法是解决待定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。

算法的特性
  算法有五个基本特性：输入、输出、有穷性、确定性和可行性。

• 输入输出
  输入和输出特性比较容易理解，算法具有零个或多个输入。绝大多数算法需要输入参数，但有的是不需要的，不如“hello world”这样的代码，不需要任何参数，因此算法的输入可以是零个。算法至少有一个或多个输出，算法是一定要输出的，不需要输出，那用这个算法干嘛？输出的形式可以使打印输出，也可以是返回一个或多个值。
• 有穷性
  有穷性：指算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。
• 确定性：
  算法的每一步骤都具有确定的含义，不会出现二义性。算法在一定条件下，只有一条执行路径，相同的输入只能有唯一的输出结果，算法的每个步骤被精确定义而无歧义。
• 可行性：
  算法的每一步都必须是可行的，也就是说，每一步都能够通过执行有限次数完成。

算法设计的要求

  算法不是唯一的，同一个问题，可以有很多种解决问题的算法。
好的算法应该具有以下几点要求：

• 正确性：算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性、能正确反映问题的需求、能够得到问题的正确答案。
  算法的“正确”通常在语法上有很大的差别，大体分为以下四个层次。
  算法程序没有语法错误；
  算法程序对于合法的输入数据能够产生满足要求的输出结果；
  算法程序对于非法的输入数据能够得出满足规格说明的结果；
  算法程序对于精心选择的，甚至刁难的测试数据都有满足要求的输出结果。
• 可读性：算法设计的另一目的是为了便于阅读、理解和交流。我们写代码的目的，一方面是为了让计算机执行，另一方面是为了便于他人阅读，让人理解和交流，自己将来也可能阅读，如果可读性不好，时间长了自己都不知道写了什么，可读性是算法好坏的一个很重要的标志。
• 健壮性：当输入数据不合法时，算法也能做出相关处理，而不是产生异常或莫名其妙的结果。
• 时间效率指的是算法的执行时间，对于同一个问题，如果有多个算法可以解决，执行时间短的算法效率高，执行时间长的效率低。存储量需求指的是算法在执行过程中需要的最大存储空间，主要指算法程序运行时所占用的内存或外部硬盘存储空间。设计算法应该尽量满足时间效率高和存储量低的需求。
    综上，好的算法，应该具有正确性、可读性、健壮性、高效性和低存储量的特点。

函数的渐进增长

• 函数的渐进增长：给定两个函数f(n)与g(n)，如果存在一个整数N，使得对于所有n>N，f(n)总是比g(n)大，那么，我们说f(n)的增长渐进快于g(n)。

例子 1：
  A 算法与 B 算法，A 算法要做 2n+3 次操作；B 算法要做 3n+1 次操作。问哪个执行的更快？

由上图可知，当 n = 1，算法 A 效率不如算法 B；当 n = 2 时，两者效率相同；当 n > 2 时，算法A开始优于算法 B了。得出结论，加法常数可以忽略。

例子 2：
  C 算法与 D 算法，C 算法要做 4n+8 次操作；D 算法要做 2 n*n +1 次操作。问哪个执行的更快？

由上图可知，当 n <= 3 时，算法 C 差于算法 D；当 n > 3 时，算法 C 的优势开始越来越优于算法 D 了。得出结论：与最高次项相乘的常数并不重要。

算法时间复杂度

• 算法时间复杂度定义
  算法时间复杂度：在进行算法分析时，语句总的执行次数 T(n) 是关于问题规模n的函数，进而分析 T(n) 随 n 的变化情况并确定 T(n) 的数量级。算法的时间复杂度，也就是算法的时间量度，记作：T(n) = O(f(n))。它表示随问题规模 n 的增大，算法执行时间的增长率和 f(n) 的增长率相同，称作算法的渐进时间复杂度，简称为时间复杂度。其中 f(n) 是问题规模 n 的某个函数。

这样用大写 O() 来体系那算法时间复杂度的记法，我们称之为大 O 记法。

一般情况下，随着n的增大，T(n) 增长最慢的算法为最优算法。

• 常用的算法时间复杂度

  

• 推导大 O 阶方法

  • 用常数 1 取代运行时间中的所有加法常数
  • 在修改后的运行次数函数中，只保留最高阶项
  • 如果最高阶项存在且不是 1，则去除与这个项相乘的常数。

得到的结果就是大 O 阶。

算法空间复杂度

• 算法的空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作：S(n) = O(f(n))，其中，n 为问题的规模，f(n) 为语句关于 n 所占存储空间的函数。

  一般情况下，一个程序在机器上执行时，除了需要存储程序本身的指令、常数、变量和输入数据外，还需要存储对数据操作的存储单元。若输入数据所占空间只取决于问题本身，和算法无关，这样只需要分析该算法在实现时所需的辅助单元即可。若算法执行时所需的辅助空间相对于输入的数据量而言是个常数，则称此算法为原地工作，空间复杂度为 O(n)。

  通常，我们都使用“时间复杂度”来指运行时间的需求，使用“空间复杂度”指空间需求。当不用限定词地使用“复杂度”时，通常都是指时间复杂度。