算法（Algorithm）
**算法（Algorithm）**是解决特定问题求解步骤的的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。
对于给定的问题，是可以有多种算法来解决的。
算法的特性
算法具有五个基本特性：输入、输出 、 有穷性、确定性和可行性。
输入输出
输入和输出特性比较容易理解， 算法具有零个或多个输入。
尽管对于绝大多数算法来说，输入参数都是必要的，但对于个别情况，如打印 " hello world ! " 这样的代码，不需要任何输入参数 3 因 此算法的输入可以是零个。
算法至少有一个或多个输出， 算法是一定需要输出的，不需要输出，你用这个算法干吗?输出的形式可以是打印输出，也可以是返回一个或多个值等。
有穷性
有穷性指算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。现实中经常会写出死循环的代码，这就是不满足有穷性。
确定性
算法的每一步骤都具有确定的含义 ， 不会出现二义性。 算法在一定条件 下，只有一条执行路径，相同的输入只能有唯一的输出结果。算法的每个步骤被精确定义而无歧义。
可行性
算法的每一步都必须是可行的，也就是说，每一步都能够通过执行有限次数完成。 可行性意味着算法可以转换为程序上机运行，并得到正确的结果。
算法VS程序
很多人误以为程序就是算法，其实不然：算法是解决某个问题的想法、思路；而程序是在心中有算法的前提下编写出来的可以运行的代码。
例如，要解决依次输出一维数组中的数据元素的值的问题，首先想到的是使用循环结构（ for 或者 while ），在有这个算法的基础上，开始编写程序。
所以，算法相当于是程序的雏形。当解决问题时，首先心中要有解决问题的算法，围绕算法编写出程序代码。
有算法一定能解决问题吗？
对于一个问题，想出解决的算法，不一定就能解决这个问题。
例如拧螺母，扳手相对于钳子来说更好使（选择算法的过程），但是在拧的过程（编写程序的过程）中发现螺母生锈拧不动，这时就需要另想办法。
为了避免这种情况的发生，要充分全面地思考问题，尽可能地考虑到所有地可能情况，慎重选择算法（需要在实践中不断地积累经验）。
算法效率的度量方法
对于一个问题的算法来说，之所以称之为算法，首先它必须能够解决这个问题（称为准确性）。其次，通过这个算法编写的程序要求在任何情况下不能崩溃（称为健壮性）。
如果准确性和健壮性都满足，接下来，就要考虑最重要的一点：通过算法编写的程序，运行的效率怎么样。
运行效率体现在两方面：
- 算法的运行时间（称为“时间复杂度”，Time complexity）
- 运行算法所需的内存空间大小（称为"空间复杂度"，Space complexity）
好算法的标准就是：在符合算法本身的要求的基础上，使用算法编写的程序运行的时间短，运行过程中占用的内存空间少，就可以称这个算法是“好算法”。
算法时间复杂度 （The time complexity of algorithm）
算法的时间复杂度，也就是算法的时间量度，记作: T (n)=O(f(n))。 它表示随问题规模 n 的增大，算法执行时间的增长率和 f(n)的增长率相同，称作算法的渐近时间复杂度，简称为时间复杂度（Time complexity）。 其申 f (n) 是问题规模 n 的某个函敬。
我们查找一个有 n 个随机数字数组中的某个数字， 最好的情况是第一个数字就是，那么算法的时间复杂度为 0(1)，但也有可能这个数字就在最后一个位置上待着，那么算法的时间复杂度就是 O(n)，这是最坏的一种情况了。
最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。 在应用中，这是一种最重要的需求， 通常， 除非特别指定， 我们提到的运行时间都是最坏情况的运行时间。
而平均运行时间也就是从概率的角度看， 这个数字在每一个位置的可能性是相同的，所以平均的查找时间为 n/2 次后发现这个目标元素。
平均运行时间是所有情况中最有意义的，因为它是期望的运行时间。
对算法的分析，一种方法是计算所有情况的平均值，这种时间复杂度的计算方法称为平均时间复杂度。另一种方法是计算最坏情况下的时间复杂度，这种方法称为最坏时间复杂度。 一般在没有特殊说明的情况下，都是指最坏时间复杂度。
算法空间复杂度
算法的空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作：S(o)= O(f(o)) ，其中，n 为问题的规模，f(n)为语句关于 n 所占存储空间的。
一般情况下， 一个程序在机器上执行时，除了需要存储程序本身的指令、常数、 变量和输入数据外，还需要存储对数据操作的存储单元，若输入数据所占空间只取决 于问题本身，和算法无关，这样只需要分析该算法在实现时所需的辅助单元即可。若算法执行时所帘的辅助空间相对于输入数据量而言是个常数，则称此算法为原地工作，空间复杂度为 0(1) 。
通常， 我们都使用"时间复杂度"来指运行时间的需求，使用"空间复杂度"指空间需求。当不用限定词地使用"复杂度’时，通常都是指时间复杂度。
Reference
- 数据结构概述 - http://data.biancheng.net/intro/
- 算法复杂度分析 - https://www.cnblogs.com/gaochundong/p/complexity_of_algorithms.html
- 《大话数据结构》