算法效率度量：时间复杂度和空间复杂度

算法效率的度量是通过时间复杂度和空间复杂度来描述的。

时间复杂度

一个语句的频度是指该语句在算法中被重复执行的次数。算法中所有语句的频度之和记作T(n)，它是该算法问题规模n的函数，时间复杂度主要分析T(n)的数量级。算法中的基本运算（最深层循环内的语句）的频度与T(n)同数量级，所以通常用算法中基本运算的频度 f(n)来分析算法的时间复杂度。因此，算法的时间复杂度也记为：
T(n)=O(f(n))

上式中“O”的含义是T(n)的数量级，其严格的数学定义是：若T(n)和f(n)是定义在正整数集合上的两个函数，则存在正常数C和n₀，使得当n>=n₀时，都满足0 <= T(n) <= C * f(n)。

注意：取f(n)中随n增长最快的项将其系数置为1作为时间复杂度的度量。例如，fi(n) = a * n³ + b * n² + c * n，则其时间复杂度为O(n³)。

算法的时间复杂度不仅依赖于问题的规模n，也取决于待输入数据的性质（如输入数据元素的初始状态）。

例如：在数组A[0...n-1]中，查找给定值K的算法大致如下：

i=n-1;
while( i>=0 && (A[i]!=k) )
    i--;  // 语句(3)
return i;

此算法中的语句(3)（基本运算）的频度不仅与问题规模n有关，还与输入实例中A 的各元素取值及K的取值有关：

• 若A中没有与K相等的元素，则语句(3)的频度 f(n)=n。
• 若A的最后一个元素等于K，则语句(3)的频度f(n)是常数0。

最坏时间复杂度是指在最坏情况下，算法的时间复杂度。

平均时间复杂度是指所有可能输入实例在等概率出现的情况下，算法的期望运行时间。

最好时间复杂度是指在最好情况下，算法的时间复杂度。

一般总是考虑在最坏情况下的时间复杂度，以保证算法的运行时间不会比它更长。

在分析一个程序的时间复杂性时，有以下两条规则：

a) 加法规则

T(n) = T1(n) + T2(n) = O(f(n)) + O(g(n)) = O(max(f(n), g(n)))

b) 乘法规则

T(n) = T1(n) * T2(n) = O(f(n)) * O(g(n)) = O( f(n) * g(n) )

常见的渐近时间复杂度有：

O(1)<O(log₂n)<O(n)<O(nlog₂n)<O(n²)<O(n³)<O(2ⁿ)<O(n!)<O(nⁿ)

空间复杂度

算法的空间复杂度S(n)，定义为该算法所耗费的存储空间，它是问题规模n的函数。渐近空间复杂度也常简称为空间复杂度，记作S(n)=O(g(n))。

一个上机程序除了需要存储空间来存放本身所用指令、常数、变量和输入数据外，也需要一些对数据进行操作的工作单元和存储一些为实现计算所需信息的辅助空间，若输入数据所占空间只取决于问题本身，和算法无关，则只需分析除输入和程序之外的额外空间。

算法原地工作是指算法所需辅助空间是常量，即O(1)。