算法分析:数据结构与算法(二)的深度解析

发表时间: 2023-01-05 12:03

算法的特性

算法具有五个基本特性:输入、输出、有穷性、确定性和可行性。

输入输出

  • 算法具有零个或多个输入
  • 至少有一个或多个输出:算法是一定需要输出的,不需要输出,你用这个算法干吗?

有穷性

指算法在执行有限的步骤之后,自动结束而不会出现无限循环,并且每一个步骤在可接受的时间内完成。现实中经常会写出死循环的代码,这就是不满足有穷性。

你说你写一个算法,计算机需要算上个二十年,一定会结束,它在数学意义上是有穷了,可是媳妇都熬成婆了,算法的意义也不就大了。

确定性

算法的每一步骤都具有确定的含义,不会出现二义性。

算法在一定条件下,只有一条执行路径,相同的输入只能有唯一的输出结果。算法的每个步骤被精确定义而无歧义。

可行性

算法的每一步都必须是可行的,也就是说,每一步都能够通过执行有限次数完成。

可行性意味着算法可以转换为程序上机运行,并得到正确的结果。

算法设计的要求

正确性

算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性、能正确反映问题的需求、能够得到问题的正确答案。

可读性

算法设计的另一目的是为了便于阅读、理解和交流。

可读性高有助于人们理解算法,晦涩难懂的算法往往隐含错误,不易被发现,并且难于调试和修改。

我们写代码的目的,一方面是为了让计算机执行,但还有一个重要的目的是为了便于他人阅读,让人理解和交流,自己将来也可能阅读,如果可读性不好,时间长了自己都不知道写了些什么。可读性是算法(也包括实现它的代码)好坏很重要的标志

健壮性

当输入数据不合法时,算法也能做出相关处理,而不是产生异常或莫名其妙的结果。

一个好的算法还应该能对输入数据不合法的情况做合适的处理。比如输入的时间或者距离不应该是负数等。

时间效率高和存储量低

时间效率指的是算法的执行时间,对于同一个问题,如果有多个算法能够解决,执行时间短的算法效率高,执行时间长的效率低。

存储量需求指的是算法在执行过程中需要的最大存储空间,主要指算法程序运行时所占用的内存或外部硬盘存储空间。

不过,我们在实际应用中,一般更多的考虑时间效率高,以空间换取时间也是算法的常见思路

算法效率的度量方法

事后统计方法

这种方法主要是通过设计好的测试程序和数据,利用计算机计时器对不同算法编制的程序的运行时间进行比较,从而确定算法效率的高低。

事后统计方法一般了解就行,基本没人使用。因为它有很大的缺陷,比如特别复杂的算法,本身编码就很困难,更别说编码完成后再进行测试得出算法效率,万一事后发现是很糟糕的算法,不是竹篮打水一场空吗?

事前分析估算方法

在计算机程序编制前,依据统计方法对算法进行估算。

函数渐进增长

给定两个函数f(n)和g(n),如果存在一个整数N,使得对于所有的n>N,f(n)总是比g(n)大,那么我们说f(n)的增长渐近快于g(n)。

我们可以这样认为,随着n值的越来越大,它们在时间效率上的差异也就越来越大。

假设两个算法的输入规模都是n,算法A要做2n+3次操作,你可以理解为先有一个n次的循环,执行完成后,再有一个n次循环,最后有三次赋值或运算,共2n+3次操作。算法B要做3n+1次操作。

你觉得它们谁更快呢?显然是算法A。

第二个例子,算法C是4n+8,算法D是2n^2+1

这里的差距就更大了,显然是算法C更快。

算法时间复杂度定义

算法的时间复杂度,也就是算法的时间量度,记作:T(n)=O(f(n))。它表示随问题规模n的增大,算法执行时间的增长率和f(n)的增长率相同,称作算法的渐近时间复杂度,简称为时间复杂度。其中f(n)是问题规模n的某个函数。

用大写O( )来体现算法时间复杂度的记法,我们称之为大O记法。

一般情况下,随着n的增大,T(n)增长最慢的算法为最优算法。

推导大O阶方法

  1. 用常数1取代运行时间中的所有加法常数。
  2. 在修改后的运行次数函数中,只保留最高阶项。
  3. 如果最高阶项存在且不是1,则去除与这个项相乘

常见的大O阶

线性阶(O(n))

一般含有非嵌套循环涉及线性阶,线性阶就是随着输入规模的扩大,对应计算次数呈直线增长,例如:

public static class Ex01 {    public static void main(String[] args) {        int sum = 0;        int n = 100;        for (int i = 1; i <= n; i++) {            sum += i;        }        System.out.println("sum=" + sum);    }}

平方阶(O(n^2))

一般嵌套循环属于这种时间复杂度

public static class Ex02 {    public static void main(String[] args) {        int sum = 0, n = 100;        for (int i = 1; i <= n; i++) {            for (int j = 1; j <= n; j++) {                sum += i;            }        }        System.out.println(sum);    }}

立方阶(O(n^3))

一般三层嵌套循环属于这种时间复杂度。

public static class Ex03 {    public static void main(String[] args) {        int x = 0, n = 100;        for (int i = 1; i <= n; i++) {            for (int j = i; j <= n; j++) {                for (int k = i; k <= n; k++) {                    x++;                }            }        }        System.out.println(x);    }}

这种复杂度已经是爆炸式增长,实际生产肯定要重新选择算法。

对数阶(O(logn))

对于对数阶,由于随着输入规模n的增大,不管底数为多少,他们的增长趋势是一样的,所以我们会忽略底数。

public static class Ex04 {    public static void main(String[] args) {        int i = 1, n = 100;        while (i < n) {            i = i * 2;        }    }}

一般二分法都是对数阶,二叉树的一些计算也是对数阶。对数阶相对于平方阶是巨大的提升,运行次数是折半的。

常数阶(O(1))

一般不涉及循环操作的都是常数阶,因为它不会随着n的增长而增加操作次数。例如:

public static class Ex05 {    public static void main(String[] args) {        int n = 100;        int i = n + 2;        System.out.println(i);    }}

不过我们一般也不讨论常数阶。

总结

描述

增长的数量级

说明

举例

常数级别

1

普通语句

将两个数相加

对数级别

logN

二分策略

二分查找

线性级别

N

循环

找出最大元素

线性对数级别

NlogN

分治思想

归并排序

平方级别

N^2

双层循环

检查所有元素对

立方级别

N^3

三层循环

检查所有三元组

指数级别

2^N

穷举查找

检查所有子集

他们的复杂程度从低到高依次为

O(1) < O(logn) < O(n) < O(nlogn) < O(n^2) < O(n^3)

平方级别和立方级别的算法,时间已经是爆炸式增长,而指数级别的运行时间几乎是灾难,如果发现写出的算法是平方级别、指数级别,那么肯定需要优化。