算法分析 - 学习笔记

这篇博文主要会讲述基础的算法分析，对于算法分析主要是针对算法运行时间进行分析。

几个需要注意的读法：Omega（Ω），Theta（Θ）和大O符号。

一、算法分析 - 最坏情况分析法

算法分析其实主要针对两方面，但是平时更多地所讲的一个算法的好坏通常是通过算法运行时间来衡量，如若一个算法运行时间短，则说明这个这个算法的针对某个问题的执行效率不错，反之则说明算法较为低效。前面所说的算法针对运行时间衡量结果大部分指的更多是是效率问题，好坏非一个绝对的标准，针对不同问题，算法执行的时间也不同，并无法绝对说这个算法好还是那个算法好，基本要从实际出发。一般而言，我们所期望的是随着输入数量（input size: N）的成倍增长，算法运行效率应当仅慢常数因子c（constant factor c）。而我们在分析算法时很多时候用的是最坏情况分析法（Worst-case Analysis），亦称最坏情况运行时间（Worst-case Running Time）。而一个算法是有效率的（efficient）如果它的运行时间是多项式时间，也就是说针对某一个问题的算法运行时间不大于问题大小的多项式倍数。下图是不同算法随着输入大小的增加所需要运行时间：

二、渐近增长阶

假设算法的最坏情况运行时间我们记作T(n)，这里有另外一个函数f(n)，如果存在下述的三种情况，我们则称之为上界、下界和既是上界也是下界。

渐近上界：如果存在一个常数c > 0和n₀ > 0以至于所有n > n₀ 都有T(n) < c · f(n)，我们则称之为T(n)是O(f(n))，f(n)为T(n)的上界。

举个例子：假设我们有一个算法的运行时间为T(n) = pn² + qn + r，这里的p、q和r都是大于0的数，那么如果我想说这个函数是服从O(n²)的话，则可以写成T(n) = pn² + qn + r ≤ pn² + qn² + rn² ≤ (p + q + r) · n² ，这个则符合上述定义。因此我们称T(n)是O(n²) 。

渐近下界：反之，对于任意大的输入，如果存在一个函数f(n)致使T(n) ≥ ε · f(n)（亦称之为Ω(f(n))），我们则称之为渐近下界。

举个例子：T(n) = pn² + qn + r ≥ pn² ≥ pn（p = ε），所以T(n)是Ω(n)，也就是f(n) = n是T(n)的下界。

既是上界也是下界：从上面两个式子我们可以看出f(n) = n² 是T(n)的上界也是下界，我们称之为Θ(n²)。

三、例子

这里主要列举几个算法来表述不同的运行时间。

3.1 线性时间（linear time）

线性时间指的是算法的运行时间最多为一个常数因子乘于输入的大小，最常用来表示的一个算法就是查找一个数列中的最大数及合并两个已经排好序的数列，这里仅展示伪代码，因为实现都较为简单，可以尝试用自己喜欢的语言复现。

# 寻找最大数
max <- a1
for i = 2 to n:if ai > max:max = ai# 合并两个排好序的数
i = 1, j = 1
final_output = []
while (both list are not empty):if ai <= bj:final_output.append(ai)i += 1else:final_output.append(bj)j += 1
final_output.append(remainder of the nonempty list)

3.2 对数时间（n log (n)） - 归并排序（此处是Python代码实现）

def MergeSort(lst):if len(lst) == 1:return lsthalf_length = len(lst) // 2left_lst = MergeSort(lst[:half_length])right_lst = MergeSort(lst[half_length:])return Merge(left_lst, right_lst)def Merge(left_lst, right_lst):"""Merge Function for Merge Sort"""l_index, r_index = 0, 0lst = []while l_index < len(left_lst) and r_index < len(right_lst):if left_lst[l_index] < right_lst[r_index]:lst.append(left_lst[l_index])l_index = l_index + 1else:lst.append(right_lst[r_index])r_index = r_index + 1lst = lst + left_lst[l_index:]lst = lst + right_lst[r_index:]return lst

还有关于O(n²)、O(n³)等其他的运行时间的例子，此处就不一一举例，有兴趣的朋友可以参考下面的列出的书籍并按照自己喜欢的编程语言实现一遍。

如若有哪里讲的不对或者读者有更好的建议，欢迎指出，非常感谢！

参考：

《算法设计》，Jon Kleinberg / Éva Tardos，清华大学出版社，2007。

转载于:https://www.cnblogs.com/jielongAI/p/9562904.html

算法分析 - 学习笔记相关推荐

《数据结构与算法分析》学习笔记（二）——算法分析
一.对算法分析方法的最简单的理解和使用方法 1.首先大家可能一般会被那些数学的概念搞晕,其实简单理解下来,就是假设任何语句执行的效率都是一样的,所以设定每一个语句的执行时间都是一个时间单位,那么只要计 ...
堆排序怎么建立初始堆_学习笔记-详解堆排序
本文目的上一章节已经详细的向大家介绍过排序的相关概念(详见学习笔记-排序简单介绍) ,本文旨在为大家详细的介绍堆排序. 堆排序堆排序(英语:Heapsort)是指利用堆这种数据结构所设计的一种排序 ...
0.0 Introduction-机器学习笔记-斯坦福吴恩达教授
斯坦福学习笔记本书为斯坦福吴恩达教授的在 coursera 上的机器学习公开课的知识笔记,涵盖了大部分课上涉及到的知识点和内容,因为篇幅有限,部分公式的推导没有记录在案,但推荐大家还是在草稿本上演算 ...
c++ 冒泡排序_学习笔记-详解冒泡排序
本文目的上一章节已经详细的向大家介绍过排序的相关概念学习笔记-排序简单介绍,本文旨在为大家详细的介绍冒泡排序. 冒泡排序冒泡排序(Bubble Sort),是一种较简单的排序算法,是一种交换类排序 ...
Python数据结构学习笔记——链表：无序链表和有序链表
目录一.链表二.无序链表实现步骤分析三.无序链表的Python实现代码四.有序链表实现步骤分析五.有序链表的Python实现代码结语一.链表链表中每一个元素都由为两部分构成:一是该 ...
Python数据结构学习笔记——队列和双端队列
目录一.队列的定义二.队列实现步骤分析三.队列的Python实现代码四.队列的应用六人传土豆游戏五.双端队列的定义六.双端队列实现步骤分析七.双端队列的Python实现代码八.双 ...
Python数据结构学习笔记——栈
目录一.栈的定义和特性 (一)栈的定义 (二)栈的反转特性二.实现分析步骤三.栈的Python实现代码四.栈的应用 (一)匹配圆括号 (二)匹配符号 (三)模2除法(十进制转二进制) (四)进 ...
计算机网络学习笔记（六）——网络层、虚电路和数据报交换、路由（距离矢量、链路状态算法）、IP编址、网络拥塞控制、网络互联
文章目录前言概念一.网络层相关概述 (一)三大核心功能 (二)通信两大阵营二.交换技术 (一)交换技术的分类 (二)电路交换和分组交换 (三)虚电路与数据报三.路由 (一)路由功能概述 (二 ...
Kinect开发学习笔记之（四）提取颜色数据并用OpenCV显示
Kinect开发学习笔记之(四)提取颜色数据并用OpenCV显示 zouxy09@qq.com http://blog.csdn.net/zouxy09 我的Kinect开发平台是: Win7 x86 ...
Algorithms学习笔记-第一章基础
#第一章基础标签(空格分隔): Algorithms学习笔记文章目录 @[toc] 1.1 基础编程模型 1.1.1-1.1.8 主要是简述基本的java语法与概念 1.1.9 讲解了本书中自行 ...

算法分析 - 学习笔记

算法分析 - 学习笔记相关推荐

最新文章

热门文章