软件设计 -（八）算法设计与分析

原创已于 2024-05-24 09:03:48 修改 · 572 阅读

本内容遵循CC 4.0 BY-SA版权协议

收录于

软件设计师

于 2023-09-26 17:17:47 首次发布

本文详细阐述了算法在计算机科学中的基础概念，包括算法的五个重要特性，以及算法设计、分析技术，如分治法、动态规划等。还介绍了时间复杂度和空间复杂度的概念，以及如何通过递归式算法分析和常见查找排序算法的比较。

算法是计算机科学的基石。是对特定问题求解步骤的一种描述，它是指令的有限序列，其中每一条指令表示一个或多个操作。

算法理论研究的是算法的设计技术和分析技术。

基本概念

设计一个好的算法应考虑多个目标，包括正确性、可读性、健壮性和高效性等。

算法设计技术也叫算法设计策略。主要有：分治法、动态规划法、贪心法、回溯法、分支限界法、概率算法和近似算法等。

通常，求解一个问题可能会有多种算法可以选择，选择的主要标准首先是算法的正确性、可靠性、简单性和易理解性，其次是算法的时间复杂度和空间复杂度要低，这是算法分析技术的主要内容。

自然语言：优点容易理解，缺点是容易出现二义性，并且算法通常很冗长。
流程图：优点是直观易懂，缺点是严密性不如程序设计语言，灵活性不如自然语言。
程序设计语言：优点是能用于计算机直接执行，缺点是抽象性差，使算法设计者拘泥于描述算法的具体细节，忽略了“好”算法的正确逻辑的重要性。此外，还需要算法设计者掌握程序设计语言及编程技巧。
伪代码：介于自然语言和程序设计语言之间的方法，它采用某一程序设计语言的基本语法，同时结合自然语言来表达。

时间复杂度
主要分析算法的运行时间，即算法执行所需要的基本操作数。表示算法的执行时间与数据规模之间的增长关系。

时间复杂度计算方法：
1. 总复杂度等于量级最大的那段代码的复杂度
  
  计算时间复杂度时，我们通常会忽略掉公式中的常量、低阶、高阶的系数，只需要记录一个最大介的量级就可以了。
  
  如 $O(an^2+bn+c)$ 忽略常量 c，低阶 n，高阶系数 a，得到 $O(n^2)$
2. 只关注循环执行次数最多的一行代码（由第 1 条推出）
3. 嵌套代码的复杂度等于嵌套内外代码复杂度的乘积
空间复杂度
表示算法的存储空间与数据规模之间的增长关系。

O，渐进上界

给定一个函数g(n)，O(g(n)) = {f(n)：存在正常数 c 和 $n_0$ ，使得对所有 $\ge n_0, 有 0 \le f(n) \le cg(n)$ }。

简单来说，对于函数 f(n)，在 $n_0$ 后我们构造的函数g(n)的正常数（c）倍总大于f(n)。
Ω，渐进下界

给定一个函数g(n)，Ω(g(n)) = {f(n)：存在正常数 c 和 $n_0$ ，使得对所有 $\ge n_0, 有 0 \le cg(n) \le f(n)$ }。
θ，渐进紧致界

给定一个函数g(n)，θ(g(n)) = {f(n)：存在正常数 $c_1、c_2$ 和 $n_0$ ，使得对所有 $\ge n_0, 有 0 \le c_1g(n) \le f(n) \le c_2g(n)$ }。

即，同时满足渐进上界和渐进下界，当且仅当 $f (n) = O (g (n)) 且 f (n) = Ω (g (n)) ， f (n) = θ (g (n))$ 才成立。

例： $10n^2 + 4n +2 = O(n^2)$ 成立， $10n^2 + 4n +2 = Ω(n^2)$ 成立，所以 $10n^2 + 4n +2 = θ(n^2)$ 也成立。

渐进符号

递归算法时间复杂度分析方法：

常考递归式时间复杂度：

递归式	时间复杂度	方法
$T(n)=\begin{cases}1 &, n=1 \\ T(n-1) + n &, n>1\end{cases}$	$O(n^2)$	展开法
$T(n)=\begin{cases}1 &, n=1 \\ 2T(n/2) + n &, n>1\end{cases}$	$O (n l o g n)$ （上界）	代换法
$T(n)=\begin{cases}1 &, n=1 \\ 4T(n/2) + cn &, n>1\end{cases}$	$\Theta(n^2)$	递归树法
$T (n) = 9 T (n /3) + n$	$\Theta(n^2)$ ）	主定理
$T (n) = T (2 n /3) + 1$	$\Theta(lg n)$	主定理
$T (n) = 3 T (n /4) + n l g n$	$\Theta(nlg n)$	主定理

算法	解决问题	说明
分治法	归并排序、最大字段问题	用于解决容易递归定义的问题；将一个大问题分解成多个`相同的`小问题，原问题的解即子问题解的合并。
动态规划法	`0-1背包`、最长公共子序列、矩阵链乘	将复杂问题分解成小问题求解的优化技术，通过保存子问题的解来避免重复计算；用于求解具有重叠子问题和最优子结构性质的问题，获取问题最优解。
贪心算法	`背包问题`、钱币找零、多机调度， Kruskal算法【求最小生成树】、迪杰斯特拉（Dijkstra）【求图单源点最短路径】	局部最优；最优子结构、贪心选择性质
回溯法	0-1背包、N皇后、全排列问题	一种试错算法，深度优先；尝试分步解决一个问题，在分不解决过程中发现错误，则取消上一步甚至是上几步，再通过其它可能的分步解答问题。
分支界限		广度优先搜索

查找算法	时间复杂度	空间复杂度	算法
顺序查找	O(1)	O(1)	-
折半查找（二分查找）	O(logn)	O(1)	分治法
哈希查找	O(1)	O(n)	-
二叉查找树	O(logn)	O(n)	分治法
插值查找	O(logn)	O(1)	分治法

方法	稳定性	算法	时间复杂度	空间复杂度
`直接插入`排序	稳定		$O(n^2)$	$O (1)$
`冒泡`排序	稳定		$O(n^2)$	$O (1)$
`简单选择`排序	不稳定		$O(n^2)$	$O (1)$
`希尔`排序	不稳定		$O(n^{1.3})$	$O (1)$
`快速`排序	不稳定		$O(nlog_2n)$ 若序列有序或基本有序时： $O(n^2)$	$O (n)$
`堆`排序	不稳定		$n l o g n$	$O (1)$
`归并`排序	稳定	分治法	$n l o g n$	$O (n)$
`基数`排序	稳定		$O (n) 或 O ((d + k) * n)$	$O (n + d)$

标签

#算法 #开发语言