视频讲解等价无穷小的精度问题

前言

在求极限的时候，我们有一大利器等价无穷小替换。
但是在替换的时候如果使用不当，会产生精度不够的问题，从而导致我们的计算错误。
那么为什么会产生精度不够的问题，等价无穷小的本质是什么，这就是本文要来探讨的问题。

前置知识

多项式逼近
泰勒展开

参考阅读：泰勒公式系列之一，多项式逼近

本文所用符号说明

大O表示同阶无穷小
注：数学辞海给出的解释是大O即可表示同阶或高阶无穷小，详情见附录
小o表示高阶无穷小

如对于x2+2x3+x4x^2+2x^3+x^4x2+2x3+x4，用大O表示则表示为O(x2)O(x^2)O(x2)，即与x2x^2x2为同阶无穷小；小o表示为o(x)o(x)o(x)，表示是xxx的高阶无穷小。

对于exe^xex在x=0x=0x=0处的泰勒展开可表示为以下两种形式：
ex=1+x+x22!+o(x2)e^x=1+x+\frac{x^2}{2!}+o\left( x^2 \right) ex=1+x+2!x2+o(x2)
ex=1+x+x22!+O(x3)e^x=1+x+\frac{x^2}{2!}+O\left( x^3 \right) ex=1+x+2!x2+O(x3)

先来看两个例题

lim⁡x→0x−(esin⁡x−1)x3=等价无穷小lim⁡x→0x−sin⁡xx3=lim⁡x→016x3x3=16\underset{x\rightarrow 0}{\lim}\frac{x-\left( e^{\sin x}-1 \right)}{x^3}\xlongequal{\text{等价无穷小}}\underset{x\rightarrow 0}{\lim}\frac{x-\sin x}{x^3}=\underset{x\rightarrow 0}{\lim}\frac{\frac{1}{6}x^3}{x^3}=\frac{1}{6} x→0limx3x−(esinx−1)等价无穷小x→0limx3x−sinx=x→0limx361x3=61
lim⁡x→0x−sin⁡(ex−1)x2=等价无穷小lim⁡x→0x−(ex−1)x2=lim⁡x→01−ex2x=lim⁡x→0−ex2=−12\underset{x\rightarrow 0}{\lim}\frac{x-\sin \left( e^x-1 \right)}{x^2}\xlongequal{\text{等价无穷小}}\underset{x\rightarrow 0}{\lim}\frac{x-\left( e^x-1 \right)}{x^2}=\underset{x\rightarrow 0}{\lim}\frac{1-e^x}{2x}=\underset{x\rightarrow 0}{\lim}\frac{-e^x}{2}=-\frac{1}{2} x→0limx2x−sin(ex−1)等价无穷小x→0limx2x−(ex−1)=x→0lim2x1−ex=x→0lim2−ex=−21

求这两个极限的过程第一步的等价无穷小正确吗？
我们先用其他方法来算一下这两个极限，就用大家熟悉的洛必达法则好了
lim⁡x→0x−(esin⁡x−1)x3=lim⁡x→01−esin⁡x⋅cos⁡x3x2=lim⁡x→0−esin⁡x⋅cos⁡2x+esin⁡x⋅sin⁡x6x=lim⁡x→0esin⁡x⋅(sin⁡x−cos⁡2x)6x=lim⁡x→0sin⁡x−cos⁡2x6x=∞\begin{aligned} \underset{x\rightarrow 0}{\lim}\frac{x-\left( e^{\sin x}-1 \right)}{x^3}&=\underset{x\rightarrow 0}{\lim}\frac{1-e^{\sin x}\cdot \cos x}{3x^2} \\ &=\underset{x\rightarrow 0}{\lim}\frac{-e^{\sin x}\cdot \cos ^2x+e^{\sin x}\cdot \sin x}{6x} \\ &=\underset{x\rightarrow 0}{\lim}\frac{e^{\sin x}\cdot \left( \sin x-\cos ^2x \right)}{6x} \\ &=\underset{x\rightarrow 0}{\lim}\frac{\sin x-\cos ^2x}{6x} \\ &=\infty \end{aligned} x→0limx3x−(esinx−1)=x→0lim3x21−esinx⋅cosx=x→0lim6x−esinx⋅cos2x+esinx⋅sinx=x→0lim6xesinx⋅(sinx−cos2x)=x→0lim6xsinx−cos2x=∞

lim⁡x→0x−sin⁡(ex−1)x2=lim⁡x→01−cos⁡(ex−1)⋅ex2x=lim⁡x→0sin⁡(ex−1)⋅e2x−cos⁡(ex−1)⋅ex2=−12\begin{aligned} \underset{x\rightarrow 0}{\lim}\frac{x-\sin \left( e^x-1 \right)}{x^2} &=\underset{x\rightarrow 0}{\lim}\frac{1-\cos \left( e^x-1 \right) \cdot e^x}{2x} \\ &=\underset{x\rightarrow 0}{\lim}\frac{\sin \left( e^x-1 \right) \cdot e^{2x}-\cos \left( e^x-1 \right) \cdot e^x}{2} \\ &=-\frac{1}{2} \end{aligned} x→0limx2x−sin(ex−1)=x→0lim2x1−cos(ex−1)⋅ex=x→0lim2sin(ex−1)⋅e2x−cos(ex−1)⋅ex=−21

可以看到我们第一个极限用等价无穷小算的是错误的，第二个是正确的。
第二个等价无穷小代换没有问题，为什么第二个可以而第一个不可以，这就是本文我们要探究的。

等价无穷小的本质

我们来看两个等价无穷小

1

ex−1∼xe^x-1\sim x ex−1∼x
我们来看一下exe^xex在x=0x=0x=0处的泰勒展开
ex=1+x+O(x2)e^x=1+x+O\left( x^2 \right) ex=1+x+O(x2)
移项
ex−1=x+O(x2)e^x-1=x+O\left( x^2 \right) ex−1=x+O(x2)
把它和等价无穷小比较，我们发现其实等价无穷小只是一种“粗略”的近似，它把高阶无穷小忽略了。

2

x−sin⁡x∼16x3x-\sin x\sim \frac{1}{6}x^3 x−sinx∼61x3
来看一下sinxsinxsinx在x=0x=0x=0处的泰勒展开
sin⁡x=x−x33!+O(x5)\sin x=x-\frac{x^3}{3!}+O\left( x^5 \right) sinx=x−3!x3+O(x5)
移项
x−sin⁡x=x33!+O(x5)x-\sin x=\frac{x^3}{3!}+O\left( x^5 \right) x−sinx=3!x3+O(x5)
把它和等价无穷小比较，这其实也是一个“粗略”的近似。

结论

等价无穷小本质是一种“粗略”的近似，忽略了更高阶的项，所以才会产生精度不够的问题。

回过头来看那两道例题

我们再回过来头来求那两个极限题，为什么一个精度不够，一个精度够。

1

lim⁡x→0x−(esin⁡x−1)x3\underset{x\rightarrow 0}{\lim}\frac{x-\left( e^{\sin x}-1 \right)}{x^3} x→0limx3x−(esinx−1)
由于
esin⁡x=1+sin⁡x+sin⁡2x2!+O(sin⁡3x)=1+sin⁡x+sin⁡2x2!+O(x3)e^{\sin x}=1+\sin x+\frac{\sin ^2x}{2!}+O\left( \sin ^3x \right) =1+\sin x+\frac{\sin ^2x}{2!}+O\left( x^3 \right) esinx=1+sinx+2!sin2x+O(sin3x)=1+sinx+2!sin2x+O(x3)
所以
lim⁡x→0x−(esin⁡x−1)x3=lim⁡x→0x−sin⁡x−sin⁡2x2!+O(x3)x3\underset{x\rightarrow 0}{\lim}\frac{x-\left( e^{\sin x}-1 \right)}{x^3}=\underset{x\rightarrow 0}{\lim}\frac{x-\sin x-\frac{\sin ^2x}{2!}+O\left( x^3 \right)}{x^3} x→0limx3x−(esinx−1)=x→0limx3x−sinx−2!sin2x+O(x3)
我们发现了什么？我们前面做等价无穷小的时候将sin⁡2x2!\frac{\sin ^2x}{2!}2!sin2x丢弃了，所以我们才会产生精度不够的问题
lim⁡x→0x−sin⁡x−sin⁡2x2!+O(x3)x3=lim⁡x→0x−(x+O(x3))−(x+O(x3))22+O(x3)x3=lim⁡x→0−x22+O(x3)x3=lim⁡x→0−12+O(x)x=∞\begin{aligned} \underset{x\rightarrow 0}{\lim}\frac{x-\sin x-\frac{\sin ^2x}{2!}+O\left( x^3 \right)}{x^3}&=\underset{x\rightarrow 0}{\lim}\frac{x-\left( x+O\left( x^3 \right) \right) -\frac{\left( x+O\left( x^3 \right) \right) ^2}{2}+O\left( x^3 \right)}{x^3} \\ &=\underset{x\rightarrow 0}{\lim}\frac{-\frac{x^2}{2}+O\left( x^3 \right)}{x^3} \\ &=\underset{x\rightarrow 0}{\lim}\frac{-\frac{1}{2}+O\left( x \right)}{x} \\ &=\infty \end{aligned} x→0limx3x−sinx−2!sin2x+O(x3)=x→0limx3x−(x+O(x3))−2(x+O(x3))2+O(x3)=x→0limx3−2x2+O(x3)=x→0limx−21+O(x)=∞

2

lim⁡x→0x−sin⁡(ex−1)x2\underset{x\rightarrow 0}{\lim}\frac{x-\sin \left( e^x-1 \right)}{x^2} x→0limx2x−sin(ex−1)
由于
sin⁡(ex−1)=(ex−1)+O((ex−1)3)=(ex−1)+O(x3)\sin \left( e^x-1 \right) =\left( e^x-1 \right) +O\left( \left( e^x-1 \right) ^3 \right) =\left( e^x-1 \right) +O\left( x^3 \right) sin(ex−1)=(ex−1)+O((ex−1)3)=(ex−1)+O(x3)
所以
lim⁡x→0x−sin⁡(ex−1)x2=lim⁡x→0x−(ex−1)+O(x3)x2=lim⁡x→0x−(ex−1)x2=−12\underset{x\rightarrow 0}{\lim}\frac{x-\sin \left( e^x-1 \right)}{x^2}=\underset{x\rightarrow 0}{\lim}\frac{x-\left( e^x-1 \right) +O\left( x^3 \right)}{x^2}=\underset{x\rightarrow 0}{\lim}\frac{x-\left( e^x-1 \right)}{x^2}=-\frac{1}{2} x→0limx2x−sin(ex−1)=x→0limx2x−(ex−1)+O(x3)=x→0limx2x−(ex−1)=−21
与原来等价无穷小进行比较，我们发现我们丢弃了O(x3)O(x^3)O(x3)，但是
lim⁡x→0O(x3)x2=0\underset{x\rightarrow 0}{\lim}\frac{O\left( x^3 \right)}{x^2}=0 x→0limx2O(x3)=0
所以我们可以将高阶项可以进行丢弃，并不会影响结果，这就是为什么第二个例子可以用等价无穷小，因为精度够了。

总结

在乘除的时候，进行等价无穷小代换的时候并不需要考虑太多。
但是在加减的时候，容易出现加减以后低阶项消去了，这时候就要用到高阶项，而等价无穷小只是一种“粗略”的近似，这就可能会产生精度问题。
对于加减，建议使用泰勒展开去做，这样就能清晰的看出精度是否足够。
虽然有些老师可能会总结一些结论，比如减法的时候极限比值为1的时候不能换，但是
lim⁡x→0xesin⁡x−1=lim⁡x→0xsin⁡x=1\underset{x\rightarrow 0}{\lim}\frac{x}{e^{\sin x}-1}=\underset{x\rightarrow 0}{\lim}\frac{x}{\sin x}=1 x→0limesinx−1x=x→0limsinxx=1
lim⁡x→0xsin⁡(ex−1)=lim⁡x→0xex−1=1\underset{x\rightarrow 0}{\lim}\frac{x}{\sin \left( e^x-1 \right)}=\underset{x\rightarrow 0}{\lim}\frac{x}{e^x-1}=1 x→0limsin(ex−1)x=x→0limex−1x=1
这两个比值均为1，一个能换一个确不能换。
所以大家学数学的时候不能只记结论，要知其所以然。

附录

数学辞海对于大O和小o符号的解释

等价无穷小的精度问题相关推荐

高等数学：如何理解泰勒展开公式？等价无穷小与泰勒公式的关系是什么？
泰勒公式 & 等价无穷小的关系直接说结论: 等价无穷小只是泰勒公式在某个固定阶数上(通常为1阶)的特例. 盲目的使用"等价无穷小"替换,会使你的整个式子丢失"高 ...
极限等价无穷小量替换笔记
主要解决为什么等价无穷小量替换一般只用于乘除,而不用于加减? 有些题目在加减时替换能得到正确答案,有些则不能,它什么时候是可以用于加减的? 目录一.等价无穷小量的替换的基础知识 1.定义 2.用等价 ...
高等数学笔记：关于等价无穷小替换的一个猜想
关于等价无穷小替换的一个猜想对于求极限问题,如果我们通过强行拼凑被加被减项来构造等价无穷小(也就是,多加了给它减掉,多减了给它加上).然后应用常规的等价无穷小无脑替换(甚至不考虑精度问题):如果所求 ...
关于等价无穷小在加减运算中的应用
关于等价无穷小在加减运算中的应用 1 初体验为什么可以加减中运用等价无穷小? 例如: 例 1 limx→02sinx−ex+1xlim_{x \to 0} \frac{2sinx-e^x+1}{x} ...
[Pytorch]基于混和精度的模型加速
这篇博客是在pytorch中基于apex使用混合精度加速的一个偏工程的描述,原理层面的解释并不是这篇博客的目的,不过在参考部分提供了非常有价值的资料,可以进一步研究. 一个关键原则:"仅仅在 ...
自动生成低精度深度学习算子
自动生成低精度深度学习算子深度学习模型变得越来越大,越来越复杂,由于其有限的计算和能源预算,部署在低功耗电话和IoT设备上变得充满挑战.深度学习的最新趋势是使用高度量化的模型,该模型可对输入和几位权 ...
单精度和半精度混合训练
单精度和半精度混合训练概述混合精度训练方法,通过混合使用单精度和半精度数据格式,加速深度神经网络训练的过程,同时保持了单精度训练所能达到的网络精度.混合精度训练能够加速计算过程,同时减少内存使用和 ...
MindSpore模型精度调优实践
MindSpore模型精度调优实践引论:在模型的开发过程中,精度达不到预期常常让人头疼.为了帮助用户解决模型调试调优的问题,为MindSpore量身定做了可视化调试调优组件:MindInsight. ...
CUDA 8的混合精度编程
CUDA 8的混合精度编程 Volta和Turing GPU包含 Tensor Cores,可加速某些类型的FP16矩阵数学运算.这样可以在流行的AI框架内更快,更轻松地进行混合精度计算.要使用Ten ...

等价无穷小的精度问题

前言