机器学习数学-函数极限

2020-02-09 本文已影响0人我是老彭

符号定义

$\mathbb{N}$ 自然数
$\mathbb{Z}$ 整数
$\mathbb{Q}$ 有理数
$\mathbb{R}$ 实数
$\mathbb{C}$ 复数
$\forall$ 任意
$\exists$ 存在

集合映射

概念

1.集合:一个或多个确定元素所构成的整体，通常大写字母 $A$ 表示。集合中的元素通常用小写字母 $a$ 表示。
若 $a$ 是集合中元素记为 $a\in A$ ,否则 $a\notin A$ 。
2.子集：A中的每个元素都在B中，记为 $B\subseteq A$ ,相等记为 $A=B$
3.真子集： $A\subseteq B且A\ne B,记为A\subset B$
4.空集：记为 $\emptyset$
5.基数:集合中元素个数称为集合的基数,记为 $\left| A \right|$

集合运算

$交:A\cap B=\{x:x\in A且x\in B\}$
$并:A\cup B=\{x:x\in A或x\in B\}$
$差:A \setminus B=\{x:x\in A且x\notin B\}$

区间定义

$(a,b)=\{x:a<x<b\}$
$[a,b]=\{x:a\leq x\leq b\}$
$(a,b]=\{x:a<x\leq b\}$
$[a,b)=\{x:a\leq x<b\}$

领域

$U(a,\varepsilon)=\{x:a<x<a+\varepsilon\}$
$U_0(a,\varepsilon)=\{x:a<x<a+\varepsilon 且x\neq a\}$

映射

$A,B$ 为两个非空集合,如果存在法则 $f$ ,使得A中的每个元素 $a$ ,按照法则 $f$ ,在 $B$ 中有唯一确定元素 $b$ 与之对应,则称 $f$ 为从 $A$ 到 $B$ 的映射,记为
$f:A\rightarrow B\quad b=f(a)$
$A$ 称为原象集, $B$ 称为象集合

函数

函数定义：

对于给定集合 $x\in \mathbb{R}$ ,如果存在对应法则 $f$ ,使得对于 $X$ 中的每一个数 $x$ ,在 $\mathbb{R}$ 中存在唯一的数 $y$ 与之对应,称 $f$ 为从 $X$ 到 $\mathbb{R}$ 的一个函数，记作
$f:X\rightarrow \mathbb{R} \quad x\rightarrow y=f(x)$
$X$ 称为函数f的定义域, $f(x)$ 称为函数的值域, $x$ 称为自变量, $y$ 称为因变量。

函数性质

1.有界性
$\exists M使得对\forall x \in X,都有f(x)\leq M,称f(x)在X有上界 \\ \exists M使得对\forall x \in X,都有f(x)\ge M,称f(x)在X有上界$

2.单调型
$对于任意x_1,x_2 \in X,x_1<x_2,就有f(x_1)\leq f(x_2)或f(x_1)\ge f(x_2),称f(x)在X上单调递增(递减)$

3.周期性
$存在T>0,使得对于\forall x \in X,有f(x+T)=f(x),称T是周期$

4.奇偶性
$奇函数f(-x)=-f(x) \\ 偶函数f(-x)=f(x)$

函数运算

$(f_1+f_2)(x)=f_1(x)+f_2(x)$
$(f_1f_2)(x)=f_1(x)f_2(x)$
$\frac{f_1}{f_2}(x)=\frac{f_1(x)}{f_2(x)},f_2(x)\neq 0$

反函数

函数 $y=f(x)$ 的定义域为 $D$ ，值域为 $f(D)$ ,若对任何 $y∈f(D)$ ,在 $D$ 内有唯一确定的x使 $y=f(x)$ , 则称这样形成的函数 $x$ 为 $y=f(x)$ 的反函数，记为 $x=f^{-1}(y)$ .

对于反函数 $x=f^{-1}(y)$ , 定义域是 $f(D)$ , 值域是 $D$

单调函数具有反函数
原函数与反函数关于 $y=x$ 对称

复合函数

如果 $y$ 是 $u$ 的函数，而 $u$ 又是 $x$ 的函数，即 $y=f(u)$ , $u=f(x)$ ,那么 $y$ 关于 $x$ 的函数 $y=f[g(x)]$ 叫做函数 $f$ 和 $g$ 的复合函数, $u$ 叫做中间变量.

初等函数

1.常数函数( $y=c$ )
2.幂函数( $y=x^2$ )
3.指数函数( $y=a^x$ )
4.对数函数( $y=log_ax$ )
5.三角函数( $\begin{cases} y=sinx \\ y=cosx \\ y=tanx \\ y=cotx \end{cases}$ )
6.反三角函数( $\begin{cases} y=arcsinx \\ y=arccosx \\ y=arctanx \\ y=arccotx \end{cases}$ )

极限

如果序列 ${x_n}$ 与常数 $l$ 有下列关系：对于任意给定的常数 $\varepsilon,$ 总存在正整数 $N$ ,使得对于 $n>N$ 时的一切 $x_n$ ,不等式 $|x_n-l|<\varepsilon$ 都成立,则称常数 $l$ 是序列 ${x_n}$ 的极限,序列 ${x_n}$ 收敛与 $l$ ,记为 $\lim_{n \rightarrow \infty }x_n=l$

极限性质

唯一性
序列 ${x_n}$ 不能收敛于两个不同的极限

有界性
如果序列 ${x_n}$ 收敛,那么序列 ${x_n}$ 一定有界

保序性
设序列 ${a_n},{b_n}$ 的极限为 $l_1,l_2$ ，并且 $l_1>l_2$ ,则存在自然数 $N$ ,使得对于一切 $n>N$ ，就有 $a_n>b_n$
设序列 ${a_n}$ , ${b_n}$ 的极限为 $l_1$ , $l_2$ ，并且存在 $N_0$ 使得 $a_n>b_n$ 只要 $n>N_0$ 则有 $l_1>l_2$

子序列
如果序列 ${x_n}$ 收敛于 $l$ ,那么它的任意子序列 ${x_{n_k}}$ 也收敛,且极限也是 $l$

序列极限运算

$设a_n\rightarrow a,b_n\rightarrow b(n \rightarrow \infty)$
$\lim_{n \rightarrow \infty }(a_n \pm b_n)=a \pm b$
$\lim_{n \rightarrow \infty }(a_nb_n)=ab$
$\lim_{n \rightarrow \infty }\frac{a_n}{b_n}=\frac{a}{b}(b \neq 0,b_n \neq 0)$
$\lim_{n \rightarrow \infty }a_n=a,则\lim_{n \rightarrow \infty }ca_n=ca$
$\lim_{n \rightarrow \infty }a_n=a,k任意整数则\lim_{n \rightarrow \infty }a^{k}_n=a^{k}$

夹逼定理

$设{a_n},{b_n},{c_n}为三个序列,并且存在自然数N_0,使得c_n\leq a_n \leq b_n,\forall n>=N_0若{c_n},{b_n}极限都存在并且都等于l,则{a_n}的极限也存在,且等于l$
极限准则
单调增加有上界或单调减少有下界的序列必有极限

函数极限

函数在 $x_0$ 的领域内有定义,A是一个常数: $\lim_{n \rightarrow x_0 }f(x)=A, f(x) \rightarrow A(x \rightarrow x_0)$
右极限:函数在右半领域 $(x_0,x_0+\varepsilon)$ 内有定义
$\lim_{n \rightarrow x^{+}_{0} }f(x)=A$
左极限:函数在左半领域 $(x_0-\varepsilon,x_0)$ 内有定义
$\lim_{n \rightarrow x^{-}_{0} }f(x)=A$

$\lim_{n \rightarrow x_0 }f(x)=A充要条件\lim_{n \rightarrow x^{-}_{0}}f(x)=\lim_{n \rightarrow x^{+}_{0} }f(x)=A$

<b>无穷小</b>:以零为极限
<b>无穷小性质</b>：
1.有限个无穷小的代数和仍是无穷小
2.有限个无穷小的积仍是无穷小
3.有界变量与无穷小的积仍是无穷小
4.无限个无穷小之和不一定是无穷小
5.无穷小的商不一定是无穷小

常用极限

$\lim_{n \rightarrow \infty }(1+\frac{1}{n})^n=e$
$\lim_{n \rightarrow 0 }\frac{sinx}{x}=1$
$\lim_{n \rightarrow \infty }\frac{1}{x}=0$
$\lim_{n \rightarrow \infty }e^{-x}=0$

函数连续性

函数 $y=f(x)$ 在点 $x_0$ 的某领域内有定义,如果当自变量的改变量 ${\Delta x}$ 趋于0时,相应的函数的改变量 ${\Delta y}$ 也趋于 $0$ ,则 $y=f(x)$ 在点 $x_0$ 处连续.
$\lim_{\Delta x \rightarrow 0 }\Delta y=\lim_{\Delta x \rightarrow 0}[f(x_0+\Delta x)-f(x_0)]=0$
函数 $f(x)$ 在点 $x_0$ 处连续需满足以下条件:
1.函数在该点有定义
2.函数在该点处极限存在
3.极限值等于函数值 $f(x_0)$

函数间断点

如果函数 $f(x)$ 在点 $x_0$ 处不连续,则 $f(x)$ 在点 $x_0$ 间断,点 $x_0$ 为函数 $f(x)$ 间断点.
函数在 $x_0$ 处间断需要满足下列至少一种情况
1. $f(x_0)$ 无定义
2. $\lim_{x \to x_0 }f(x)$ 不存在
3. $f(x_0)$ 存在, $\lim_{x \to x_0 }f(x)$ 存在,但是不相等

间断点类型：
第一类间断点包括可去间断点和跳跃间断点
第二类间断点包括无穷间断和振荡间断点
1.可去间断点 $\lim_{x \to x_0 }f(x)$ 存在,但是 $\lim_{x \to x_0 }f(x)$ 不等于 $f(x_0)$ ,或 $f(x_0)$ 无定义
2.跳跃间断点 $\lim_{x \to x^{-}_0 }f(x)$ 和 $\lim_{x \to x^{+}_0 }f(x)$ 都存在但是不想等
3.无穷间断点 $\lim_{x \to x^{-}_0 }f(x)=\infty$
4.振荡间断点 $\lim_{x \to x_0 }f(x)$ ,f(x)值无限次在两个不同值之间变动,则 $x_0$ 是 $f(x)$ 的振荡间断点