我们一起玩ai 4——极限与导数
5秒导读:本文将以最容易理解的方式介绍极限与导数等理解线性回归必不可少的数学知识。
在《我们一起玩ai 3》中,我们讲述了如何利用线性回归预测A君的工资,最后我们抛出结论——只需要求出使得线性函数取得最小值的一些列θ值,我们即可得到科学的预测结果。
如何求得最小值,涉及到一些列微积分的知识,不过还是让我们从鲁迅先生说起(没错我鲁迅又回来了),鲁迅先生告诉我们:时间就像海绵里的水,只要愿挤,总还是有的!没错这真是鲁迅说的!就如同
但是,柯西告诉我们:假如海绵只吸了一杯水,不论你怎么挤,你都只能挤出一杯水!这个叫做极限!
说回数学,以函数y=1/x为例,当x不断增大,y便会无限接近于0!ok,0就是当x趋于无穷大时y的极限!记作:
值得注意的是1/x永远取不到0,但是函数极限是可以取到具体值的,比如说x趋向于2时,y=2x极限为4。ok,关于极限就说那么多,虽然这个定义并不严谨(严谨的极限通过邻域与不定式定义),还有一堆东西没说,比如极限的运算,单侧极限,连续,中间值定理........不过就目前而言,这些知识足够了!
有了极限,我们来说说导数,你在登山珠峰时,有经验的向导会告诉你:往这边走!这边的坡最缓!同样函数的导数会告诉你,函数变化的快慢。函数在x处导数值越大,则函数在x附近变化的越快!
(导数为正举步维艰,导数越大越难爬)
(导数为负,轻松自如,负的越多,羊滚的越快)
(导数为0,荣登巅峰或跌落谷底!)
事实上函数在x处导数值,就是函数图像在x处切线的斜率,所谓切线就是指只有一点相连!
导数怎么求,通过极限就可以了
先过x与x+Δx处对着函数做割线,然后让Δx趋向于0,当x=x+Δx时,割线与x就只有一个点相连,割线摇身一变升级为切线。
还记得斜率是什么吗(如果忘了请翻阅 玩ai2向量部部分 )?
割线的斜率等于
切线的斜率么,加个极限就可以了
不过,求斜率我们没必要那么麻烦,有专门的套路!事实上对函数求导,99.9%的情况,指的是求函数的导函数,导函数顾名思义指你把x带入,他还你原函数在x处斜率的函数。
导函数一般记作:
(F(x)=2x,y=2x,f(x)=2x看着用吧,哪个逼格高用哪个)
说到这类也许你注意到了,导数表示斜率也即函数变化的快慢,而线性回归最终目标是找到代价函数的最小值,没错,变化,最小值,这其间一定有着某种不可告人的关系,我们可不可以认为当函数值在某一点变化非常小时,那么该点就是一个很好的点!甚至直接找导数为0不再变化的点作为解!(事实上线性回归多半没法用导数为0来求解,其中涉及线性代数的知识,主要因为不是每一个矩阵都可逆,并且逆矩阵很难求!)以下图二次函数为例,红点处,x变化,y的变化很小,而蓝点处其实就是最小值
不过别忘了,代价函数的自变量有很多个,这就要从偏导数与梯度讲起!
最后附上导数表一张
以及冷笑话一个:
常函数和指数函数ex走在街上,远远看到微分算子,常函数吓得慌忙躲藏,说:“被它微分一下,我就什么都没有啦!”指数函数不慌不忙道:“它可不能把我怎么样,我是ex!”指数函数与微分算子相遇.指数函数自我介绍道:我是ex.”微分算子道:我是d/dy!”
(看不懂没关系,下篇将偏导数就会知道,对y做偏导时只要x当作常数就行)
关注我们,获取更多有关 AI与大数据的信息。ASRay明日丽科技——科技助力企业发展,携手共创更美明天!