Kernel Trick

什么是Kernel？

Kernel 就是一个可以升维的函数，也叫 Kernel Function，为什么要升维呢？因为低维的原始空间对分类任务很困难，所以要人为投射到高维甚至无穷维，Kernel Function就是干这个的。

什么是Kernel Trick？

有了Kernel Function我们依然不满足，为什么呢？举个例子来说，原始二维空间两个点P1_ori(x1,y1)和P2_ori(x2,y2)，经过Kernel Function投射后变为了三维空间两个点P1(x1,y1,z1)和P2(x2,y2,z1)，接下来在进行相似度计算（就是计算内积<P1,P2>），进一步进行分类任务。

现在我们想 ** 一步登天！**，直接在原始空间中计算出<P1,P2>！也就是找到某个相似度函数S，通过S(P1_ori, P2_ori) 直接计算出 <P1,P2>！，找到的S就是所谓的 ** Kernel Trick **