滞神经网络他在幻想寻找一个优秀而新颖的核函数来将低维数据映射到高维,直到导师暗示他再这样晃荡下去会毕不了业的时候,他才向导师说出了自己的思路。
胡为衣的导师是他们学院的院长,学院刚建立两年,正是需要大量高质量论文的时候,但导师很温柔,一直都没有责怪他,这让他心里软软的。
作为已经功成名就的学术界名宿,这位令人尊敬的院长为了学院的发展和自己喜爱的科研,每年还保持着自己写几篇高质量论文的习惯。
导师坐在桌子后面,大逗比胡为衣站着开始演讲。
「世界上存在着很多这样的系统:我们只知道它的输入和输出,而不知道其内部的复杂结构。
对于观察者而言,它就是一个黑匣子。
但我们人类是如此的聪明,有很多方法可以在只知道输入和输出的情况下对这个未知系统进行学习,即构造一个功能十分逼近这个黑匣子的系统。
如果我们构造得到的系统与自然界中的那个未知系统,在任意相同输入的时候,都得到相同的结果,那幺作为观察者,我们就认为这两个系统是一样的。
核自适应滤波器就是我认为能完成对复杂系统的学习的一个很有潜力的方法。
」导师无表情的微微点头。
「传统的核自适应滤波器是这样的一个结构:滤波器的内部结构是一个只有前馈没有反馈的神经网络。
我们用一个称为「字典」的向量来存储历次的输入,随着学习的进行,字典的维度即厚度会增加,权值的数量也会变多,前向反馈神经网络也会越来越复杂。
每次得到新的学习数据,都要将新的输入数据与字典向量一起经过一个核函数的处理,分别得到字典每个维度上的核函数的值,再分别乘以每个维度的权值,得到输出。
在每次学习中,都要算出当前我们所构造的系统的输出与目标系统的输出之间误差,然后运用梯度下降法来减少误差,即让权值自适应的调整。
这样经过足够次数的学习,系统会越来越复杂,但学习的结果会越来越逼近我们需要学习的系统。
事实上,这是可以用自然语言描述的:一个内部越复杂的系统,它就能展现越多精细深微的细节,以及更真实的对现实的表现力,因为现实是具有无限细节和无限复杂性的。
」导师无表情的微微点头。
几缕白发跳了跳。
「如果我们把有噪声的信号当做系统的输入,把没有噪声的原始信号当做输出,那幺我们学习得到的系统就能消除噪
本章未完,请点击下一页继续阅读! 第3页 / 共11页