三藏中文网

手机浏览器扫描二维码访问

第655章 神经网络深度学习(第2页)

“现在我们把神经元的树突变成输入值,把轴突变成一个输出值,于是这个神经元就变成了这样的一张图。把它转化为一个数学公式就更简单了,[x1+x2+x3=y],就是这个公式。”

“没错,就这么简单。最复杂的事物往往是有最简单的事物创造的,简单的0和1就塑造了庞大的计算机世界,四种核苷酸就空置了纷繁复杂的生命现象,一个简单的神经元反射就塑造了我们的大脑。”

陈宇停顿了一会儿,再度环视众人:“问题的关键不是基本结构有多简单,而是我们如何使用这个基本结构来构建庞大的世界,神经元之所以神奇是因为它有一个激活机制,即所谓的阈值。”

“神经元的每一个树突不断的接受输入信号,但并不是每一个输入信号都能让轴突输出信号,每一个树突在输入时所占的权重也不一样。”

“比如你追求一个妹子,你孜孜不倦地采取各种行动,今天送了她一束花,明天请她吃大餐,但你发现这些行动都打动不了她。直到有一天伱陪她逛了一天街,她忽然间就被打动了,答应做你女朋友,这说明什么?”

“说明并不是所有的输入权重都是一样的,在妹子那里可能逛街的权重最大,其次是效果的积累并非是一个线性渐进的过程,而是量变引起质变。”

“所有的输入在某一个点之前完全没效果,可一旦达到某个值就突然被激发了,所以,模仿神经元的这种激活特性,那么对刚才的公式做一下改造。”

“每个输入需要一定的权重,在前面加一个调节权重的系数[w],后面加一个常数方便更好地调整阈值,于是这个函数就变成了这个样子。”

方鸿也看向了会议大屏幕,是一个新的数学公式。

【w1x1+w2x2+w3x3+b=y】

陈宇看着屏幕里的公式说:“为了实现激活的过程,对输出值再作进一步的处理,增加一个激活函数,比如当x>1时,输出1;当x<1时,输出0,于是就成了这个样子。”

“不过这个函数看起来不够圆润,不是处处可导,因此不好处理,换成sigmoid函数,这样一个简单的函数就可以处理分类问题了。”

“单个的感知机,其实就是画了一条线,把两种不同的东西分开,单个感知机可以解决线性问题,但是对于线性不可分的问题却无能为力了,那意味着连最简单的异或问题都无法处理。”

异或问题对于在场的所有人包括方鸿都明白,这是计算机的基本运算之一。

这时,陈宇自我反问道:“异或问题处理不了,那岂不是判死刑的节奏?”

陈宇旋即自答:“很简单,直接用核函数升维。感知机之所以能变成现在的深度学习,就是因为它从一层变成了多层,深度学习的深度就是指感知机的层数很多,我们通常把隐藏层超过三层的神经网络就叫深度神经网络,感知机是如何通过加层搞定异或问题的?”

陈宇回头看向屏幕调取下一张幻灯图并说:“计算机有四大基本运算逻辑,与、或、非、异或,这个不用多讲了。如果我们把异或放在一个坐标系来表示就是这样的。”

“原点位置x是0,y是0,于是取0;x=1时,y=0,两者不同取1,通力,这儿也是1,而这个位置x、y都等于1,所以取0,在这张图上如果我们需要吧0和1分开,一条直线是做不到的。”

“怎么办?这就要看异或运算的本质了,数学上来说,异或运算其实一种复合运算,它其实可以通过其它的运算来得到,证明过程太复杂这里就不展开了。”

“如果我们能用感知机先完成括号里的运算,然后再把得出的结果输入到另一个感知机里边进行外面的这层运算,就可以完成疑惑运算了,然后异或问题就这么神奇的解决了,解决问题的同时顺带还解决了线性不可分的问题。”

“这说明什么?说明不管多么复杂的数据,通过加层的方式都可以拟合出合适的曲线将他们分开,而加层就是函数的嵌套,理论上来讲不管多么复杂的问题,我们都可以通过简单的线性函数组合出来,因此,理论上讲,多层的感知机能够成为通用的方法,可以跨领域地解决各类机器学习问题。”

……

热门小说推荐
大明从慎重开始

大明从慎重开始

弘治十一年,弘治中兴正由兴盛走向衰落,贤臣们年衰致仕,内阁三人渐渐老去,弘治皇帝励精图治,也无法将大明推向更高的太平盛世。此时,京城西北角的破旧院落中,一个书生正翻阅着史料,检查这个大明和穿越前那个,是否严丝合缝。...

从秦时开始打怪升级

从秦时开始打怪升级

QQ阅读一组签约作品为了青青草原的特色羊肉火锅,洛远踏上了征服诸天万界的道路秦时明月,他救下胡夫人和胡美人,收嬴政为徒打造史上最强秦始皇斗罗大陆,他帮小舞化形,击杀千道流统治武魂殿斗破苍穹,他帮助美杜莎姐妹带领蛇人族走出塔戈尔沙漠,帮古薰儿复仇秒杀古元制霸斗气大陆画江湖之不良人,他忽悠李星...

做首富从捡宝箱开始

做首富从捡宝箱开始

绑定系统,只有林风可以看到出现在现实世界的各种宝箱。开启宝箱,获得各种技能道具卡牌药剂金钱等等,宝箱里的奖励实在是太丰富了!可是,想要收取这些宝箱,必须将自己的手掌贴在宝箱上,然后静等十秒钟的时间,期间还不能被打断...

我修了个假仙

我修了个假仙

我是渡劫仙尊的一百零八代弟子易风,我现在正在大闹地府。给我点个收藏我把你名字从生死簿上划掉,顺便带你修仙。...

田间宠妻日常:带着空间混七零

田间宠妻日常:带着空间混七零

现代女孩赵芳儿一朝穿越到七十年代,什么?吃不饱,睡不好,买个东西要钱还要票,连出门都要介绍信?!幸好空间在手,钱票?古董?全跑不了,再迎娶一个高富帅,嗯谁说穿越不好?明明这日子美的不得了...

死神少女:灵异怪谈社

死神少女:灵异怪谈社

一场雷击事故险些要了我的命,但也让我拥有了意想不到的能力在经历了被恶鬼缠身的危机之后,我与死神达成合作,成为死神的代理者,并正式加入灵异怪谈社,开始了一条降妖伏魔渡鬼的不归路。灵异怪谈社只要钱到位,没有我们解决不了的麻烦。读者群822847246...