神经网络与深度学习 - (EPUB全文下载)
文件大小:1.74 mb。
文件格式:epub 格式。
书籍内容:
神经网络与深度学习
0 写在前面:神经网络的历史
1 神经网络是个什么东西
2 构造神经网络
3 深度学习是个什么东西
4 深度学习的常用方法
5 深度学习的胜利:AlphaGo
6 两个重要的概念
7 杂项
参考文献
术语
0 写在前面:神经网络的历史
人工智能、神经网络、深度学习这些概念的提出和研究,基本都是在欧美科学家的主导之下开展的。毕竟,当时的中国还处于从水深火热转为解决温饱的状态,只有欧美等国具备这个研究条件。计算机类的科学研究,在早期不能不提“图灵测试”。20世纪中叶,人工智能之父图灵,也有人说人工智能之父这一称号属于约翰·麦卡锡(发明至今广泛应用于人工智能领域的 Lisp 语言、最早建立人工智能实验室等),反正都是伟人。图灵提出对计算机是否有智能进行测试,当时还提出以象棋比赛进行人工智能的测试。图灵表示,正如人类一样,在测试计算机“IQ”之前,需要对它们进行一定的训练。这一理论奠定了“图灵测试”的基础。
阿兰·麦席森·图灵
约翰·麦卡锡
图灵测试究竟是什么东西呢?下面简单介绍一下。
图灵测试(Turing test,又译图灵试验)是图灵提出的一个关于机器能否思考的著名判断原则。1950年,图灵在曼彻斯特大学任教,同时也是曼彻斯特大学计算机实验室的副主任,负责最早的真正的计算机——曼彻斯特一号的软件工作。他发表了一篇题为《机器能思考吗?》(Can Machines Think?)的论文,在这篇论文里,图灵第一次提出“机器思维”的概念。他逐条反驳了机器不能思维的论调,做出了肯定的回答。同时,他尝试定出一个决定机器是否有感觉的标准:在彼此不接触的情况下,对话者通过一种特殊的方式(如具有电报通信功能的打字机等),与一台计算机交流,也就是进行一系列的问答。如果在一段时间内,对话者无法根据这些问答判断对方是人还是计算机,那么,就可以认为这台计算机具备人类的智能,即这台计算机是能思维的。这就是著名的“图灵测试”。图灵预言2000年就可以出现骗过30%裁判的机器人。也正是这篇文章,为图灵赢得了一顶桂冠——“人工智能之父”。可以说图灵确实牛,我从心底里佩服他,在1947年图灵就已经阐述了如何对机器学习的结果进行检查的方法,而且这一方法是很有远见和可操作性的!
自图灵提出“机器与智能”后,主流观点分成了两派,一派认为实现人工智能必须用逻辑和符号系统,这一派是自顶向下的。什么意思呢?我们在大学都学习过统计学,这个逻辑和符号就有点狭义统计学的意思,可以说是预设和反馈。还有一派认为通过仿造大脑可以达到人工智能,这一派是自底向上的,他们认定如果能造一台机器,模拟大脑中的神经网络,这台机器就有智能。这两派的最大区别是,前一派想搞清楚如何思考,将思考的过程演化成逻辑,姑且叫他们“思路模拟”派,也叫控制派;后一派可以称为仿生派,想从模拟生物学大脑入手,让大脑自由形成意识。估计他们的思想来源于中国古代的原始思维,套用两个哲学词,前者属于理论型,后者更接近实践派。这两派一直是人工智能领域里的两个阶级,在两条路线中斗争,这斗争有时还你死我活。
西方科学界是很高产的,环境好,能源源不断地产出各种新思想和解决方案。实际上,在仿生派与图灵提出“图灵测试”之前,1943 年,传奇人物麦卡洛可(McCulloch)和皮茨(Pitts)就发表了模拟神经网络的原创文章。下面简单聊聊传奇人物为什么传奇。
麦卡洛可
皮茨
皮茨从小就喜欢数学和哲学,初中时就读过罗素的书——《数学原理》。有兴趣的读者可以看看罗素的《数学原理》,反正我是看不懂,皮茨同学当时才初中!皮茨读完这本书后估计是仰慕罗素,还给罗素写信。罗素爱才,邀请他到英国跟随自己学习逻辑,但皮茨家里非常穷困,他连高中都没有钱读,英国留学自然是不可能了。皮茨15岁时,他爸爸强行要他退学上班,就像所有爱读书的穷孩子一样,皮茨一怒就离家出走了。我记得我们初中那会有些同学是不愿意上学而离家出走,而皮茨和那些从小就调皮逃课的同学有着本质的区别。
后来,皮茨听说罗素要到芝加哥大学任教,就只身来到芝加哥,还真见到了罗素,罗素把他推荐给当时也在芝加哥任教的卡尔纳普。卡尔纳普想看看这孩子到底有多聪明,就把自己写的《语言的逻辑句法》(感兴趣的读者可以自己去搜)送给皮茨,没过一个月,皮茨就看完了,把写满笔记的原书还给卡尔纳普。卡尔纳普惊为天人,于是给皮茨在芝加哥大学安排了一份打扫卫生的工作。可能有读者会问,为啥都惊为天人了,只给打扫卫生的活?我想老卡主要是两层用意,第一,扫马路至少可以避免流浪街头,有份固定工作,解决吃饭问题,皮茨是穷孩子啊!第二层用意估计是要再观察下皮茨同学,毕竟他不是科班出身。皮茨后来结识了也在芝加哥的麦卡洛可。沃伦·麦卡洛可在耶鲁大学学哲学和心理学,后来在哥伦比亚大学取得了心理学硕士和医学博士学位。麦卡洛可毕业后做了几年实习医生,先去了耶鲁研究神经生理学,后来去了伊利诺伊大学芝加哥分校,做精神病学系的教授。麦卡洛可的强项是神经科学,他不懂数学,因此他和17岁的皮茨是绝配。他们合作的成果就是神经网络的第一篇文章:《神经活动中思想内在性的逻辑演算》(A Logical Calculus of Ideas Immanent in Nervous Activity),发表在《数学生物物理期刊》上。后来这篇文章成了控制论的思想源泉之一。
这个控制论是从哪儿冒出来的呢?且听我慢慢道来。
要说控制论,就必须说说控制论的始作俑者诺伯特·维纳。他早年自称神童,他爸是哈佛教授,曾经带着他到英国见过罗素,但罗素特别不喜欢这爷儿俩。自从进入20世纪后,各种门派最牛的学问,最后都能扯到罗素那儿。维纳后来也在哈佛任教,但不被主流数学家喜欢,没拿到终身教职。最后只好到麻省理工学院落脚(没错,落脚,大家趋之若鹜的名校在人家眼里和旅馆差不多)。二战时,他做枪炮控制方面的工作,引发了他对通信理论和反馈的兴趣,他写了《控制论》一书,促成了控制论的诞生。战后发生了一件怪事,他邀请了人工智能、计算机科学和神经心理学的年轻学者到麻省理工 ............
以上为书籍内容预览,如需阅读全文内容请下载EPUB源文件,祝您阅读愉快。
书云 Open E-Library » 神经网络与深度学习 - (EPUB全文下载)