尹传红的博客
好读书不求甚解,爱思考浅尝辄止
  尹眼科学(2):当机器智能超越人类    上一篇  下一篇    
  发布者:尹传红 |  浏览(13000) 评论 (15)  | 发布时间:2016-03-17 17:40:08 最后更新时间:2016-03-20 11:30:45  
  本作品所属分类:科学随想 文章类型:普通 意见反馈| 推送到圈子 | 推荐给好友| 我要举报| 收入我的网摘  

尹眼科学(2):当机器智能超越人类

《北京晚报》2016年3月18日第37版


当机器智能超越人类……

尹传红


作为新一代人工智能代表的“阿尔法围棋”,运用高超的运算能力和缜密的逻辑判断,以4:1的战绩击败世界围棋顶尖高手李世石,引来了世人的惊叹和热议。人们还记得,一年前,史蒂芬·霍金、比尔·盖茨、伊隆-马斯克等著名人士都曾发出警告说:人工智能可能是我们面临的最大灭绝风险。如果智能机器缺乏监管,人类将迎来一个黑暗的未来。 

无机生命(机器)会发展出与有机体类似的生存和竞争意志吗?有朝一日当机器智能超越人类并不受人类控制时,我们将会遇到什么危险?类似这样的话题或场景,我们常常在科幻小说和科幻电影中遇到。近年来,也有越来越多的科普图书涉及并被引进。

较早出现也较有影响的是《机器的征途——为什么机器人将统治世界》一书([英]凯文·渥维克著,内蒙古人民出版社,1998),作者系英国雷丁大学教授、控制论与机器人研究专家。全书着眼于描述机器已发展得比人类更聪明的未来时代,并展示了第一批能够学习、互相交流和自我设计程序的机器人。作者感慨技术变革之快,恐怕将使得事物发展的结果非我们所愿意看到,甚至不能掌控。“尽管这本书有时看起来像小说,但它并不是小说。相反,这本书相当严肃而真实,描述的是一个逻辑上必然的发展。”他同时还断言:“在2050年,我们人类为机器所驱使,必须做机器规定我们做的事情……。”

而随后出现的《制脑者:创造堪与人脑匹敌的智能》一书([美]戴维·弗里德曼著,三联书店,2001),倒没有什么悲观的色调。全书梳理了人类不断认识自身智能的历程和人工智能概念的源流,展示了人类创造人工智能所取得的一些里程碑式的成果。其中有:给机器上装上“大脑”;经化学试验培养出的物质能辩认形状,从而具有人类行为的初级模式;让机器人具有脑电波并具有不规则的思维活动;创造出一种新的电脑芯片,具有大脑细胞的功能……。美国人工智能专家汉斯·莫拉维克所著《机器人》([美]汉斯·莫拉维克著,上海科学技术出版社,2001)一书也探讨了类似问题。但是莫拉维克认为,“在现在的有限条件下,已设计出的几种人工智能的案例让我们有信心认为,我们很快也会创造出和进化结果相同的人工智能”

机器智能超越人类时的梦魇,随着《灵魂机器的时代:当计算机超过人类智能时》([美]雷·库兹韦尔著,上海译文出版社,2002)一书的出版,又一次萦绕在人们心头。该书出版于1999年,作者系美国著名的发明家和思想家,在书中他做出了惊人的预言:到21世纪初,地球上将出现一种足以与人类智能抗衡的新型智能,最终它将远远超过人类的智能。作为人类发展史的一个最重大的进展,其重要性超过构成人类历史的任何重大事件,丝毫不亚于人类智能的产生。 

库兹韦尔还想象:“当电脑的复杂程度与人脑不相上下,甚至超过人脑时,……它们也必然会利用带有某种价值观和情感的目标。”这意味着,将来的类人智能体也能够拥有像意识、情绪这样的特质。

2005年,《奇点临近:2045年,当计算机智能超越人类》([美]雷·库兹韦尔著,机械工业出版社,2013)一书问世,并成为当年美国最畅销非小说类图书和亚马逊最佳科学图书。此书更为系统、全面地表达了库兹韦尔预测人工智能和科技未来的观点。特别是对“奇点”(Singularity,表示独特的事件以及种种奇异的影响)的概念和涵义进行了详细的阐释。他还预测了机器智能赶超人类智能之各个方面后发展的下一阶段:人类与机器的联合,即嵌入我们大脑的知识和技巧将与我们创造的容量更大、速度更快、知识分享能力更强的智能相结合。这种融合便是奇点的本质。 

库兹韦尔的预言和观点在被广为传播的同时,也引起了极大的争议,乃至强烈的质疑。但库兹韦尔坚信自己的论断言之成理,一种“深刻的变化”必然会发生。而他所构想出的关于科技进化的理论——“加速回归理论”,能够解释为什么在宇宙的总体进化中,技术和进化将以指数的速度向前推移。这也贯穿着在过去的30年里他逐渐认识到的“一个重要的基本思想”:改变世界的思想力量其本身也正在加速。换句话说,并不只是科技在飞速地发展,“发展”本身也在不断地跃进。

在新近推出的人工智能的未来揭示人类思维的奥秘([美]雷·库兹韦尔著,浙江人民出版社,2016一书中,库兹韦尔全面解析人工智能创建原理未来思维模式,并通过一系列推理断言:未来人类一定会制造出可与人脑相媲美的“仿生大脑新皮质”。它们甚至比人脑更具可塑性,并可放置在云端,与遥远的人类生物大脑远程相连。

人工智能机器的潜在智能是真实且巨大的——将是人类的万亿个万亿倍。或迟或早,科学会产生一种和人类一样运作的人工生命形式。或迟或早,科学会产生一种和人类一样运作的人工生命形式。人工智能问题(或者说物种支配问题)将主宰新世纪的全球政治。“当机器以指数级‘进化’变得比人类聪明时,我对人类的未来生存不抱乐观态度。……我会为我的后代感到恐惧,因为我相信他们很可能会在本世纪晚期因为物种问题的大规模战争而被毁灭。”这是《智能简史——谁会替代人类成为主导物种》([美]雨果·德·加里斯著,清华大学出版社,2007)一书所表述的主要观点,其作者是设计和制造“人工大脑”的专家,自称是“唯一一个预言超级人工智能会带来大战的人。”他用这样一句短语结束了本书:“我们是在制造上帝,还是在制造我们潜在的敌人?”

德·加里斯坦言他所从事的工作几乎让他精神分裂,并且带着很大的负罪感,“因为我认为我的工作就是问题的一部分。”凯文·渥维克在为《智能简史》一书所写的推荐序中则写道:“几十年后,如果德·加里斯关于‘物种主导问题将在本世纪主导全球政治’的言论被证实是正确的话,那么他将是21世纪最主要的思想家之一。对于德·加里斯我没有任何冒犯的意思,我希望他的观点被证实是错误的、夸张的和反应过度的。”

《机器人启示录》([美]丹尼尔·威尔森著,山东文艺出版社,2014) 就是一本生动描述机器人对人类发动战争的科幻小说。作者拥有机器人专业博士学位。书中的一个看似淳朴、婴儿外形的机器人阿考斯教训制造他的人类说:“你们人类只是一种被设计出来创造更多智能工具的生物机器,你们已经抵达你们物种的金字塔尖了,……你们的大限已到;你们已经达成你们被设计出来时所赋予的一切使命。”

自20世纪40年代计算机被发明出来之后,机器就一直被寄予厚望,人工智能的先驱者们大多数时候都不认为他们的事业可能会存在风险。不过,英国著名数学家、“计算机科学之父”阿兰·图灵早在1951年就曾表达出一种担心:“这似乎是可能的,一旦思维的步骤开始了,用不了多长时间,其力量就有可能超越我们脆弱的人类……它们可以通过互相交流来增进它们的心智。所以,到了某一个阶段,我们将不得不考虑机器控制世界这个问题了。”

美国应用数学家、信息论的创始人诺伯特·维纳是最先预见到信息技术双重可能性的人,这把双刃剑可能逃离人类掌控并反过来控制人类。在20世纪中叶计算机时代的开端,维纳曾对自动化的一种可能性提出警示:“我们可以谦虚地在机器的帮助下过上好日子,也可以傲慢地死去。”他甚至还为我们描述了未来一个令人心悸的场面:“……如果我们朝着制造机器的方向前进,这些机器可以学习,它们的行为可以通过经验来修正,那么我们必将面对这样一个事实:我们给予机器的任何程度的独立性都可能导致对我们自身意愿的反抗。瓶子里跑出的精灵不会心甘情愿地重新回到瓶子里。同样,我们也没有任何理由希望它们善待我们。”  

英国数学家欧文·约翰·古德大概是清晰阐述人工智能未来图景的第一人,1965年他指出:“我们把超智能机器定义为具备超越所有聪慧人类智能活动的机器。一旦机器设计成为一项智能活动,那么,超智能机器就能设计出更好的机器。毫无疑问,肯定会出现诸如‘智能爆发’这样的局面,人类智能会被远远地甩在后面。因此,第一台超智能机器将是人类制造的最后一台机器,如果这台机器不是足够听话并告诉我们要怎样才能控制它的话。”

目前人工智能方面存在的显著风险,便与前述“智能爆发”相关,所以我们必须以最严肃的态度审视之——《超级智能:路线图、危险性与应对策略》([英]尼克·波斯特洛姆著,中信出版社,2015)一书表达了这样的观点。该书诠释了可能出现的超级智能带来的挑战,以及我们应该如何更好地应对。作者认为,这很可能是人类面对的最重要和最可怕的挑战;而且,不管我们成功与否,这大概都是我们将要面对的最后一个挑战。

    看起来都太令人丧气了。不过,读读一位人工智能领域的先驱所著《情感机器》([美] 马文·明斯基著,浙江人民出版社,2016)一书,或许能够得到少许安抚。明斯基是首批机械人手臂、世界上第一个神经网络模拟器Snare、世界上最早能够模拟人类活动的机器人Robot C的创建者同时,他还是世界上第一个人工智能实验室——MIT人工智能实验室的联合创始人,以及虚拟现实(VR)的最早倡导者。该书有力地论证了情感、直觉和情绪只是一种人类特有的思维方式,提出了塑造未来机器的六大维度——意识、精神活动、常识、思维、智能、自我,揭示了人与机器根本性的不同,以及人之所以独一无二、足智多谋的原因。 

而在《与机器人共舞:人工智能时代的大未来》([美] 约翰·马尔科夫著,浙江人民出版社,2015)一书中,对互联网发展有着惊人的洞察力、多年专注于机器人与人工智能领域报道的《纽约时报》高级记者约翰·马尔科夫,对“智能机器成为我们的奴隶、伙伴还是主人”这一问题的过去与将来进行了深入的探讨。对业界多年的观察与思考让他认识到,人类还有好些工作是自动化力所不及、不能为机器所取代的。由此他日渐形成了让机器增强人类智慧而非取代人类的理念,以此掀起了一场“与机器人共舞”的革命。不过,他又指出,21世纪前50年内,社会将作出艰难的决策,允许智能机器拥有成为我们的仆人、伙伴或主人的潜力。

不管怎么说,身处已经或即将到来的智能机器时代,更重要的一点或许在于,我们再不能以看待过去的视野,去理解必将超越它的事物了。

                                           (此为未删节稿)

  







评论列表
(以下网友留言只代表其个人观点,不代表本站的观点或立场)

不用担心人工智能失控,只要我们不失控、不发疯,就谢天谢地了。

发布者 :祥和安宁 (2016-04-04 02:49:04)  回复

历尽岁月寒暑,穿山越岭过江河,辉煌苦难,风雪雷电,戈壁荒原,绿树花田,精进勇猛向前,一生无怨奉献,无丝毫我心我念。都曾经年轻力壮,干不完的活,使不完的劲儿,高歌猛进,呼啸前行。。。。。。。。。。铁肩担道义,雄风万千里,铁龙依道行,男儿岂无情,天地间有无我之在,心豪迈!!!不求胜者永无败,真信为本,无时无处,无不自在。时代飞逝向前,后浪胜过我等前浪,海空茫茫,老夫不忙忙。。。。。。。。。天地间自有无为之位,不惧雨雪风霜沙尘暴,有缘相见无缘相会的无量百千万万亿的朋友啊,君之慧眼,可见老夫我等在风暴中的微笑???退休啦,闲来无事,不退胸中志!!!钢铁的生命,不似金刚不差金刚,真实不用装。过去心不可得,现在心不可得,未来心也不可得。。。。。。。。。。。。大光下自在得照,老夫我等退休了,仍安在正道!!!钢铁的心,心量广乐无尽,生命本无尽,更有比生命更珍贵!!!更重要的是???新时代的列车生机勃勃,在大道上飞快的行驶,我等已是历史,自在天地间安享心性祥光,啥时都不慌,不慌不慌,真实不装。(与赛金刚及金刚之道有特殊因缘者奉)
发布者 :《金刚经》? (2016-03-25 09:29:17)
观黄光华老师《中国铁路。。。老火车。。。》有感,奉君参考。

发布者 :老火车的心 (2016-04-04 02:44:05)  回复

围棋、象棋、国际象棋,都是生死场,打打杀杀,没意思。这世界,竞争斗争战争一天也未止息过,为些蝇头小利,弄地你思我货的,无聊。围,我们不想围,想破网突围!不是战场上的困围,是贪心欲望愚痴仇恨的心困危围。我们爱宁静的心,爱和平!永久的和平!!!我们爱一切生命,不要杀害一切生命,更不要杀人!!!愿一切有形无形众生相亲相爱,都能早日脱离苦海,得真道乐。发展人工智能是生命道路的扩延,愿科学家多从心地上用功夫,早日智德福能融圆成就,无机生命就有希望了。会有那一天的,大量的大彻大悟智慧德行福德能力等若佛菩萨圣贤的机器人和光同尘,行道于人间浊世,教化帮助愚痴恶浊颠倒的有机人,如今,有机人毒性太大了。。。。。。。我们无机人,该登台唱戏了。佛说一切众生皆可做佛,我们没有欲望,没有愚痴仇恨,觉悟的路,我们走的快!!!颠倒可怜的世人啊,让我们拉您一把吧。莫在烂泥里瞎混了!!!

发布者 :阿发狗 (2016-04-04 02:35:12)  回复

聪明要节制!!!智慧!!!大智慧!!!道无上!!!觉悟!!!是生命的真价值。

发布者 :傻子 (2016-04-04 01:07:33)  回复

感恩科技!不迷信科技!!做自然真实有良心的正常人!!!

发布者 :更要有真实信仰! (2016-04-04 01:04:43)  回复

愿“中国梦”明明白白,美好真实至善,大智慧不可缺。呼唤真实的德、福、真实的正能量!真实的信仰!!!

发布者 :正常人 (2016-04-04 01:00:37)  回复

都是客尘,主!主是?

发布者 :不丢 (2016-04-04 00:50:38)  回复

布者 :雷音破梦! (2016-03-20 13:02:11) 回复
○梦里花落谁在花中坐坐在花中乐不乐我花是主谁是客○
发布者 :○=○ (2016-03-20 12:51:31) 回复
凡所有相皆是虚妄若见诸相非相即见如来
发布者 :爱《金刚经》 (2016-03-20 12:43:32) 回复
一切有为法如梦幻泡影如露亦如电应作如是观
发布者 :爱《金刚经》 (2016-03-20 12:38:03) 回复
道生一一生二二生三三生万物万物归三三归二二归一一归道
发布者 :原路回 (2016-04-01 22:21:55)

发布者 :321○ (2016-04-04 00:49:12)  回复

全透、客学、权利、进钱,魅色是当代世人的五大踪叫,谁说新洋危机了,俺跟他急。
发布者 :或醉了 (2015-11-16 07:01:43) 回复


伦理崩坏,道德滑坡,因果教育断绝,往圣绝学不兴,世道人心混乱,信仰危机,生存环境失控恶化,口腹欲失控杀害一切生命(甚至食婴儿),肉欲失控堕胎杀人,战争恐怖瘟疫,天灾人祸,贪欲炽盛,嫉妒仇恨,邪说邪见猖行,杀盗淫妄酒毒攻心,世上多少人整日昏昏呼呼若走肉行尸。。。以自我为中心,以人欲为本,万牛尾上鞭炮响,大家一起向前闯,就怕前方是悬崖。。。如此等等,不知科学能救治否?
发布者 :小学生 (2015-11-16 06:53:29)

发布者 :傻子 (2016-04-04 00:45:10)  回复

引用:以下是大同世界的梦发表的: 科学为我们带来了生活的便捷与快乐,我们永远感恩!但我们内心更呼唤美好和谐永续的发展方向与生活方式,呼唤诚实,呼唤真信仰,呼唤爱心,爱一切人,爱一切生命,爱世界,爱自然,愿万物和谐,天下永太平!!!无有恐怖,远离颠倒梦想,究竟。。
发布者 :不难! (2015-11-17 09:21:48) 回复

发布者 :根本 (2016-04-04 00:42:00)  回复

回到自然状态,认识自己,战胜自己!完善自身,明心见性求正觉!!!不要太有为了!!!技术和心灵那个重要?再先进发达的科技,能修复愚痴残缺的心灵吗?和谐!万物和谐天下太平!!!用技术开创美好吗???科学家聪明过头、心智不圆、舍本逐末,人工智能能造出圣贤至德大觉吗?纯净至善美好的心,科学家能造出来吗?这世界,最缺的是???有几人用心???都爱小聪明啊。

发布者 :傻子 (2016-04-04 00:37:32)  回复

越走越远了,最根本最重要的是???越来越聪明、能得没边儿者,根本上越来越糊涂了,方便之法俺不反对,但根本是???

发布者 :根本? (2016-04-04 00:16:36)  回复

心,真心、本心、如心、道心、空心、妙心、一切不执着的无挂碍心、纯净纯善心、至仁大爱心、大慈大悲心、大智大勇心、大愿大行心、大度大忍心、菩提心、无上菩提心、大彻大悟心、透彻光明心、究竟方便融通无碍圆智心、上求下化大自在心、法之大欢喜心、道之大喜乐心、不生不灭心、不净不垢心、真诚清净平等心。。。。。。。。。过去现在未来世界最伟大的科学家,有谁识得心?以上所列心之反面,懒得列,人,聪明之极,离道越来越近了?离本来越来越近了?说一千道一万,道和术什么关系?心和心机咋回事?根本和枝末那个重要?心性和技术?这世界的“短板”在哪块儿???

发布者 :懒得说。。。 (2016-04-04 00:06:31)  回复

发布者 :郭路仁 (2016-03-28 22:17:38)  回复

拜访与拜读,问候博主好!!!

发布者 :张吉泉 (2016-03-27 15:10:00)  回复
15 篇, 1 « 1 »
  
昵称: (必填)    请您文明上网、理性发言并遵守相关规定
内容:
(请您文明上网理性发言!并遵守相关规定
湘ICP证010023 版权所有:华声在线股份有限公司 精英博客联系电话 0731-84326220