AI研究院 | 凯文凯利解读AI崇拜:超级人工智能是个神话

x
用微信扫描二维码
分享至好友和朋友圈

  本文系《AI研究院》栏目出品,专注人工智能行业热点与深度分析。栏目由网易智能工作室(公众号:smartman163)发起、网易杭州研究院等机构共同参与打造,每周一到周三更新。

  

  五、几乎没有证据表明,超级人工智能能迅速解决我们的重大未解的问题

  许多支持智能爆炸式增长的人认为,这将会带来一场发展大爆炸。我把这种神秘的信仰称为“思考主义”。这是一种谬论,认为未来的发展水平只会因为缺乏思考能力或智能而受阻。(我也可能会注意到,就像许多喜欢思考的人所认为的,思维是具有神奇力量的灵丹妙药。)

  让我们来治疗癌症或延长寿命,这些都是独自思考无法解决的问题。再多的思考也不会发现细胞是如何衰老的,或者端粒是如何脱落的。没有任何智能,即使是超级大骗子,只要阅读当今世界所有已知的科学文献,然后思考,就能知道人体是如何运作的。也没有一个超级人工智能能够简单地思考所有的当前和过去的核裂变实验,然后在一天内想出怎么进行核聚变。

  在不知道事物如何运作和知道它们如何工作之间,我们需要的不仅仅是思考。在现实世界中,有大量的实验,每一项都有大量的相互矛盾的数据,需要进一步的实验才能形成正确的有效假设。考虑到潜在的数据不会产生正确的数据。

  思考(智能)只是科学的一部分,也许还是一小部分。举例来说,我们没有足够的适当数据来解决死亡问题。在与生物有机体合作的情况下,大多数实验都是按日历进行的。细胞的缓慢新陈代谢不能加速。他们需要数年、数月,或者至少数天,才能得到结果。

  如果我们想知道亚原子粒子发生了什么,我们不能只是思考。我们必须建造非常庞大的、非常复杂的、非常棘手的物理结构来找出答案。

  即使最聪明的物理学家可以比现在的他们要聪明1000倍,没有对撞机,他们也不会发现什么新东西。

  许多支持智能爆炸式增长的人认为,这将会带来一场发展大爆炸。

  我把这种神秘的信仰称为“思考主义”,毫无疑问,超级人工智能会加速科学的进程。我们可以对原子或细胞进行计算机模拟,我们可以通过许多因素使它们加速,但有两个问题限制了模拟在获得即时进展方面的效用。

  首先,模拟和模型只能比它们的研究对象更快,因为它们去掉了一些东西。这就是模型或模拟的本质。同样值得注意的是:这些模型的测试、审查和验证也必须按照日历进行,以匹配它们的研究对象的速度。毕竟,实践检验真理是不能加速的。

  在模拟过程中,这些简化的版本在筛选最有希望的路径时很有用,这样它们就可以加速进程。但现实中并没有多余的用处,在某种程度上,一切真实都会有所不同,这也是对现实的一种定义。随着模型和模拟被越来越多的细节所充实,它们达到了一个极限,这个极限即是现实比其100%完全模拟的速度还要更快。这是对现实的另一种定义:当下所有细节和自由度的最快版本。

  如果你能够模拟一个细胞中的所有分子和人体所有的细胞,这个模拟将不会像人体一样快。不管你怎么想,你仍然需要花时间去做实验,无论是在真实的系统中还是在模拟系统中。为了发挥作用,人工智能必须在世界上体现出来,而这个世界往往会设定它们的创新步伐。没有进行实验,没有建立模型,没有失败,没有参与现实,一个智能可以有想法,但肯定没有结果。这样,一分钟、一小时、一天或一年都不会有所谓的“比人类更聪明”的人工智能出现。

  当然,人工智能技术的进步会大大加快这一发现的速度,部分原因是阿利什式人工智能会问一些人类不会问的问题,但即使是一个(与我们相比)强大得多的的智能也不意味着即时的进步。

  问题的解决需要的不仅仅是智能。不仅是智能本身无法解决的癌症和长寿问题,智能本身也是如此。

  奇点派的一个常见的比喻是,一旦让人工智能“比人类聪明”,那么突然它就会思考并发明出一种“比自己更聪明”的人工智能,它会更努力地思考,发明一种更智能的人工智能,直到它爆发,变得像神一样。

  我们没有证据表明,仅仅是思考智能就足以创造新水平的智能。这种思考主义智能算是一种理念。我们有很多证据表明,除了大量的智能之外,我们还需要实验、数据、试验和错误、奇怪的质疑,以及各种各样的除了智慧之外还能创造出一种新的成功思维的东西。

  我的结论是,或许我对这些说法的看法有误。我们还处在早期阶段。我们可能会发现一个普遍的智能指标,我们可能会发现它在各个方向上都是无限的。因为我们对智能的了解甚少(更不用说意识了),某种人工智能奇点的可能性大于零。我认为所有的证据都表明,这样的情形是极不可能发生的,但概率的确大于零。

  因此,虽然我不同意它的可能性,但我同意OpenAI以及那些担心超人工智能的聪明人更远大的目标:我们应该设计友好的人工智能,并弄明白如何逐步灌输与我们相匹配的、可以自我复制的价值观。虽然我认为超人的人工智能是一个在遥远未来存在的威胁(当然也值得考虑),但我认为它的不可能(基于我们目前的证据)不应该是我们的科学、政策以及发展的指南。

  就像小行星撞击地球可能是灾难性的。而且它的可能性大于零(因此我们应该支持B612 Foundation),但我们不应该让小行星撞击的可能性扼制我们在气候变化、太空旅行、甚至城市规划方面的努力。

  同样的,迄今为止的证据表明,人工智能最有可能不是超人类的,而是成百上千的异人新型思维,最不同于人类,没有一个是万能的,没有一个能马上扮演上帝在瞬间解决重大问题。相反,我们将会有一个有限的智能星系,在不熟悉的维度上工作,超越我们的思维,与我们一起工作,解决现存的问题,创造新的问题。

  人工智能最有可能不是超人类的,而是成百上千的异人新型思维,最不同于人类,没有一个是万能的,没有一个能马上扮演上帝在瞬间解决重大问题。

  我理解一个超人类的人工智能的美丽有多吸引人。就像一个新型超人一样。但就像超人一样,这是一个神话般的形象。在宇宙的某个地方,一个超人可能存在,但在地球是非常不可能的。然而,神话是有用的,一旦被创造出来,它们就不会消失。关于超人的想法永远不会消失。现在已经诞生了一个超人类的人工智能奇点的想法,也永远不会消失。

  但我们应该认识到,这是一个宗教的想法,而不是一个科学的想法。如果我们审视迄今为止关于智能、人工和自然的证据,我们只能得出这样的结论:我们对神话般的超人类人工智能的猜测仅止于神话本身。

  在第二次世界大战期间,密克罗尼西亚的许多孤立岛屿首次与外界接触。异界之神飞过他们的天空,在喧闹的鸟中飞翔,在他们的岛屿上丢弃食物和货物,然后再也没有回来。岛上的宗教信徒们向诸神祈祷,希望他们能回来投放更多的货物。即使是现在,50年后的今天,许多人仍在等待物资返回。

  超人的人工智能可能会成为另一种货物崇拜。一个世纪过去了,人们可能会回顾这段时间,那时信徒们开始期待一个超人的人工智能出现在任何时刻,给他们带来难以想象的价值。十多年后,他们等待着超人的人工智能出现,确信它必须马上就能到达。

  然而,非超人的人工智能已经存在于现实中。我们不断地重新定义它,增加它的难度,在未来将它禁锢起来,但在更广泛的意义上,异人智能,包括各种智慧、智能、认知、推理、学习和意识的连续光谱,在这个星球上已经无处不在,它将继续传播、深化、丰富和衍化。

  在此之前,没有一项发明能比得上它改变我们世界的力量,到本世纪末,人工智能将触及并重塑我们生活中的一切。

  关于超人的人工智能的神话,往返于既能给我们带来超级富足,又能让我们成为超级奴隶(或者两者皆有)的可能性之间,这种可能性太具神话色彩而难以让人忽视。

  (英文来源/Backchannel 作者/Kevin Kelly 编译/机器小易 审校/Anjou)

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。

跟贴 跟贴 11 参与 22
© 1997-2019 网易公司版权所有 About NetEase | 公司简介 | 联系方法 | 招聘信息 | 隐私政策 | 广告服务 | 网站地图 | 意见反馈 | 不良信息举报

智能菌

聚焦人工智能!

头像

智能菌

聚焦人工智能!

655

篇文章

23708

人关注

列表加载中...
请登录后再关注
x

用户登录

网易通行证/邮箱用户可以直接登录:
忘记密码

Sitemap

西安文理学院2017年部门预算及“三公”经费... |最萌最烧脑的核心价值观灯谜,你能猜出几个? |库里左手变向虚晃戏耍尼尔森上篮2+1(掘金vs勇士) |
4个暴晒地方的防晒方法 什么时候紫外线钟爱你 | 浦东时报特供:洋山港四期码头迎首批巨型桥吊 | 2017年4月19日解放者杯水晶竞技队vs最强者直播
制袋机订购 质量好的全自动无纺布制袋机在哪买 |知已知彼,百战不殆,如何接触集团客户大有文章 |有对比有伤害 《人民的名义》评分走低因陆毅 |
给老师送礼成难题,超五成家长认为至少没坏处 | 2.杨洁导演的艺术人生,永远定格在了86版... | “海贸遗珍”清代广州外销艺术品在市博物.(图)
富口镇周末“不打烊” 开展安全生产突击检查 |平谷区政府绩效管理工作多方评价网上评测系统 | 韩村河镇上方山香椿已进入采摘季 |
市级基层卫生岗位“大练兵”活动 启动仪式在雁塔举行 | 制袋机订购 质量好的全自动无纺布制袋机在哪买 | 知已知彼,百战不殆,如何接触集团客户大有文章
榕部分金店饰品“身份证”不合格 仍用“千足金”标签 管党治党光靠觉悟是不够的 动员千遍不如问责一次 知行合一,用总书记讲话精神引领网信事业发展 捉毒蛇让4岁女儿把玩 被蛇咬伤后父亲淡然面对 美国一男子“脸书”上直播杀人过程 遭警方搜捕
民进龙岩工委赴连城县朋口镇文坊村开展植树活动 加油干2017|鸣凤山公园下半年开建 总投资超七千万 家里最易被忽视的4大致癌物,第一件你就经常在用! 2017"浙江杰出青年"揭晓 宁波1人上榜 此人啥来头
杭州价格网| 北京现代价格| 320g硬盘价格| 桁架价格| 知名演员| 灰太狼加速器| 电动摩托车价格| 导火线演员表| 左旋360减肥咖啡价格| 宅急送快递价格| 铃木摩托车价格| 特种兵之火凤凰演员| 演员黑妹|
15年茅台酒价格表| 我的兄弟叫顺溜优酷| 玉米油价格| 物业管理师挂靠价格| 马弗炉价格| 地胶价格| 牛栏奶粉价格| 强化木地板价格| 谈判冤家演员表| 今日豆油价格| 太阳能控制器价格| burberry价格| 重型机车价格|