AI会是人类的终结者吗?

发布时间:2021-8-11 15:40    发布者:eechina
关键词: AI , 终结者
“技术奇点”就快到了。这是真的…… 呃,也可能还没有吧。技术奇点指真正的人工智能开始出现、实现自我感知并通过创造比自身更好的实体来开始递归自我改进的事件。这只是其中一种表述。[1] [2] [3]

在大多数人的观点中,技术奇点事件毫无疑问将是破坏性的[4],甚至可能是所有技术进步中最具破坏性的。当然,科幻作家几十年来一直在探索人工智能的未来究竟是美好的愿景还是一场灾难,而且后者似乎是主流看法。与机器人制造出更好的机器人相关的知名影片在集体流行意识中已经全然没有了新意。

但是,如何从这里到达彼岸呢?  (我们真的想去吗? 是不是应该认真想想我们想要的究竟是什么?)

这就涉及到人工智能 (AI) 领域了。它从未如此强大和繁忙。[5][6] AI是对智能实体的研究和创造,它们不断改善并最大化其成功机会。现在的问题是,“智能”的机器、实体,等等等等,都必须由人类来告诉他们该做什么。但是,对于如何建立一个更好的思维机器的进展和理解,似乎正以越来越快的速度到来,有时会导致与学习型机器人进行的对话成为令人不安的体验[7]。

“思考”和“自我意识”的概念只是全局的一部分。长期以来,人类一直在思考如何测试一台机器,看看它是否已经从单纯的编程跨越到了基于某种程度自我意识的独立思考。图灵测试 (Turing Test) 就是一种极其著名的方法。简而言之,这项测试的目标是与机器展开一小段对话,其以假乱真的程度要达到让人无法判断出它是人还是机器。此类聊天机器人[10] 已进入儿童玩具中,例如智能芭比娃娃 (Hello Barbie)。这是几十年来AI技术逐渐融入各种电子消费品、商业、金融、农业、政府和军事用途的典型例子。

也许,在技术奇点真正发生时,由于AI几乎已经充斥每个角落,这将不再是一件新鲜事。

随着时间的推移,许多远见卓识者已经预测到技术奇点会出现的时间[11]。这些“先知者”对AI的过快采用以及AI的发展方向发出了可怕的警告。[12] [13] [14] 这些预测和警告值得我们重视吗? AI的发展会将人类带向末日吗? 与AI相关的一个笨拙冗长的首字母缩写是TEOTWAWKI(The End of the World as We Know It,我们所知的世界末日)。一个不一样的世界不一定是糟糕的(它完全可能是美好的),但肯定会存在颠覆性变革,而且如果大规模复制的AI认为人类是可以牺牲的,或者构成了其他性质的障碍,那肯定会带来危险。在一些研究中,意味着“后技术奇点”的AI已经浮出水面,伴随它的还有其他迫在眉睫的威胁,例如海平面上升一米以及极端天气破坏造成的粮食短缺[15] [16]。

在阅读本文的时候,您可能会不由自主地坐在椅子上慢慢转动,不时瞄一瞄你的智能手机、烤面包机或家庭自动化系统。如果您的工作涉及在工业机器人上的作业,只需要遵循最佳做法,先关掉电源,然后再用扳手拆开螺丝。如果您是短线交易者,您可能更需要担心高速机器人交易员来和你竞争(这更像是一个监管政策问题,而非技术威胁)。但是,这并不是说机器人交易员会突然扩散到互联网上,渗入成千上万的智能手机中,计算能呈力指数级增加,并突然实现自我意识。

对吗? (参见:Skynet)

是的,发生这种情况的可能性很小。要到达奇点,我们还有很长的路要走[17] [18] [19]。机器依然在按照我们告诉它们的去做。

计算机运行的是人类编写的软件。软件总是会有漏洞 (bug)。AI也是。想想这些天几乎每天都在爆出的故障和安全漏洞。软件漏洞是个神奇的东西。由于过于复杂,我们无法在软件交付前对其进行100%的测试。编写一个好的软件本来就很难,更不用说没有漏洞的软件了。根据迄今为止几十年来任何软件的平均质量来看,技术奇点的临界点还很遥远,也许永远不会发生。

或者,也许有一天,某一处的某个软件开发人员在开始工作时,发现一个由分布在四个国家的顶尖团队努力了一年多的项目在一夜之间发生了变化,修复了团队甚至没有意识到存在的漏洞, 还做出了团队从未想到的复杂改进。

这时,在几年前购买的那间僻静的远离电网的小屋中度过一个悠长假期,前往沙漠或者深山,或许会是个好主意。

安全提示:不要乘坐无人驾驶的智能汽车。走着去。不要跑。

来源:贸泽电子
作者:Arden Henderson
本文地址:https://www.eechina.com/thread-772166-1-1.html     【打印本页】

本站部分文章为转载或网友发布,目的在于传递和分享信息,并不代表本网赞同其观点和对其真实性负责;文章版权归原作者及原出处所有,如涉及作品内容、版权和其它问题,我们将根据著作权人的要求,第一时间更正或删除。
yanyue 发表于 2021-8-12 09:34:42
吃瓜群众路过
您需要登录后才可以发表评论 登录 | 立即注册

厂商推荐

相关视频

关于我们  -  服务条款  -  使用指南  -  站点地图  -  友情链接  -  联系我们
电子工程网 © 版权所有   京ICP备16069177号 | 京公网安备11010502021702
快速回复 返回顶部 返回列表