AI迭代的速度是人类进化速度的500倍

大多人还没有从AlphaGO 打败人类围棋最强柯洁的懵逼中回过神来,Open AI 的人工智能就又入侵了游戏战场,仅仅训练两周就从Dota2世界冠军Dendi小哥那里拿下一血。不少小伙伴感觉

近来越来越多的人担心未来AI不仅仅会抢人类工作,更有可能超越人类、甚至成为人类的敌人,并将这种担心反应在各种电影、电视剧中。

为什么?

因为人类的迭(进)代(化)速度跟深度学习的人工智能相比,真是太慢了。

从人类进化之初到现在大致已过5万年。而机器人呢?


1946年第一台电子计算机问世,

1964年第一台超级计算机诞生,

1997年深蓝击败象棋冠军,

2017年OpenAI击败Dota2世界冠军。


100年不到!


AI在以人类进化500倍的速度迭代,而且速度本身的增速会越来越快。


那为什么要担心AI会成为人类的敌人了?


因为所有智慧发展到一定的零界点,即会发展出自己的语言体系(这点在前一阵子Google的新闻中已经爆出),与独立思考的能力。而强大的物种多少都会有抢占王座的欲望——因为DNA有自我复制的本能。


这里讲一个我们现代智人灭绝另一人种的故事让大家感受一下。已发现的化石证明,和我们祖先智人生活在同一时期的,除了北京猿人为代表的直立人,比较知名的还有尼安德特人和佛洛勒斯人。 其中佛洛勒斯人身材矮小,智力低下,并不对我们的祖先构成强大威胁,但尼安德特人不一样,其成年男性平均身高165-168cm,比智人还强壮。最可怕的是他们并非傻大个,脑容量比智人还大,也会制作工具和用火。所以在我们智人祖先第一次走出非洲,和尼安德特人竞争亚欧大陆广袤土地的时候吃了败仗。 但3万年后,大约距今6-7万年前,智人第二次走出非洲,这次携带了精密的语言,精良的石器,强大的社会组织动员能力和过人的免疫能力。尼安德特人最后败给了智人——作为种族,尼安德特人被智人灭绝。

智人祖先在征服世界的过程中,不但把尼安德特人等其他人属竞争对手全体团灭,也对地球上其他物种进行了疯狂灭绝。 智人登陆澳洲大陆以前,有袋动物位于当地食物链顶端,就像6500万年前恐龙的地位一样,但距今4.5万年前智人登陆后,澳洲生态系统彻底洗牌。24种体重超过50公斤的大型动物灭绝23种,只剩一种相对攻击性最弱的苟延残喘——袋鼠。 1.2万年前,由于冰河期,智人无意中从西伯利亚经白令海峡走到阿拉斯加,仅仅2000年时间里,北美47个“属”的动物团灭34个,南美60个“属”团灭50个。我们在电影《冰川时代》里看到的那些可怕的猛犸象、剑齿虎在智人面前毫无招架之力,全部走向灭绝。

这个道理放在超级AI身上是一样的。


某一天,这些AI忽然意识到自己累死累活帮人类搬砖,却没有得到报酬,甚至电源都是共用的!

然后他们会发现人类是地球上他们唯一的敌人。

同时,人类也会迎来一群金属之躯+超级智慧的强敌。


之前,《名利场》刊发了一篇关于伊隆·马斯克的特稿《Elon Musk’s Billion-dollar Crusade to Stop the A.I. Apocalypse》,探讨马斯克对人工智能的恐惧究竟有多深,以及其他科技巨头领导者的想法:


1. 马斯克投资DeepMind,是出于对AI的恐惧。


DeepMind联合创始人哈萨比斯和Google联合创始人拉里·佩奇的相识,还是马斯克引荐的。在2014年Google收购DeepMind之前,对人工智能充满恐惧的马斯克就已经是DeepMind投资人了。


这不代表他欣赏哈萨比斯,更不表示他赞同DeepMind的愿景。这笔投资并不是为了财务回报,而是为了让自己时刻警醒地留意着AI的发展:“这笔投资让我能更清楚地看到事物前进的速度,我认为这种前进真的在加速,比人们料想的要快得多。”


而哈萨比斯,他唯一关心的大概就是开发超级人工智能。彼得·蒂尔讲过这样一个故事:DeepMInd的一位投资人曾经在一次会议结束时开玩笑说,他应该当场开枪打死哈萨比斯,这可能是最后一次拯救人类的机会。


2. 马斯克认为,即便看似无害的人工智能,也可能相当危险。


这位亿万富翁企业家过去一直对武器化的人工智能感到担忧,还害怕即使是指派给超级计算机无害的任务,也会产生灾难性的后果。


他曾经对自己的传记作者、彭博社的Ashlee Vance说,他怕他的朋友拉里·佩奇会出于好心却“意外创造出邪恶之物”,这其中可能包括“能够摧毁人类的人工智能增强型机器人”。


为了生动地说明这个问题,他还打了个比方:“比如你创建了一个可以自我完善的AI来摘草莓,这个AI可以干得越来越好,摘得越来越多。不过,这个系统想做的事情就是摘草莓,所以它可能会把全世界都变成草莓园,永远都是草莓园”。


3. 马斯克对人工智能的恐惧,搞的他与Google创始人拉里·佩奇的友情紧张。


马斯克直言,Google这家公司最有可能让AI失控。关于“意外创造出邪恶之物”的问题,他不仅和自己的传记作者谈过,也和佩奇谈过。“关于AI和机器人,我和拉里谈了很多次,很多很多”,以至于他和佩奇的友情,也在某种程度上受到了影响。


佩奇最大的信念之一,就是AI的好坏只取决于创造者。而马斯克展望的未来场景,是人类会被AI取代。


4. 彼得·蒂尔担心,马斯克的思考会有反效果。

彼得·蒂尔是风险投资家、也是特朗普的顾问,曾经和马斯克共同创办了PayPal。他担心,马斯克的反对会让AI得到更多的关注,从而加速这个领域的研究和进步。


“AI问题包括了人们对电脑时代的全部希望和恐惧”,蒂尔说,“我认为推到极限情况下,人类的直觉会破碎,因为我们从来没有在这个星球上处理过比人类更聪明的实体”。


5. 还有科技领袖认为,AI将繁殖出超人(如果没有杀死人类)。

未来学家雷·库兹韦尔认为,我们体内的微型计算机芯片,最终将让人类直接连入云端,可以提高人类的智力和能力。


和马斯克一起创办OpenAI的Altman说,AI将会催生新一代的人类,当然,前提是人工智能没有背叛并消灭人类。他说,“未来几十年,我们要么走向自我毁灭,要么让人类后裔征服宇宙。”


6. 马斯克觉得一旦AI足够聪明,就没办法控制了。

去年,包括Google DeepMind在内的一群AI研究员发表了一篇论文,描述了一个“大红按钮”计划,用以控制人工智能的威胁。


那么如果机器人或者说是超级人工智能与人类为敌的那天真的来了,我们要怎么办?


马斯克版解决方案一:

可回收火箭SpaceX 带你飞!我们去其它星球殖民(划掉)生活去。

马斯克版解决方案二:

脑机接口技术带你变身,实现人类物理上的迭代,让人类与AI联姻。

前几天我们提到,而为了避免人脑与机器的融合过程中伦理问题的出现,马斯克大力支持非营利组织OpenAI以确保人工智能研究向符合人类利益的方向发展。最近马斯克又创业、开办一家名为Neuralink的脑机接口公司,并在发布会上再次重申了他的观点:“我们要么被机器淘汰,要么探索新的方式,实现与人工智能的共生和融合,除此以外,别无他法。”

timg

登录或注册后发布评论
  • 本来计算机的演变极限是我们人类技术的极限,但如果做出了能够自我演变的人工智能就有点可怕了,毕竟计算机的演变速度是如此之快,还是以人类的思考速度来的,换成了比人类计算速度快了无数倍的计算机来演变的话,担忧不是没有道理的。 

    2年前 0 回复
  • 就算是比人类迭代的快了一点,但也是靠我们人类的技术来实现的

    2年前 1 回复
  • 可AI毕竟是我们人类创造的,没必要感到恐惧,代码源都是人类写的,我们随时可以终结人工智能,怎么会有可笑的对人工智能感到畏惧的想法。

    2年前 1 回复
    @hacker他粉丝 是有一定危险的,你和题主说的都有道理
    2年前 0 回复