基辛格警告称,人工智能将从根本上改变人类的意识

据Gizmodo网站11月8日报道,现年96岁的基辛格在美国国家安全委员会举办的“通过创新获得力量”(Strength Through Innovation)大会上发表上述讲话时称,他相信人工智能有潜力从根本上改变人类的意识,包括改变我们的自我认知和战略决策。他还抨击了人工智能开发人员没有充分考虑到创作的含义。

主持人向基辛格询问了他对军事化人工智能的看法,以及它将如何影响全球安全和战略决策。

基辛格说:“我不认为它是一个‘技术人员’,我对它的历史,哲学,战略方面感到担忧,我确信,人工智能及其周边学科将带来人类意识的改变,就像启蒙运动一样。这就是我来这里的原因。”基辛格对18世纪欧洲启蒙运动的援引是指在这一重要时期所发生的思维范式转变,在这一时期,科学,理性主义和人本主义在很大程度上取代了基于宗教和信仰的思维。

尽管基辛格没有详细说明这一点,但他可能是指一旦人工智能达到足够先进的成熟水平,将转变我们的思维。而这一发展将不可逆转地改变我们与自己,以及与机器的交往方式。

基辛格表示,人工智能必将改变战略和战争的本质,但许多利益相关者和决策者仍将其视其为“新的技术起点”。他们还不明白,人工智能必定会改变人们对世界的哲学认知,而且还将从根本上影响人类的认知。

基辛格最担心的是,军事化的人工智能可能会导致外交破裂。基辛格说:“人工智能的秘密性和短暂性意味着,它与常规武器不同,国家不能简单地将其作为一种明显的威胁‘摆上桌面’。在战略领域,我们正在进入一个可以想象到的非凡领域,而敌人可能会不知道威胁的来源。”

这种情况可能会在战场上造成不必要的混乱,或者一个国家可能会弄错攻击来源。更可怕的是,兰德公司(RAND Corporation) 2018年的一份报告警告称,人工智能可能最终加剧核战争爆发的风险。这也意味着我们还必须重新考虑军备控制的因素与概念,如何适用于这个未来的世界。

基辛格称,他对Google的DeepMind所做的工作“特别着迷”,尤其是AlphaGo和AlphaZero开发出能够击败世界最厉害的国际象棋和围棋选手的人工智能系统。

基辛格相信人工智能最终将成为军事决策的一部分,但战略规划者将必须在模拟战中甚至在实际情况下进行自我测试,以确保人工智能的可靠性程度,同时也思考后果。

基辛格说:“这种情况最终可能类似于第一次世界大战的爆发,而在第一次世界大战中,一系列合乎逻辑的步骤导致了许多意料之外和取法避免的后果。”

基辛格补充说道:“如果你不理解这些技术的含义……包括处理不可预知后果的情感能力,那么你将在战略方面就会失败。人工智能将是“未来哲学的挑战”,因为我们从来没有想到过跟具有如此广阔智慧的物体合作。

(编辑:WSN)