OpenAI首席科学家大胆设想:人类未来将难免与AI融合

更新时间:2023-11-01 08:05:32作者:无忧百科

OpenAI首席科学家大胆设想:人类未来将难免与AI融合

财联社10月31日讯(编辑 马兰)作为人工智能领域数一数二的权威人士,OpenAI首席技术官Ilya Sutskever的想法一直被认为十分大胆,甚至有些疯狂。

在最近的一次采访中,Sutskever声称,他认为ChatGPT可能存在意识,而有一天人类会选择和人工智能融合,从而与超级智能竞争。

他指出,未来人工智能的兴起将鼓励人类与AI融合,在一个拥有更智能AI的世界中,人类的生存空间被不断压缩。虽然现在听起来很疯狂,但许多人会选择将自己部分AI化。

他补充道,一开始只有最勇敢且具有冒险精神的人才会尝试,之后其他人会效仿。但他自己对这一可能性充满不确定,他也无法确定自己是否也会进行融合。

如何控制AI

Sutskever称,人工智能可能在未来十年内超过人类的智能,且AI未必是善意的,因此人类需要研究控制和限制它的方法。

但Sutskever承认目前仍未出现解决方案。现在的技术主要是根据人类的反馈让AI进行强化学习,这依赖于人类监督AI的能力。但实际上,人类无法可靠有效地监督一个智能高于人类的AI系统。

他还强调超级人工智能的概念,认为其将更深入地看待事物,并看到人类看不到的东西。为此,OpenAI成立了一个超级对齐团队(SuperAlignment),由Sutskever和超级对齐联合领导人Jan Leike共同领导,目标在四年内解决控制超级智能AI的核心技术。

不过,Sutskever的想法显然更加消极一些,一言以蔽之:打不过AI,那就加入AI。

但这又和马斯克的想法十分接近。马斯克就指出他名下的Neuralink公司最终目标就是实现人类与人工智能的共生,还提出将人类大脑上传到云端的超前概念。

然而,无论是OpenAI还是Neuralink都还有很长的路要走。OpenAI的ChatGPT目前还未解决幻觉问题,Neuralink则在大脑植入的活体实验中饱受攻讦。