马斯克等千名科技人士签署公开信呼吁暂停训练比GPT-4更强大的AI系统产业

来源:TechWeb   作者:燕梦蝶   发布时间:2023-04-22 16:03   阅读量:16089   
,据外媒报道,在当地时间周二发布的一封公开信中,埃隆·马斯克和一群人工智能专家以及科技高管呼吁所有人工智能(AI)实验室立即暂停训练比GPT-4更强大的AI系统。 这封公开信由非营利性组织FutureofLifeIns...
 

,据外媒报道,在当地时间周二发布的一封公开信中,埃隆·马斯克和一群人工智能专家以及科技高管呼吁所有人工智能(AI)实验室立即暂停训练比GPT-4更强大的AI系统。

这封公开信由非营利性组织Future of Life Institute发布,信的开头写道:“广泛的研究表明,具有与人类竞争智能的AI系统可能会对社会和人类造成深远的风险,这一点也得到了顶级AI实验室的承认。”

这封公开信获得了1000多个签名支持,其中包括苹果联合创始人史蒂夫?沃兹尼亚克、Stability AI CEO伊马德?穆斯塔克(Emad Mostaque)、Sapiens的作者尤瓦尔?诺亚?哈拉里亚斯(Yuval Noah Hararias)、马斯克、图灵奖得主约书亚?本吉奥(Yoshua Bengio)、纽约大学名誉教授加里?马库斯(Gary Marcus)等,他们呼吁暂停训练比GPT-4更强大的AI系统至少6个月。

不出所料,OpenAI和微软高管并没有签署这封公开信。此外,Meta首席人工智能科学家Yann LeCun的名字没有出现在署名名单中。

这封公开信提到,6个月的暂停并不意味着AI总体发展的暂停,只是从目前危险的竞赛中退后一步。

公开信指出:“只有在我们确信它们的效果是积极的,风险是可控的,才应该开发强大的人工智能系统。”

这封公开信要求AI实验室和专家共同开发和实施一套安全协议,然后由独立的外部专家进行严格审计和监督。

在这封公开信发布的前两周,也就是在今年3月14日,美国AI研究公司OpenAI推出了新一代大型语言模型GPT-4。GPT-4是迄今为止最先进的AI系统,它的能力既让AI专家感到震惊,也让他们感到恐惧。

GPT-4是一个多模态大型语言模型,即支持图像和文本输入,以文本形式输出;扩写能力增强,能处理超过25000个单词的文本;更具创造力,并且能够处理更细微的指令;在高级推理能力方面超过了2022年11月30日推出的AI聊天机器人工具ChatGPT。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

1
联系我们