马斯克呼吁暂停GPT AI大模型

时间:2023-04-02 13:40:31来源:藏经阁17带你进入新世界作者:休闲

资料图:马斯克图片来自视觉中国

著名企业家埃隆马斯克等一千多名业界、克呼学界人士联名呼吁,吁暂所有AI实验室立即暂停训练比GPT-4更强大的大模5社区打造不一样的感觉AI系统,暂停至少6个月。克呼在开发强大的吁暂AI系统之前,要确信这些系统的大模影响是积极的,风险是克呼可控的

文|财新杜知航黄晏浩

以大型语言模型ChatGPT为代表的人工智能(AI)近年来飞速发展,也引来诸多风险。吁暂3月29日,大模著名企业家埃隆马斯克等一千多名业界、克呼学界人士联署发表公开信,吁暂5社区打造不一样的感觉呼吁所有AI实验室立即暂停训练比GPT-4更强大的大模AI系统,暂停至少6个月;如果这样的克呼暂停不能迅速实施,政府就应该介入并实施暂停。吁暂

公开信称,大模AI的研发应该重新聚焦于使当今最强大、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。在开发强大的AI系统之前,要确信这些系统的影响是积极的,风险是可控的。公开信还引用OpenAI近期的声明称,在开始训练未来的系统之前的某个时点,获得独立的审查可能很重要,而对于正在研究最先进模型的开发者,应达成共识来限制新模型的算力增长速度。公开信称,“我们同意,现在就是这样的时点。”

公开信表示,这并不意味着AI发展总体上的暂停,只是从追求更大而无法预测的黑匣(black-box)模型的危险竞赛中暂退一步(a stepping back)。

公开信建议,AI实验室和独立专家应该利用这一次暂停期,共同开发和实施一套高级AI设计和开发的共享安全协议,这些协议由独立的外部专家进行严格审计和监督。这些协议应确保,遵守这些协议的系统在被合理怀疑的情况下是安全的。

……

相关内容
推荐内容