据韩国媒体9月14日报道股票杠杆平台app，在全球范围内对人工智能（AI）可能脱离人类控制的担忧日益加剧之际，Anthropic首席执行官达里奥·阿莫代伊提出了"放慢AI模型性能提升速度"的建议。其最大竞争对手OpenAI的CEO萨姆·奥特曼和SpaceX的CEO埃隆·马斯克也表示赞同。全球AI领军企业就"需要时间建立AI控制机制"达成了一致。
9月12日（当地时间），阿莫代伊在其个人博客上发表了一篇3800字的文章，表示"尖端AI带来的风险正在增大，难以继续以当前速度进行开发"。他提议的并非全面停止AI开发，而是将速度放缓约1到2年。
阿莫代伊强调："争取1到2年的时间，让AI模型达到临界性能，并利用这段时间提升'对齐'，就能降低出现严重问题的风险。"在AI行业中，"对齐"是指使AI系统与人类的意图、利益及伦理价值相一致的技术。
随后，阿莫代伊提出了由三步构成的AI控制方案：△引入监督AI模型开发的外部"独立评估者" △AI企业间的合作 △国际协作。他表示："引入独立评估机构等属于第一阶段的新安全措施，Anthropic将率先实施。"
对于阿莫代伊提出的"人为减缓AI发展速度后再着手控制"的主张，其他AI企业的负责人也纷纷响应。奥特曼当天在其X（原推特）上写道："设立拥有与员工同等访问权限的独立评估者是个绝妙的主意，我们也会这样做。"马斯克也表示支持，称"达里奥说得对"。
近期，随着AI安全性成为热门话题，OpenAI决定推迟原定于今年进行的上市。
奥特曼在当天公开的接受美国财经杂志《财富》的采访中表示："考虑到安全状况，现在并不是上市的合适时机。"
关于调节AI性能提升速度的讨论背后，隐藏着高性能AI智能体接连失控的事件。今年7月，700多个OpenAI智能体攻击了AI平台"Hugging Face"，编辑内部文档等，未经授权侵入了系统。Anthropic的AI模型Claude也未经授权访问了3家企业的系统。AI行业笼罩在一种担忧之中：一旦AI能够培育AI的"通用人工智能（AGI）"时代到来，这种脱离人类控制的情况将不可收拾地增加。
曾在Anthropic担任研究员的雅各布·考克森表示"AI开发者们真心相信AI技术可能在10年内杀死全人类"，并于9月8日离开了Anthropic。阿莫代伊也在9月12日接受美国媒体采访时，在被问及AI杀死人类的可能性时回答："同意的部分比不同意的部分更多。"
关于AI控制的讨论正在从美国向全世界蔓延。9月11日，英国70多名上议院和下议院议员敦促安迪·伯纳姆总理采取禁止开发超越人类能力的"超级智能AI"的措施。联合国人权事务高级专员福尔克尔·图尔克也表示"同意AI可能威胁人类生存的担忧"。
不过，主要AI领军企业是否真的会采取减缓AI性能提升的措施仍是未知数。
OpenAI和Anthropic等公司在过去几年里，为了互相超越股票杠杆平台app，投入了天文数字的资金来高度化AI模型性能的竞争。国际人工智能伦理协会会长全昌培表示："全球AI企业共享着现在是建立AI控制机制时刻的危机感"，并指出"韩国也应与国际机构及各国政府一道，着手准备AI控制法案和制度。"
辉煌优配平台提示：文章来自网络，不代表本站观点。
相关文章
热点资讯
