关于AI减速倡议的周末讨论回顾
本周末,Dario Amodei发出了对AI技术发展减速的呼吁,随后Sam Altman和Elon Musk也对此表达了关注。这一讨论引发了许多人对美国经济和股市可能受到影响的担忧。David Sacks对此回应称,如果有人认为存在风险,可以选择自行减速,而无需等待政府的批准。他警告,不应因为个别公司的减速诉求而要求全行业都跟随,以免造成监管迷失。
在爱尔兰访问时,特朗普对记者表示,美国在AI领域领先于中国,并希望保持这种优势。他提到可以对AI设定规则,但批评一些负面言论对问题的炒作。由此看来,特朗普政府未必会采纳Amodei的建议。相比之下,民主党则表现出对加强监管的支持。桑德斯提出的超强AI禁令和众议院少数党领袖杰弗里斯呼吁国会采取紧急行动减缓AI技术的发展都表明民主党的立场。奥巴马也在筹款活动中建议制定合理的保障措施,以应对AI带来的潜在危险。
与此同时,相关公司正在积极讨论AI行业标准的制定。《The Information》报道,Anthropic、OpenAI和谷歌在过去几个月里曾讨论建立一个行业标准组织。三家公司非CEO级别的代表定期召开会议,继续推动这一提案。Sam Altman在员工大会上表态支持建立测试和审计机构,认为这一标准应由业界自行制定。 龙8头号玩家国际
在接受CBS采访时,Amodei进一步阐释了他提出的观点。他明确表示,自己的倡议并非要停止更先进模型的发布,而是认为AI发展应适度放慢,以便更多的安全措施和监管跟上。他指出,AI技术的风险与其开发和使用方式密切相关,未来的结果并非纯粹的偶然,当前的行动会有所影响。
Amodei提到Anthropic正利用模型推进药物研发,但也提醒AI可能被滥用。他承认目前正处于技术发展速度迅猛的阶段,不应一味恐慌,但需要认真对待风险。他提出三步战略以缓解风险:首先,引入独立评估人员长期观察企业模型的开发和运行,确保遵循安全标准。这样的检查机制应成为行业的共识。
在谈到是否能跟上技术变化时,Amodei认为,评估人员的跟进能力应对技术进步的速度产生影响。技术发展不能远远领先于相应的安全检查。他强调,获得更广泛的公司支持进行第三方评估是推动变革的重要一步,并期待政府介入,以规范企业在产品发布的条件和节奏。 龙8头号玩家国际