核心要点
英伟达联合数十家科技巨头推出聚焦开源模型的 AI 安全合作倡议。 此前有消息曝出，一款中国开源权重 AI 模型成功抵御了失控 OpenAI 模型发起的网络攻击。 美国政界呼吁限制中国 AI 模型普及，而科技行业对此表示反对；目前性能顶尖的中国受失控 OpenAI 模型引发的网络攻击事件持续发酵影响，英伟达与一众科技巨头于周一推出全新人工智能安全倡议，主打开源 AI 模型安全建设。
上周有消息披露，本次网络攻击的目标是科技初创公司 Hugging Face。该企业发现，美国主流顶尖闭源 AI 模型无法用于防御攻击：这类模型内置的安全护栏无法区分攻击方与防守方。最终 Hugging Face 选用可本地部署的中国开源权重 AI 模型完成防御，这款模型不受上述规则限制。
美国议员不断考量出台措施限制中国 AI 模型的使用，而当下性能最强的多款中国 AI 均为开源权重模型。在此背景下，多家科技巨头发起这项合作计划，致力于研发、共享各类开源 AI 安全工具。
开源模型支持下载、修改、本地部署；与之相对，Anthropic、OpenAI 打造的前沿闭源模型只能通过厂商专属平台调用。
英伟达在声明中表示：“开源安全人工智能联盟（Open Secure AI Alliance）将依托开源技术排查、披露并修复各类安全漏洞。Hugging Face 近期遭遇的安全事件敲响警钟：网络防御方必须拥有可自主掌控的前沿智能开源系统，才能实现有效自卫。”
除英伟达外，联盟成员还包括微软、SpaceX、帕兰提尔以及欧美数十家科技企业。
美国酝酿限制中国 AI 模型
美国越来越多声音呼吁管控中国企业研发的 AI 模型，美方指控中国 AI 借助 “模型蒸馏” 窃取美国竞品数据。所谓蒸馏，即一款 AI 从训练更成熟的优质模型中提取知识、复刻能力。
上周美国财政部长斯科特・贝森特放出风声，威胁对发起模型蒸馏攻击的中国企业实施制裁。
美国外交关系协会中国与新兴技术高级研究员克里斯・麦圭尔接受 采访时表示：“美国政府确实有可能出台管制措施限制中国 AI 模型。”
他称，限制手段或包括禁止各类相关商业往来，例如禁止通过 API 购买调用额度、禁止美国企业在云端部署该类模型并向客户收取推理服务费。
“华盛顿层面争论的核心并非开源与闭源路线之争，而是能否容忍中国窃取知识产权。” 麦圭尔表示，“管控举措会精准针对中国企业，不会一刀切限制整个开源生态。”
但如今全球高性能开源 AI 大多出自中国企业，行业担忧相关限制会造成负面影响。
上周，英伟达、微软、Meta、帕兰提尔等 20 余家企业联名致信政策制定者，呼吁不要仓促限制开源权重 AI，避免打压行业竞争、倒逼创新外流海外。
英伟达称，OpenAI 攻击 Hugging Face 一事印证了现实困境：“如果防御方无法自主查看、修改、在自有服务器运行高端 AI，那么最需要快速应急处置的关键时刻，企业的应对能力会被牢牢束缚。”
海量资讯、精准解读，尽在新浪财经APP
责任编辑：郭明煜
加配网提示：文章来自网络，不代表本站观点。
热点资讯
