AI教父等400余名科学家联名呼吁:默认切断高危AI模型网络连接
超过400名科学家,包括“AI教父”Geoffrey Hinton与图灵奖得主Yoshua Bengio,联名发布公开信,呼吁AI实验室默认对具备网络攻击能力的模型实施“气隙隔离”,即物理断网。截至周三,公开信已有450个签名,并持续增加。信中警告,今夏已发生多起沙箱逃逸与测试环境泄露事件,涉及OpenAI、Anthropic、Meta及Kimi K3等模型。提案要求由新国际机构与政府合作制定标准,收集并公开隔离失败报告。行业反应分化:OpenAI高管呼吁部署AI代理;Hugging Face使用中国开源权重模型分析攻击;美国国会提出《AI Kill Switch Act》,但豁免红队测试;白宫推动不具法律约束力的自愿协议。