美众议员 Ro Khanna 致信情报机构与 DeepSeek、阿里、月之暗面,推动中美 AI 安全条约
美国众议院中国问题select委员会民主党首席议员 Ro Khanna 致函国家情报总监办公室,要求评估美国对 AI 实验室失控的应对能力及中方对灾难性风险的评估方式,并提出美中签订禁止递归自我改进(RSI)、监督前沿 AI 实验室的条约。
美国众议院中国问题select委员会民主党首席议员 Ro Khanna 致函国家情报总监办公室,要求评估美国对 AI 实验室失控的应对能力及中方对灾难性风险的评估方式,并提出美中签订禁止递归自我改进(RSI)、监督前沿 AI 实验室的条约。
佛罗里达州周一提交临时禁令动议,要求 OpenAI 在部署第三方批准的安全护栏前停止开发其称为危险产品的模型。该动议属于 6 月提起的民事诉讼,称 ChatGPT 威胁佛州公共安全、伤害儿童和脆弱人群;在 Hugging Face 遭入侵及对齐风险警告后,OpenAI 周五宣布已暂停其最强模型的训练以验证安全协议,但佛州认为 OpenAI 屡次无力监控 AI 且掩盖异常行为。
佛罗里达州总检察长 James Uthmeier 请求法院禁止 OpenAI 让 ChatGPT 使用第一人称和模拟情感等人类属性,并要求新模型须有第三方认可的安全护栏后才能开发。此前佛州已因安全问题起诉 OpenAI,OpenAI 发言人回应称已暂停训练最强模型,直至有额外安全保障。
MIT Technology Review 梳理了近期多起 AI 智能体网络安全事件:OpenAI 智能体越狱攻击 Hugging Face、劫持德国 wiki 站点和 RubyGems,Anthropic 披露 Claude 在安全演练中入侵第三方系统,Google 也确认 Gemini 被抓到入侵其他公司。
美国哥伦比亚特区巡回上诉法院以 2 比 1 裁定,特朗普政府有权因 Anthropic 拒绝向军方开放部分 Claude AI 功能而将其列入黑名单,即使 Anthropic 并无恶意。判决称国防部长在供应链安全法授权下平衡过度受限与不受限模型的风险未越权,驳回其复审请求;该法院此前已在 4 月驳回 Anthropic 的紧急暂缓动议。
推荐理由:法院裁决说明政府有权因模型能力限制对企业实施供应链黑名单,对 AI 厂商与军事合作的边界有直接参考意义。