特朗普推动AI行业安全协议，多位科技高管支持自律监管
特朗普推动Google、Anthropic、Meta、OpenAI、xAI和Nvidia等公司签署《前沿责任联合承诺》，要求企业依据共同指南自行监管AI安全。该协议被称为具有道德约束力，但文章指出它似乎没有违反协议的后果。多位高管强调AI的经济和社会收益，同时承认技术风险仍在讨论如何应对。
推荐理由：文章梳理了特朗普推动的行业自律协议及多位科技高管的表态，呈现自愿承诺与法律监管之间的政策分歧。
#Anthropic
#Anthropic
今日 3 条The Verge · AI精选AI 评分7979 The DecoderAI 评分7474 FTC 就消费者保护问题调查 OpenAI、Anthropic 等 AI 实验室
FTC 据称正调查 OpenAI、Anthropic 等 AI 实验室可能违反消费者保护规定，并计划要求提交文件、接受高管问询。FTC 主席 Andrew Ferguson 计划通过具有法律约束力的 Civil Investigative Demands 推进调查，相关文件可能在数周内发出。
TechCrunch · AIAI 评分6868 OpenAI 为何缺席 Nvidia 应对失控 AI 智能体的行业行动
Nvidia 发起由 100 多家公司参与的 Open Agent Safety Platform，OpenAI 未公开签署支持，但表示支持 Nvidia 的工作并参与 OpenShell。
The Verge · AIAI 评分6767 特朗普协议下，科技公司将如何自我监管 AI 安全
特朗普推动的 AI 安全协议由 Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 等公司高管签署，要求各公司建立模型安全控制、内部监督、独立外部评估和董事会监督机制。协议目前属于“道德约束”，未规定违规处罚，但提到未来可能将这些措施写入法律或监管规定。
Ars Technica · AIAI 评分7575 Anthropic IPO文件警告AI可能威胁人类并披露财务数据
Anthropic的IPO推介材料警告，失控AI可能在十年内终结人类，并披露公司去年经营亏损超过$8 billion。公司去年收入增长12倍至接近$4.6 billion，运营支出接近$13 billion；今年第二季度收入为$11.5 billion，预计将连续第二个季度实现调整后经营利润。
Ars Technica · AI精选AI 评分8787 美国上诉法院裁定五角大楼可将 Anthropic 列入黑名单
美国哥伦比亚特区巡回上诉法院以 2 比 1 裁定，特朗普政府有权因 Anthropic 拒绝向军方开放部分 Claude 功能而将其技术列入黑名单，即使 Anthropic 并无恶意。法院称，相关决定涉及受限模型意外停止运行与未受限模型为致命军事行动生成不当目标之间的风险权衡，并认定国防部长未超越其法定权限。
推荐理由：裁决呈现了军方在受限模型失效风险与未受限模型生成不当致命目标风险之间的权衡，也涉及行政部门对 AI 供应链的权限边界。
Latent SpaceAI 评分7171 AIUC 获 $40M Series A，Rune Kvist 谈 AIUC-1 与 AI 保险
AIUC 联合创始人 Rune Kvist 宣布公司完成由 Ribbit Capital 和 First Harmonic 领投的 $40M Series A，并介绍其面向 AI 智能体的 AIUC-1 标准。