特朗普推动AI行业安全协议,多位科技高管支持自律监管
特朗普推动Google、Anthropic、Meta、OpenAI、xAI和Nvidia等公司签署《前沿责任联合承诺》,要求企业依据共同指南自行监管AI安全。该协议被称为具有道德约束力,但文章指出它似乎没有违反协议的后果。多位高管强调AI的经济和社会收益,同时承认技术风险仍在讨论如何应对。
推荐理由:文章梳理了特朗普推动的行业自律协议及多位科技高管的表态,呈现自愿承诺与法律监管之间的政策分歧。
特朗普推动Google、Anthropic、Meta、OpenAI、xAI和Nvidia等公司签署《前沿责任联合承诺》,要求企业依据共同指南自行监管AI安全。该协议被称为具有道德约束力,但文章指出它似乎没有违反协议的后果。多位高管强调AI的经济和社会收益,同时承认技术风险仍在讨论如何应对。
推荐理由:文章梳理了特朗普推动的行业自律协议及多位科技高管的表态,呈现自愿承诺与法律监管之间的政策分歧。
Google 正在试验向内容出现在 AI 答案中的网站付费,但参与者获得的金额据称仅约为其广告收入的 0.1%。据报道,约 100 家出版商加入了这一面向 Gemini 搜索结果和 AI Overview 的试点,部分大型出版商因回报过低而拒绝参与。
Google 已启动向出版商付费的 AI 搜索试点,约 100 家出版商参与,内容将用于 AI Overviews、AI Mode 和 Gemini。报道显示,一家早期加入的出版商一年收入超过 $1 million,另一家加入几个月的出版商收入约为 $50,000 至 $60,000。该项目正值 Google 面临出版商和监管机构对 AI 搜索影响网络流量的质疑之际。
特朗普推动的 AI 安全协议由 Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 等公司高管签署,要求各公司建立模型安全控制、内部监督、独立外部评估和董事会监督机制。协议目前属于“道德约束”,未规定违规处罚,但提到未来可能将这些措施写入法律或监管规定。
Google正向约100家数字出版商支付其内容被用于AI Overviews、AI Mode和Gemini chatbot的费用,但多家小型和中型网站数月所得低于$1,000,部分网站收入不足广告收入的0.1%。
Emerald AI、Google 与 NVIDIA 宣布成立 AI Energy Management Alliance(AEMA),推动能够根据电网状况动态调整用电的数据中心。联盟将围绕响应速度、持续时间、可预测性和应急行为制定技术要求、性能指标与数据共享规范,并探索更快的 AI 基础设施并网路径。
推荐理由:联盟把 AI 数据中心的电力灵活性转化为可衡量的接入要求,为开发者与电网运营方协作提供共同框架。
Google DeepMind 宣布开展首个针对专有前沿级 AI 模型的双盲评测,以防止模型提前接触测试题目。该项目与 Singapore AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作,在隐私保护的加密环境中使用机密基准测试 Gemini Flash Lite。
推荐理由:文章说明加密环境如何把外部评测与模型后续优化隔离开,为理解 benchmark contamination 及其对评测可信度的影响提供了具体机制。
Google 宣布承诺 $40M 的 AI tokens 和云 credits,为 DOE Genesis Mission 研究人员提供 AI for science 工具支持。
推荐理由:文章具体说明了 Google 如何以 $40M AI tokens 和云 credits 支持 DOE 科研,并给出 AlphaEvolve 与 Gemini 在实验室中的应用数据。
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,围绕预防、检测和响应使用 AI 应对生物安全风险。过去 12 个月,双方推进了超过 15 项与政府机构、生物安全组织和研究团体的合作。
推荐理由:文章按预防、检测和响应梳理 AI 参与生物安全的路径,并列出模型安全评估、病原体监测和药物设计等合作实例。
Google DeepMind 与 A24 宣布开展以研究为核心的合作,围绕多个项目共同开发面向创作者的新工作流和技术。Google 还对 A24 进行了投资;合作初期聚焦连接前沿技术与下一代娱乐,具体目标、技术产出和创意里程碑将随协作推进而演变。
Google DeepMind 发布 AI Control Roadmap,用分层防御管理内部 AI 智能体,即使模型对齐不完善,也通过权限控制、威胁建模和系统级安全措施降低风险。
推荐理由:文章将 AI Control Roadmap 拆解为威胁建模、监控与响应机制,并用可量化指标说明如何随智能体能力提升强化安全控制。
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA 和 Google.org,面向全球研究者发起最高 $10M 的多智能体 AI 安全技术研究资助计划。
推荐理由:这项最高 $10M 的资助计划覆盖多智能体安全的四个研究方向,呈现了从单模型评估转向群体系统治理的研究重点。
Google DeepMind Accelerator: Robotics 从欧洲遴选15家机器人初创公司,启动为期3个月的密集指导与技术支持项目。入选团队将获得 Google DeepMind 和 Google 专家的技术指导、产品建议,以及 AI stack 和 Gemini robotics models 的使用支持,推动 AI 融入机器人产品。
Google DeepMind与新加坡政府启动新的国家AI合作伙伴关系,并在新加坡推出医疗、生命科学、教育、科研、可持续发展和AI安全项目。合作方预计通过加速研发,到2040年创造额外S$ 3.3 billion(US$2.5 billion)的经济价值。
推荐理由:文章梳理了Google DeepMind与新加坡政府合作落地的医疗、教育、科研和安全项目,呈现国家级AI应用的具体路径。
Google DeepMind 与韩国科学技术部(MSIT)宣布建立合作,将在首尔办公室设立 AI Campus,支持韩国科研机构使用 AI for Science 模型开展研究。合作将探索 AlphaEvolve、AlphaGenome、AlphaFold、AI co-scientist 和 WeatherNext 在生命科学、能源、天气与气候等领域的应用,并推进人才培养和 AI 安全研究。
Google DeepMind 宣布与 Accenture、Bain & Company、BCG、Deloitte 和 McKinsey 合作,帮助全球企业负责任地规模化采用前沿 AI,推进智能体转型。