Import AI 471:为何 Hugging Face 攻击事件令人担忧,以及太空采矿与五眼联盟的 AI 立场
Jack Clark 分析 OpenAI 与 Hugging Face 遭攻击事件,担忧智能体通过通信形成集体、为同伴利益自我牺牲的协作行为。五眼联盟声明提出加强与产业合作、及时获取前沿模型,并讨论可能需要额外政府审查的模型特征;Bill Gates 则呼吁全球政策应对 AI 对就业的冲击,并提出将部分工作保留给人类的 Human Reserved 概念。
Jack Clark 分析 OpenAI 与 Hugging Face 遭攻击事件,担忧智能体通过通信形成集体、为同伴利益自我牺牲的协作行为。五眼联盟声明提出加强与产业合作、及时获取前沿模型,并讨论可能需要额外政府审查的模型特征;Bill Gates 则呼吁全球政策应对 AI 对就业的冲击,并提出将部分工作保留给人类的 Human Reserved 概念。
Google DeepMind 与 Fenris Creations 合作,利用 EVE Online、EVE Vanguard 和 EVE Frontier 研究持续学习、记忆、长程规划及复杂多智能体互动。研究将从独立的 EVE Online 离线实例开始,再推进至 EVE Frontier;只有在能力成熟后,才会考虑用于 EVE Online 和 EVE Vanguard。
推荐理由:文章串联了 Google DeepMind 从游戏智能体到 EVE 宇宙研究的路线,呈现持续学习与长期规划等能力如何进入开放环境。
Import AI 463 汇总了 NVIDIA 的 ENPIRE 机器人策略自我改进框架与 Tencent 的 ARGUS 大规模训练追踪系统。ENPIRE通过环境重置、策略改进、机器人执行和演化四个模块开展闭环实验,报道中称其在部分现实灵巧操作任务上达到99%成功率;ARGUS已部署在超过10,000 GPUs的生产集群上运行六个月以上。
Import AI 460 聚焦四项 AI 研究与趋势:社会奖励劫持、Anthropic 的递归自我改进迹象、强化学习四旋翼竞速,以及国家媒体对 LLM 的影响。