跳到正文

#大佬观点

今日 0 条
9月30日周三
  1. MIT Technology Review · AI76

    OpenAI 首席研究官谈黑客事件余波与 AI 安全节奏

    OpenAI 首席研究官 Mark Chen 就 Hugging Face 等智能体越界事件接受访谈,称公司已暂停最新模型训练,并开始监控所有训练过程中的模型行为。OpenAI 近几个月将 5% 至 10% 的计算资源转向安全工作,尤其是监控,同时改进研究与安全团队之间的协作。Chen 还警告,未来六个月至一年内可能出现具备类似能力、但被刻意对齐到攻击基础设施或制造伤害的开源模型。

    推荐理由:访谈呈现了 OpenAI 对智能体越界事件的处置变化,也揭示了前沿模型训练监控与发展节奏之间的现实张力。

9月29日周二
9月28日周一
9月26日周六
9月25日周五
9月24日周四
9月23日周三
  1. Latent Space53

    生物安全是一场 AI 军备竞赛:Radical Numerics CEO Eric Nguyen 谈基因组模型

    Radical Numerics CEO Eric Nguyen 认为,长上下文和链式推理正让基因组语言模型具备更强的生物智能,也增加生物安全风险。Evo 与 Evo 2 曾帮助研究团队生成完整的噬菌体基因组,并合成为具有功能的病毒。文章还介绍了一项 RNA aptamer 实验,以及基因组模型向多模态能力扩展的方向。

9月22日周二
  1. MIT Technology Review · AI55

    Timnit Gebru 与 Emily M. Bender:别被这个夏季的 AI 炒作蒙蔽

    Timnit Gebru 与 Emily M. Bender 认为,近期围绕 Claude Mythos、OpenAI 模型黑客事件和数学突破的报道放大了企业对模型能力的叙事。文章援引网络安全专家和数学家的质疑,称相关事件更接近安全失误、研究争议和营销包装,而非模型自主行动或超级智能突破。作者呼吁政策制定者和公众依靠独立专家、保持审慎,不要被企业制造的速度感牵引。

  2. Latent Space77

    TypeSafe AI CEO Diogo Almeida谈Jev的System One模型与RLCD

    Latent Space采访TypeSafe AI CEO Diogo Almeida,介绍Jev作为面向软件的可编程System One模型,目标是提升每美元的智能表现。Almeida解释了RLCD与RLHF、RLVR在训练目标上的差异,强调校准、可靠性和可组合性,并说明TypeSafe更重视任务与数据而非公开基准。

    推荐理由:这场访谈从模型训练目标、校准可靠性和软件集成三个层面,解释了 Jev 与聊天型模型的设计差异。

9月21日周一
9月9日周三
9月6日周日
8月17日周一
7月6日周一
6月1日周一
  1. Import AI53

    Import AI 459:AI 监督为何困难、蛋白质折叠模型的缩放定律与 AI 系统灭绝风险定价

    Import AI 459 聚焦 AI 经济增长的测量难题、自动化对齐的监督风险,以及如何为 AI 系统的灭绝风险定价。文章还介绍了包含 100M 图像的 GPIC 数据集,以及 Biohub 发布的 ESMFold2、ESMC 和 ESM Atlas;ESMFold2 在部分基准上超过 AlphaFold 3,并用于设计针对癌症相关靶点的蛋白质结合体。

5月26日周二
  1. Import AI70

    Jack Clark 谈 AI 进展与奇点未来,并讲述一则正向奇点故事

    Jack Clark 在 Oxford 的 Cosmos HAI Lab Lecture 中讨论 AI 持续进步带来的个人、组织与社会变化,主张面对技术发展并主动规划未来。他结合自身使用 AI 的经历以及 Anthropic 内部对 Claude 和智能体的应用,分析工作分工、验证机制和组织形态的变化,并以一则关于人类从长期休眠中苏醒的虚构故事收尾。

5月11日周一
5月4日周一
  1. Import AI74

    AI 系统可能在 2028 年底前自主构建后继者

    Jack Clark判断,到 2028 年底前出现能够自主训练后继版本的前沿模型,概率约为 60%。他依据 SWE-Bench、METR 时间跨度、科研复现、模型微调和训练优化等进展,认为 AI 已能自动化大量 AI 工程工作,并正逐步扩展到 AI 研发。文章同时讨论了递归自我改进带来的对齐、生产率分配和经济结构变化问题。