跳到正文

#数据/训练

今日 1 条
今天10月1日周四
9月29日周二
  1. Hugging Face Blog76

    NVIDIA 发布 Kumo Tabular 表格预测基础模型

    NVIDIA 发布 Kumo Tabular,一款面向表格分类和回归的开放基础模型,可在单次前向推理中直接预测新行,无需训练、调参或特征工程。模型提供 28M 至 215M 参数的三种规格,通过 Hugging Face 提供,采用 OpenMDW-1.1 license,支持商业使用。

    推荐理由:材料同时交代了免训练推理、人工数据预训练方式与四项基准结果,便于评估其工程可用性。

9月28日周一
9月24日周四
  1. NVIDIA Blog74

    NVIDIA与合作伙伴如何用开放科学为下一次大流行做准备

    NVIDIA与Google DeepMind等机构合作,通过AlphaFold Database公开超过2,800种病毒蛋白质复合物的预测3D结构。数据由AlphaFold2结合NVIDIA BioNeMo Inference Runtime生成,约30%的蛋白质相互作用此前未在Protein Data Bank中记录。

    推荐理由:开放数据覆盖超过2,800种病毒且约30%的蛋白质相互作用此前未被记录,同时提供可复用的结构预测流程。

9月16日周三
  1. Google Research58

    Retrieve-for-Train 用离线强化学习加速复杂 AI 搜索

    Google Research 在 ICML 2026 论文中提出 Retrieve-for-Train,用离线强化学习生成与集合属性对齐的查询分解监督,再训练 53.9M-parameter 扩散检索器,在单次非自回归过程中生成完整目标集合。该方法在时延上相较自回归方法实现 12 to 20 speedup,并在大上下文批处理中将近 50 秒的自回归扇出延迟降至亚秒级到数秒。

9月11日周五
  1. Google Research60

    Google Research 提出 ToolGrad:用文本“梯度”高效生成工具调用数据集

    Google Research 在 ACL 2026 介绍 ToolGrad,通过先生成经验证的工具调用链,再标注对应用户查询,迭代构建更复杂的工具调用数据。基于 ToolBench 的 16k+ APIs,ToolGrad 以更低成本和更高通过率生成数据;使用 ToolGrad-500 微调的 Gemma-3-12B 在 BFCL 上取得 83.1 分。

    推荐理由:文章清楚拆解了从工具链生成、执行筛选到查询更新的流程,并用 BFCL 结果展示该方案的训练效果与成本取舍。

9月8日周二
  1. Google DeepMind78

    Google DeepMind 推出 AlphaGenome Atlas,预测人类基因组 9 billion 个单核苷酸变异影响

    Google DeepMind 推出 AlphaGenome Atlas,预计算人类基因组约 9 billion 个单核苷酸变异的分子影响预测。平台提供由 AlphaGenome 和 AlphaMissense 预测整合而成的 AVI score,并通过网站、AlphaGenome API 和 Google Antigravity 中的 skill 提供访问。

    推荐理由:文章把 AlphaGenome Atlas 的数据、AVI 评分和真实研究案例串联起来,呈现其如何帮助研究者筛选非编码变异并追踪分子影响。

  2. Mistral AI76

    Mistral 完成 €3B Series D 融资,推进主权开放权重 AI

    Mistral 宣布完成 €3B Series D 融资,投后估值超过 €21B,Samsung Electronics 领投,Scaleup Europe Fund 和 PSG Equity 联合领投。公司将扩大前沿研究、训练算力和基础设施,推动商业增长与国际化布局,并继续发展由开放权重模型、基础设施、算力和产品组成的全栈方案。

    推荐理由:这轮融资把 Mistral 的开放权重路线与训练算力、基础设施和商业扩张放在同一项资本动作中观察,呈现其主权 AI 定位的推进方式。

9月4日周五
  1. Google Research82

    Google Research 发布完整雄性果蝇脑及中枢神经系统连接组图谱

    Google Research 与 HHMI Janelia 等合作发布了雄性果蝇大脑和中枢神经系统的完整连接组图谱,包含超过166,000个神经元和125 million个突触连接,按神经元数量计算为目前最大的脑图谱。该成果发表于 Cell,图谱经过 HHMI Janelia 人类专家标注和校验。研究人员可通过开源工具 Neuroglancer 查看、探索和下载这份数据。

    推荐理由:文章展示了 AI 连接组学如何把电子显微镜切片重建为可验证的细胞级图谱,并说明雌雄连接组可用于研究神经差异和行为机制。

9月3日周四
  1. Hugging Face Blog60

    LFM2.5-350M 如何用 GRPO 提升结构化输出合规性

    Hugging Face Blog 给出使用 TRL 和 GRPO 微调 LFM2.5-350M 的公开流程,在约 500 个样本和 100 个训练步骤后,IFStruct 通过率从 22.6% 提升至 29.7%。该流程使用 LoRA 训练约 6M 参数,并在相同服务栈下比较基础模型与微调模型,JSON 通过率由 18.0% 提升至 31.9%,YAML 由 27.2% 变为 27.5%。

    推荐理由:文章给出基于 TRL 和 GRPO 的小模型结构化输出微调流程,并用同一 IFStruct 服务栈展示 22.6% 到 29.7% 的可复现实测变化。

9月2日周三
9月1日周二
8月27日周四
  1. Google Research49

    GlucoFM:用于连续血糖监测的基础模型

    GlucoFM 是一种用于连续血糖监测(CGM)的自监督基础模型,以双流设计分离较慢的血糖趋势与短期偏差,并保留时段和缺失信息。在四个队列、七项临床预测任务的14项队列—任务评估中,其平均 PR-AUC 比同语料预训练的最佳 GluFormer 变体高5.8个百分点,并在糖尿病风险和β细胞功能障碍评估中全部领先。

8月25日周二
8月24日周一
8月21日周五
  1. Google Research55

    Google Research 如何用移动数据让语言模型更深入理解地点

    Google Research 提出 Mobility-Embedded POIs(ME-POIs)框架,将匿名聚合移动模式与地点文本表示结合,以建模地点的动态功能。在洛杉矶和休斯顿的未见地点测试中,该框架使访问意图预测相对提升最高达 81.9%,价格水平分类提升 75.1%,繁忙程度估计准确率提升 24.7%。ME-POIs 面向地点和商家的群体性聚合特征,不用于个人个性化推断。

  2. Microsoft Research60

    Microsoft Research 发布 Skala 1.1,扩展 DFT 精度与软件集成

    Microsoft Research 发布 Skala 1.1,训练数据量达到上一版本的 2.5x,并在热化学、反应动力学和分子结构预测等任务中提升准确性。在 GMTKN55 的 55 个类别中,Skala 1.1 有 32 个类别获得最高排名,当前已集成到 CP2K,并正在接入 Psi4、FHI-aims、ORCA 和 VASP。

    推荐理由:文章将 Skala 1.1 的精度提升、2.5x 数据扩展与 CP2K 等软件集成放在一起,呈现其从模型改进走向科研工作流应用的路径。

8月17日周一
  1. Google Research63

    Google Research 提出 PhotoScan 用智能手机图像估计心脏代谢风险

    Google Research 介绍 PhotoScan,一种从标准 2D 智能手机照片估计体脂率、A/G 比和 V/S 比的深度学习框架。模型使用 UK Biobank 的 35,323 条记录预训练,并在 677 名成人数据上微调,在 132 人的独立验证队列中评估。

    推荐理由:文章比较了 PhotoScan、BIA 与 DXA 在体成分估计和胰岛素抵抗分类上的表现,呈现了智能手机图像的应用边界。

8月12日周三
8月10日周一
  1. Import AI61

    Import AI 468:23 项自动化 AI 研发政策建议、PostTrainBench+ 与 AI 竞赛中的信任和透明度

    IFP 提出涵盖 7 类的 23 项政策建议,以应对进一步自动化 AI 研发的风险,包括提高透明度、发展验证技术及增强社会韧性。Intology 的 Locus 搭配 Opus 5 在 PostTrainBench 上取得 44.7%,并在放宽算力限制的 PostTrainBench+ 中使用超过 4000 小时的 H100 GPU 算力取得 51.6%,超过人类基线。

8月6日周四
  1. Google DeepMind87

    Google DeepMind 开源 WeatherNext,飓风预测平均提前获得一天优势

    Google DeepMind 发布并开源 WeatherNext 2、WeatherNext Cyclones 和 WeatherNext 2-mini,WeatherNext Cyclones 在飓风路径、强度和风场结构预测上平均获得超过 24 小时的提前量。

    推荐理由:原文同时给出 WeatherNext 的预测增益、训练数据规模和开源范围,便于了解 AI 气象模型如何支持更早的飓风风险研判。

8月4日周二
7月26日周日
  1. Berkeley AI Research58

    ABBEL 通过信念状态提升 LLM 长程交互效率

    Berkeley AI Research 提出 ABBEL,通过周期性更新并监督自然语言信念状态,让智能体在长程交互中用信念替代完整历史作为工作上下文。在 CollabBench 协作编码中,重构式信念评分将与完整上下文模型的性能差距缩小约50%,训练步数从100降至50,同时峰值上下文 token 长度低于完整上下文设置。

7月23日周四
  1. Google Research71

    Google Research 展示让量子计算机从错误中学习的强化学习控制

    Google Research 在 Nature 发表研究,展示一种强化学习框架,可利用量子错误检测事件持续调节控制参数,在计算不中断的情况下抵抗漂移。该方法在 Willow 超导处理器上使逻辑稳定性提升 3.5 倍,并在人工校准后进一步将逻辑错误率降低 20%;模拟显示所需训练迭代次数与系统规模无关。

    推荐理由:文章把量子纠错产生的错误检测事件转为强化学习信号,展示了连续校准如何在不中断计算的情况下抑制硬件漂移。

7月16日周四
  1. Google Research54

    Google Research 论文解释扩散模型的创造力来自 score smoothing

    Google Research 在 ICLR 2026 论文中指出,扩散模型的创造力来自神经网络训练对 score function 产生的 score smoothing,而非随机现象。研究表明,正则化会让模型在训练数据点之间生成新的合理样本,并在高维场景中帮助恢复数据流形。Google Research 同时发布了用于生成论文图表的数值实验代码。

7月9日周四
7月6日周一
  1. Hugging Face Blog66

    PRX 第四部分:数据策略

    PRX 团队介绍了其图像生成模型的预训练数据流程:混合公共与内部数据集,使用 VLM 为图像生成长描述,并以 Lance 构建和探索数据、以 Mosaic Data Shards(MDS)供训练流式读取。团队在数亿级数据上采用 JPEG quality 92、分辨率与宽高比分桶、基于 caption 的过滤和感知哈希去重,并选择 Qwen3-VL-8B 作为 captioner。

    推荐理由:文章把 PRX 的大规模图像训练数据流程拆成可复用环节,覆盖数据探索、VLM 重标注、格式转换、过滤去重及工程取舍。

6月30日周二
  1. Hugging Face Blog49

    为什么 AI 系统的专业化不可避免

    优化理论、生物学与竞争市场共同指向:在算力、数据和开发时间有限的条件下,AI 系统通过专注特定目标、以广度换取匹配度,往往能获得更高性能。Goldfeder 等人在 2026 年论文《AI Must Embrace Specialization via Superhuman Adaptable Intelligence》中进一步论证,通用性并非性能优势,“普适通用”在实践中只是神话。

  2. Google Research70

    Google Research 发布 TabFM:面向表格数据的零样本基础模型

    Google Research 发布 TabFM,这一面向表格数据分类和回归的基础模型可通过单次前向传播生成预测,无需手动训练、超参数调优或复杂特征工程。TabFM 采用交替行列注意力、行压缩和 Transformer,并基于数亿个合成数据集训练。

    推荐理由:文章解释了 TabFM 如何用交替行列注意力、行压缩和合成数据训练,将表格分类与回归转为零样本推理,并给出 BigQuery 使用入口。

6月25日周四
  1. Google Research53

    Google Research 论文提出线性弹性缓存,降低 Spanner 缓存成本

    Google Research 在 CIDR 2025 论文中提出线性弹性缓存,将页面淘汰建模为 ski rental 问题,并根据实时负载动态调整缓存大小。在 Spanner 生产服务器的测试中,内存使用减少 15.5%,缓存未命中增加 5.5%,TCO 降低约 5%,实际 I/O 成本仅增加 0.5%。该方法使用轻量级决策树预测页面 TTL,缓存物理空间不足时仍由 LRU 管理。

6月17日周三
  1. Google Research62

    Google Earth AI 将 Farmscapes 2020 转为自然恢复矢量数据

    Google Research 发布矢量化数据集,将 Farmscapes 2020 的高分辨率地图转化为包含树篱、石墙和小型林地的可操作清单。该框架使用在 300 million 全球卫星图像上预训练的 Remote Sensing Foundations Vision Transformer,并结合亚米级影像和 1-meter LiDAR 数据识别复杂农田景观。

    推荐理由:文章展示了如何将高分辨率卫星影像与 LiDAR 数据转化为可用于生态恢复和碳核算的精细化地理数据。

6月11日周四
  1. Google Research64

    Google Research 提出机器遗忘审计新框架

    Google Research 提出 Regularized f-Divergence Kernel Tests,用相对三样本检验审计差分隐私与机器遗忘。该框架在 SVT3 隐私违规检测中仅用几千个样本,而 DP-Auditorium 需要数百万个样本才能达到相近的检测率。对所评估的近似机器遗忘方法,只有 random label technique 通过了测试,作者同时说明实验使用了简化实现。

    推荐理由:文章把机器遗忘审计从直接比较两模型改为相对三样本检验,并展示其在隐私审计中减少样本需求、识别局部偏移的具体效果。