跳到正文

#数据/训练

今日 0 条
9月22日周二
  1. Latent Space78

    小米发布 MiMo-V2.6-Pro 开源全模态模型,训练成本约 300 万美元

    小米发布 MiMo-V2.6 系列开源全模态模型,其中 MiMo-V2.6-Pro 以 1.02T 总参数、42B 激活参数成为 Artificial Analysis 智能指数上排名最高的开源权重模型,输入输出价格分别为 $0.435/M 和 $0.87/M tokens,采用 MIT 许可。

    推荐理由:原文给出了 MiMo-V2.6-Pro 的参数量、训练成本和开源范围,读者可据此判断开源模型在 RL 路线上的进展。

9月1日周二
  1. Google Research65

    Google 发布 TimesFM-3 多变量时序预测基础模型

    Google Research 发布 TimesFM-3,这是其时序基础模型家族的新一代版本,原生预训练用于多变量预测,参数量 3.3 亿,在超过 1 万亿时间点的真实与合成语料上完成预训练。

    推荐理由:原文给出了模型架构、参数量、评测排名和开放入口,读者可据此判断它相对单变量模型的提升幅度。

6月30日周二
  1. Google Research77

    Google 发布 TabFM:面向表格数据的零样本基础模型

    Google Research 发布 TabFM,一个面向表格数据分类与回归的零样本基础模型,将表格预测重构为上下文学习问题,无需手动训练、调参和特征工程。模型采用交替行列注意力、行压缩和 ICL 混合架构,完全在数亿个合成数据集上训练,在 TabArena 基准上覆盖 38 个分类和 13 个回归数据集。

    推荐理由:原文给出了模型架构、训练方式和在 TabArena 上的评测结果,读者可据此判断零样本表格预测的实际能力。