Ilya旗下SSI首个模型曝光,主打测试时训练

X网友爆料Ilya旗下SSI正探索基于TTT(测试时训练)的小型推理引擎,模型通过专门数据学习”如何学习”,在解题过程中更新部分权重,小规模也能与大模型抗衡;爆料称当前版本已就绪,团队正将下一代规模扩展10倍,最快8月向少数用户开放,与英伟达50亿美元投资及算力提升一个数量级的合作相呼应;TTT让模型在推理时用眼前数据继续训练自己、直接改变参数,区别于外部脚手架方案,但也面临学偏、遗忘等安全挑战,消息真实性尚未证实。

搜索