360 :开源智脑 7B,支持 50 万字长文本输入

360在GitHub上开源了360智脑7B(70亿参数模型)。该模型采用了3.4万亿Tokens的语料库进行训练,包括中文、英文和代码,开放了三种不同文本长度的模型。360表示,在多个评测数据集上验证了模型性能,并取得了不错的成绩。除了模型权重,还开源了微调训练代码和推理代码等工具。

开源地址:
https://github.com/Qihoo360/360zhinao

搜索