mirror of
https://www.modelscope.cn/IndexTeam/Index-1.9B-32K.git
synced 2026-04-02 22:02:52 +08:00
51 lines
3.1 KiB
Markdown
51 lines
3.1 KiB
Markdown
|
||
<div align="center">
|
||
<h1>
|
||
Index-1.9B-32K
|
||
</h1>
|
||
</div>
|
||
|
||
[Switch to English](https://modelscope.cn/models/IndexTeam/Index-1.9B-32K/file/view/master?fileName=README.md&status=1)
|
||
|
||
[切换到中文](https://modelscope.cn/models/IndexTeam/Index-1.9B-32K/file/view/master?fileName=README_zh.md&status=1)
|
||
|
||
|
||
---
|
||
## 模型简介
|
||
Index-1.9B-32K 是一个仅有 1.9B 参数、却具备 32K 上下文长度的语言模型（这意味着，这个超小精灵可以一次性读完 3.5 万字的文档）。该模型专门针对 32K 以上的长文本进行了持续预训练（Continue Pre-Train）和监督微调（SFT），主要基于我们精心清洗的长文本预训练语料、自建的长文本指令集进行训练。目前，我们已在 Hugging Face 和 ModelScope 上同步开源。
|
||
|
||
Index-1.9B-32K **以极小的模型体积（体积约为GPT-4等模型的2%）实现了出色的长文本处理能力**。以下为与 GPT-4、GPT-3.5-turbo-16k 的对比评测结果：
|
||
|
||
|
||
## Index-1.9B-32K模型下载、使用、技术报告：
|
||
Index-1.9B-32K模型下载、使用方法、技术报告详见：
|
||
|
||
[**Index-1.9B-32K长上下文技术报告.md**](https://github.com/bilibili/Index-1.9B/blob/main/Index-1.9B-32K长上下文技术报告.md)
|
||
|
||
|
||
|
||
## 局限性与免责申明
|
||
|
||
Index-1.9B-32K在某些情况下可能会产生不准确、有偏见或其他令人反感的内容。模型生成内容时无法理解、表达个人观点或价值判断，其输出内容不代表模型开发者的观点和立场。因此，请谨慎使用模型生成的内容，用户在使用时应自行负责对其进行评估和验证，请勿将生成的有害内容进行传播，且在部署任何相关应用之前，开发人员应根据具体应用对模型进行安全测试和调优。
|
||
|
||
我们强烈警告不要将这些模型用于制造或传播有害信息，或进行任何可能损害公众、国家、社会安全或违反法规的活动，也不要将其用于未经适当安全审查和备案的互联网服务。我们已尽所能确保模型训练数据的合规性，但由于模型和数据的复杂性，仍可能存在无法预见的问题。如果因使用这些模型而产生任何问题，无论是数据安全问题、公共舆论风险，还是因模型被误解、滥用、传播或不合规使用所引发的任何风险和问题，我们将不承担任何责任。
|
||
|
||
## 模型开源协议
|
||
|
||
使用本仓库的源码需要遵循 [[Apache-2.0]{.underline}](https://github.com/bilibili/Index-1.9B/blob/main/LICENSE) 开源协议，使用
|
||
Index-1.9B-32K的模型权重则需要遵循[[模型许可协议]{.underline}](https://github.com/bilibili/Index-1.9B/blob/main/INDEX_MODEL_LICENSE)。
|
||
|
||
Index-1.9B-32K模型权重对学术研究**完全开放**，并且支持**免费商用**。
|
||
|
||
## 引用
|
||
|
||
如果你觉得我们的工作对你有帮助，欢迎引用！
|
||
|
||
```shell
|
||
@article{Index-1.9B-32K,
|
||
title={Index-1.9B-32K Long Context Technical Report},
|
||
year={2024},
|
||
url={https://github.com/bilibili/Index-1.9B/blob/main/Index-1.9B-32K_Long_Context_Technical_Report.md},
|
||
author={Changye Yu, Tianjiao Li, Lusheng Zhang and IndexTeam}
|
||
}
|
||
``` |