ColossalChat是由Colossal-AI推出的免費(fèi)開源版ChatGPT聊天機(jī)器人替代品,目前其GitHub項(xiàng)目已斬獲26K星標(biāo)。
作為當(dāng)今領(lǐng)先的開源大型人工智能模型解決方案,Colossal AI是第一個(gè)基于LLaMA預(yù)訓(xùn)練模型開源完整RLHF機(jī)制的公司,該機(jī)制包括監(jiān)督數(shù)據(jù)收集、監(jiān)督微調(diào)、獎(jiǎng)勵(lì)模型訓(xùn)練和強(qiáng)化學(xué)習(xí)微調(diào),并共享ColossalChat——與最初的ChatGPT技術(shù)解決方案非常相似的開源項(xiàng)目。
該開源項(xiàng)目包括以下內(nèi)容:
- Demo演示:一個(gè)交互式演示,無需注冊或加入等待名單即可在線試用
- 訓(xùn)練代碼:開源完整的RLHF訓(xùn)練代碼,包括70億和130億的模型。
- 數(shù)據(jù)集:開源104K中英文雙語數(shù)據(jù)集。
- 推理:僅需要4GB GPU內(nèi)存便可進(jìn)行70億參數(shù)模型的4-bit量化推理。
- 模型權(quán)重:在單個(gè)服務(wù)器上只需少量計(jì)算能力即可實(shí)現(xiàn)快速復(fù)制。