三藏-Chat是利用《西游记》中所有关于唐三藏的语句，以及Chat-GPT-3.5生成的相关问题结果，基于Internlm进行QLoRA微调得到的模仿唐三藏语气的聊天语言模型。
- CPU：Intel Core i5 或以上
- GPU：NVIDIA GeForce GTX 1060 或以上
- 内存：8GB 或以上
- 存储：至少20GB可用空间
⚙️部署BaJie-Chat到Linux环境中
# 进入源码目录
cd xtuner
# 从源码安装 XTuner
pip install -e '.[all]'apt install git git-lfs -y
git lfs install
git clone https://www.modelscope.cn/Shanghai_AI_Laboratory/internlm2-7b.gitxtuner train my_config/zbj_internlm2_chat_7b_qlora_oasst1_e3.py --deepspeed deepspeed_zero2xtuner convert pth_to_hf my_config/zbj_internlm2_chat_7b_qlora_oasst1_e3.py work_dirs/zbj_internlm2_chat_7b_qlora_oasst1_e3/{your checkpoint} process_data/hf_models/zbj
xtuner convert merge {your model path} process_data/hf_models/zbj process_data/merged_models/zbj- 修改
web_demo.py中的模型路径
- model = (AutoModelForCausalLM.from_pretrained('path/to/your/model',
- trust_remote_code=True).to(
- torch.bfloat16).cuda())
- tokenizer = AutoTokenizer.from_pretrained('path/to/your/tokenizer',
- trust_remote_code=True)
+ model = (AutoModelForCausalLM.from_pretrained('process_data/merged_models/zbj',
+ trust_remote_code=True).to(
+ torch.bfloat16).cuda())
+ tokenizer = AutoTokenizer.from_pretrained('process_data/merged_models/zbj',
+ trust_remote_code=True)pip install streamlit
pip install transformers>=4.34
streamlit run ./web_demo.py
本项目采用《西游记》剧本中关于猪八戒的台词和语句作为训练数据，同时使用了InternLM进行QLoRA微调以生成更加贴合猪八戒风格的语言。
详细数据处理流程请参考以下链接：
- qlora微调猪八戒
- 增添原著数据，优化原著对话数据
- 全量微调猪八戒
- 接入lmdeploy实现openai api
特别感谢上海人工智能实验室的支持！
🔍 探索八戒-Chat(Internlm-chat-7b)
更多拓展
React
Typescript
Django
Laravel
Facebook
Microsoft
Google
Alibaba
D3
Tencent