语言模型

Baichuan2是百川智能推出的新一代开源大语言模型，采用2.6万亿Tokens的高质量语料训练。在多个权威的中文、英文和通用、领域效果较佳。包含7B、13B的Base和Chat版本，可免费商用。

llama2.c使用纯C语言中推理一个baby Llama 2模型，你可以在PyTorch中从头开始训练Llama 2 LLM架构，然后将权重保存为原始二进制文件，再将其加载到一个用于推理的模型。

FreeWilly2是由Stability AI基于Llama2 70B所微调后发布的大语言模型，部分推理能力已经超越openAI的GPT-3.5。且在HuggingFace开源语言模型排行榜的榜首。

Alpaca模型是由坦福大学研发的LLM（Large Language Model大语言）开源模型，具有70亿的模型参数的Alpaca-LoRA，性能更优且推理能力更加强大，平民级别显卡也可以使用。

Meta发布的Llama2模型系列包含70 亿、130亿和700亿三种参数变体。训练数据比上一代多了40%，上下文长度翻倍，Llama 2 预训练模型在2万亿的token上训练并精调Chat等能力。

oobabooga的text-generation-webui可以用来启动、加载、管理几乎所有主流的开源语言模型，并且提供WebUI界面，支持加载LLaMA2和其它羊驼类微调模型训练和LoRA的加载。

开源语言模型transformers的GenerationConfig类包含所有语言模型参数，本站提供中文帮助文档，方便大家可以在线快速搜索查阅，了解各语言模型的主流参数作用，可以得到更好的推理结果。

ChatGLM2-6B是清华开源语言模型的最新升级版本、支持中英双语的对话语言模型，速度较上一代有较大提升。它使用了GLM架构和量化技术，可在消费级显卡上进行本地部署，效果堪比ChatGPT。

MLC LLM是一个通用的解决方案，可以在各种硬件后端和本地应用程序上原生部署任何语言模型，目前该模型支持IOS苹果、安卓、Windows、Linux和浏览器等全平台设备部署安装运行，非常方便。