[教程] 一键部署本地的开源的大语言模型

julie

利用Ollama 可以在本地部署大语言模型.

优点: 免费, 开源, 可玩性高, 记录在本地不上传, 模型有Un**ed版 (可以违反伦理道德的), 等等.

缺点: 回答质量不如chatgpt.

步骤:

1. 安装Ollama: curl -fsSL https://ollama.com/install.sh | sh

2. 下载一个语言模型, 比如llama2: ollama pull llama2

测试:

curl -X POST http://localhost:11434/api/generate -d '{
  "model": "llama2",
  "prompt":"Why is the sky blue?"
}'

更多的语言库: ollama.com/library