【教程】黑五的吃灰小鸡怎么办？搭建多模型一站式AI平台

shc

大家好呀！距离上一次在loc和博客发布教程已经3年多了。

今天介绍一下如何利用吃灰小鸡搭建自己的多模型一站式AI平台，分享给身边朋友们家人们用还是相当方便的。

详细全文戳博客  https://qing.su/article/linux-ai-platform-with-coai.html

用到的程序是免费开源版的COAI/ChatNIO，支持GPT/Claude/Dalle/Midjourney/等等各种模型，也支持新的gpt-o1-preview和gpt-o1-mini.  文中使用的是Ubuntu 24.04系统，其它系统也类似。








我也不知道为啥，加上代码就直接403，于是把教程写在楼下吧

shc

本帖最后由 shc 于 2024-12-8 13:10 编辑

1. 安装MySQL + Redis

[ol]

apt install redis-server[/ol]复制代码[ol]

apt-get install npm golang-go mysql-server

mysql -u root -p

ALTER USERER 'root'@'localhost' IDENTIFIED BY 'password';

CREATE DATABASE coaidb;

CREATE USER 'coaiuser'@'localhost' IDENTIFIED BY 'password2';

GRANT ALL ON coaidb.* TO 'coaiuser'@'localhost';

FLUSH PRIVILEGES;

QUIT;[/ol]复制代码

shc

2. 编译安装COAI

[ol]

cd /opt

git clone https://github.com/coaidev/coai.git

cd coai

cp config.example.yaml config.yaml[/ol]复制代码

在config.yaml中填好数据库信息，然后编译安装。

[ol]

cd app

npm install -g pnpm

pnpm install

pnpm build

cd ..

go build -o coai[/ol]复制代码

建好systemD服务 /etc/systemd/system/coai.service

[ol]

[Unit]

Description=COAI Service

[Service]

Type=simple

User=root

WorkingDirectory=/opt/coai

ExecStart=/opt/coai/coai

Restart=always

[Install]

WantedBy=multi-user.target[/ol]复制代码
[ol]

systemctl daemon-reload

systemctl start coai.service

systemctl enable coai.service[/ol]复制代码

3. 设置Nginx反代

[ol]

apt-get install nginx certbot python3-certbot-nginx -y

cp /opt/coai/nginx.conf /etc/nginx/conf.d/coai.conf[/ol]复制代码

编辑/etc/nginx/conf.d/coai.conf，加一行
[ol]

server_name example.com[/ol]复制代码

重新加载Nginx

[ol]

nginx -t

service nginx reload[/ol]复制代码

配置Let's Encrypt

[ol]

certbot --nginx --redirect --hsts --staple-ocsp -d example.com[/ol]复制代码


安装完毕后，在后台配置好API就可以了。具体的图文可以参考我的博客文章

https://qing.su/article/linux-ai-platform-with-coai.html

如果有任何疑问，欢迎留言讨论哈~

tomcb

这种是搭建了直接能用还是要填其他平台的API进行中转？

shc

tomcb 发表于 2024-12-8 13:28

这种是搭建了直接能用还是要填其他平台的API进行中转？
要填API, 可以填官方的，也可以填第三方的。我就注册的坛子里之前老哥做的中转API，送的几块钱能用好久…

clak

tomcb 发表于 2024-12-8 13:28

这种是搭建了直接能用还是要填其他平台的API进行中转？
还得中转