数码杂锅

  • 首页
  • docker应用
    • docker知识
    • docker可视化管理
    • AIGC相关
    • 内网穿透
    • 在线文档
    • 笔记软件
    • 聊天软件
    • 刮削工具
    • 浏览器
    • 运维平台
    • 音乐软件
    • 网盘工具
    • 网络工具
    • 书籍管理
    • 在线教育
    • 备份同步
    • 相册管理
    • 协同办公
    • 抽奖系统
    • 稍后阅读
    • 工具集软件
    • 脚本平台
    • 密码管理
    • 数据库管理
    • 族谱管理
    • 思维导图
    • 视频会议
    • 文件管理
    • 监控管理
    • 远程桌面
    • Nas系统
    • 下载工具
    • devops代码托管
    • 导航书签
    • 办公软件
    • 聚合网盘
    • 智能家居
    • 网盘搜索
    • 影音播放
  • Nas杂项
    • 飞牛
    • 群晖
  • 电脑知识
  • 隐私政策
数码爱好者的分享小站
  1. 首页
  2. docker应用
  3. AIGC相关
  4. 正文

Nas上部署的大模型接口转换软件:simple-one-api,实现输出兼容的openapi接口

2024年10月28日 280点热度 0人点赞 0条评论

如果文章对您有帮助,

欢迎点赞、关注、分享


 

简介

目前市面上免费的使用国产的免费大模型越来越多,one-api(另外一个接口转换软件)对于个人用起来还是有点麻烦,就想要一个不要统计、流量、计费等等的适配程序即可。

还有一点是:即使有些厂商说兼容openai的接口,但是实际上还是存在些许差异的!!!

simple-one-api主要是解决以上2点,旨在兼容多种大模型接口,并统一对外提供 OpenAI 接口。通过该项目,用户可以方便地集成和调用多种大模型,简化了不同平台接口差异带来的复杂性。

开源代码页:https://github.com/fruitbars/simple-one-api

安装搭建

本次部署还是在飞牛nas的docker compose环境下,其他nas需对应修改映射目录部署

当前国内的免费大模型有以下这些:

simple-one-api支持的功能如下:

docker compose代码如下:


services:
  simple-one-api:
    image: fruitbars/simple-one-api
    container_name: simple-one-api
    ports:
      - "19090:9090"
    volumes:
      - ./config.json:/app/config.json
    restart: unless-stopped

可以看到配置里有个config.json的文件映射

各个模型的配置文件在大佬开源页有写,因为如果访问不了大佬的开源页,可以到我仓库看,我转了过来:

https://gitee.com/hswz5525/simple-one-api/tree/main/samples

仓库里对应模型的配置文件是config_****.json,需要把文件中通过模型注册后获得的对应的apikey等等数据修改成自己的,然后改名config.json放入nas的项目文件夹

 

大佬把各个模型的注册流程也都写好了,

https://gitee.com/hswz5525/simple-one-api/tree/main/docs

我开始注册的是百度千帆(这个大佬写的很清楚,我就不赘述了)

我测试了下,测试用的msty

接入接口我填的我容器对外接口地址http://192.168.1.112:19090/v1

api-key作者说随便填。。。

测试成功,效果如图:

有什么用?以后肯定会用到的

另外上一次文章

书签管理器hoarder的部署

红薯丸子,公众号:红薯丸子Nas上搭建自己的离线书签管理器(可自动保存完整网页副本):Hoarder

中书签管理器hoarder可以使用ai打标签了,就是那4个环境参数填入

自动打标签的效果如图所示,上一次没讲完,这次补充下

也就是把上篇文章中.env环境变量代码中的ai打标签部分配置下就行了

NEXTAUTH_SECRET=btjLioG8QFVsxJAiXdiUO55wST4v6lQzpD5PRsz7ny7MLavG
MEILI_MASTER_KEY=OWNhcZ7souiAQil5dpBfO5CWGkHXyZW9kKoF5kMEQ9d3Ms/d
NEXTAUTH_URL=http://192.168.1.112:3000/
#这个是hoarder的容器外地址
#HTTP_PROXY=http://192.168.1.106:10809
#这个是代理,如果hoarder运行正常就不挂代理
CRAWLER_FULL_PAGE_SCREENSHOT=true
#完整图片快照
CRAWLER_FULL_PAGE_ARCHIVE=true
#完整网页副本
CRAWLER_JOB_TIMEOUT_SEC=180
#网页爬取响应时间
OPENAI_BASE_URL=http://192.168.1.112:19090/v1/
#这个是simple-one-api的容器对外接口地址
OPENAI_API_KEY=123
#这个key随便写
INFERENCE_TEXT_MODEL=7414723666912722955
#这里是文本图形名称
INFERENCE_IMAGE_MODEL=7414723666912722955
#这里是图形模型名称

hoarder这里我用的是simple-one-api转换后的字节的coze.cn的模型,千帆和星火我都试过,转换后在msty前端也能用,但是hoarder里不行,可能是simple-one-api转换的兼容性还没那么强吧

再比如你的小爱音箱也能接入大模型了,这个如果有需要的话下次单独说下

 

本篇相关yml等文件下载:

链接:https://gitee.com/hswz5525/dockercompose


 

文章底部nas合集目录中有更多软件文章,希望能帮助到你

有好的建议或者需求也可以底部留言告诉我,知无不言,互助共进

 

相关文章

  • Nas上部署一款开箱即用的在线视频播放器docker应用:MoonTV
  • Nas上部署一款开源、轻量的在线视频搜索与观看docker应用:libretv
  • 告别U盘拷来拷去!只要几分钟就能拥有个人或企业专属「影音库」:mediacms
  • Nas上部署智能表格+工作流+应用搭建的一站式数字化平台:SeaTable最新5.3版本
  • Nas上docker部署一个动画数字人:Awesome Digital Human
  • Nas上docker部署web文件分享快递柜:FileCodeBox
  • nas上部署m3u8在线视频下载工具:mediago
  • 一款多平台的开源电子书阅读器:Anx-Reader
标签: 暂无
最后更新:2025年4月24日

红薯丸子

好好学习,天天向上

点赞
< 上一篇
下一篇 >

文章评论

razz evil exclaim smile redface biggrin eek confused idea lol mad twisted rolleyes wink cool arrow neutral cry mrgreen drooling persevering
取消回复

COPYRIGHT © 2024 红薯丸子. ALL RIGHTS RESERVED.

Theme Kratos Made By Seaton Jiang

简体中文简体中文
EnglishEnglish