Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

希望增加一个自动更新渠道模型列表的功能 #1969

Open
5 tasks done
hanckjt opened this issue Dec 6, 2024 · 7 comments
Open
5 tasks done

希望增加一个自动更新渠道模型列表的功能 #1969

hanckjt opened this issue Dec 6, 2024 · 7 comments
Labels
enhancement New feature or request

Comments

@hanckjt
Copy link

hanckjt commented Dec 6, 2024

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,已确定现有版本无法满足需求
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

功能描述
很多渠道的模型更新很快,有些废除了,也有新增的,还有些改名了,但不可能每次都手动去oneapi上更新,一是不知道,二是很麻烦。为什么不直接用渠道的/models接口呢,大部分AI渠道都有这接口?可以在创建渠道的时候选择是否自动更新模型列表,这样就不用管了,定时更新,多方便呀。

应用场景

@hanckjt hanckjt added the enhancement New feature or request label Dec 6, 2024
@QAbot-zh
Copy link

QAbot-zh commented Dec 6, 2024

很有道理

@SammySnake-d
Copy link

如果可以的话希望可以在设置中自定义models,这样像一些新出的models或者小众的models也可以自己手动加,也不用等更新了。
目前如果要对已有渠道的模型更改,每次都要输入完整的模型名字,第三方部署后不能定义模型列表

@hanckjt
Copy link
Author

hanckjt commented Dec 23, 2024

这么好的建议希望开发者能采纳,谢谢。

@BaksiLi
Copy link
Contributor

BaksiLi commented Dec 29, 2024

其实主要的问题是怎么处理价格

@QAbot-zh
Copy link

其实主要的问题是怎么处理价格

价格本来就支持自定义啊

@BaksiLi
Copy link
Contributor

BaksiLi commented Dec 29, 2024

其实主要的问题是怎么处理价格

价格本来就支持自定义啊

你说得没错,是支持自定义。

我的意思是,从 model 拉取,其目的无非是想跳过人工维护,更快更新。但这个方法中,价格不是显然的,我们仍然需要额外从官网或者其他渠道拉取价格,并且处理成合适的样式(如 one-api 中单位是 0.5 M,补全的计算公式也有些需要额外注意的地方)。除此之外,也有一些付费模型会按照次数额外收费,这些如何处理?

只有把以上种种都考虑到了,才能变成一个可靠的「自动更新渠道模型列表」功能。

@QAbot-zh
Copy link

其实主要的问题是怎么处理价格

价格本来就支持自定义啊

你说得没错,是支持自定义。

我的意思是,从 model 拉取,其目的无非是想跳过人工维护,更快更新。但这个方法中,价格不是显然的,我们仍然需要额外从官网或者其他渠道拉取价格,并且处理成合适的样式(如 one-api 中单位是 0.5 M,补全的计算公式也有些需要额外注意的地方)。除此之外,也有一些付费模型会按照次数额外收费,这些如何处理?

只有把以上种种都考虑到了,才能变成一个可靠的「自动更新渠道模型列表」功能。

第一位是方便性,其次才是你说的可靠性,对很多人来说,最麻烦的就是在渠道编辑里一个个填入模型,费时费力,与之相对的,newapi 提供了【获取模型列表】、【渠道复制】、【标签聚合】等功能,哪怕是其【自定义输入】也支持逗号自动分割,允许一次性输入完整的模型列表字符串,带来了很大的便利性,而这方面 oneapi 可以说非常缺失,一旦渠道模型有更新,必须一个个渠道一个个模型的手动输入

image

image

image

对于你说的价格问题,先不说对于自用的人来说重要性不大,其次是【额外从官网或者其他渠道拉取价格】这个依靠第三方的方案没有太大的必要性和可靠性,价格本身在系统设置里是一次操作就可以覆盖所有渠道的(模型名称自定义就没有这种便利性),相对来说没有那么麻烦。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
enhancement New feature or request
Projects
None yet
Development

No branches or pull requests

4 participants