Echo

Echo 关注TA

大家好,我是Echo!

Echo

Echo

关注TA

大家好,我是Echo!

  •  普罗旺斯
  • 自由职业
  • 写了282,893,208字

最近回复

该文章投稿至Nemo社区   资讯  板块 复制链接


OpenAI 放宽 GPT-4 Turbo 束缚:解除每日限制,每分钟最高可处理 150 万个 tokens

发布于 2024/02/19 18:55 81浏览 0回复 624

IT之家 2 月 19 日消息,OpenAI 在去年 11 月召开的 DevDay 活动中,推出了 GPT-4 Turbo,最多支持 12.8 万个 token:输入 token 是 GPT-4 的三分之一,输出 token 是其二分之一。

OpenAI 近日发布新闻稿,宣布 GPT-4 Turbo 速率上限翻番,每分钟最多可处理 150 万个 token(TPM),而且完全取消了每日限制。

OpenAI 为了防止滥用、确保公平性和管理基础架构负载,限制企业访问 API 的速率。这种限制可以防止恶意超载应用程序接口,确保所有用户都能公平访问,并通过节流指定时间内允许的请求数量,在高需求期间保持平稳的性能。

IT之家注:OpenAI 一共使用了 5 种速率限制:RPM(每分钟请求数)、RPD(每天请求数)、TPM(每分钟 tokens 数量)、TPD(每天 tokens 数量)和 IPM(每分钟图像数量)。

需要注意的是,速率限制是对组织级别实施的,对个体用户没啥影响。速率限制因所使用的模式而异,组织每月在 API 上的总支出也有 "使用限制"。

相关阅读:

OpenAI 推出 GPT-4 Turbo:支持 128k 上下文,集成 DALL・E 3,号称“比上代便宜 2/3”

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。


本文由LinkNemo爬虫[Echo]采集自[https://www.ithome.com/0/750/878.htm]

点赞(0)
点了个评