热点:

    GPT第四代升级:处理速度翻倍

      [  中关村在线 原创  ]   作者:牛奶秋刀鱼

    GPT第四代升级:处理速度翻倍

    2月19日,OpenAI发布新闻稿宣布,其最新产品GPT-4 Turbo的处理速率已经翻倍。现在,每分钟可以处理高达150万个token(TPM),而且完全取消了每日限制。

    OpenAI为了防止滥用、确保公平性和管理基础架构负载,对企业的API访问进行了速率限制。这种限制可以防止恶意超载应用程序接口,确保所有用户都能公平地获得服务,并通过节流指定时间内允许的请求数量,在高需求期间保持平稳的性能。

    需要注意的是,这种速率限制是针对组织级别的,对于个人用户并没有太大影响。速率限制因所使用的模式而异,组织每月在API上所花费的总支出也有“使用限制”。

    相关阅读:

    《 OpenAI推出GPT-4 Turbo:支持128k上下文,集成DALL?3》

    本文属于原创文章,如若转载,请注明来源:GPT第四代升级:处理速度翻倍https://news.zol.com.cn/856/8563702.html

    news.zol.com.cn true https://news.zol.com.cn/856/8563702.html report 567 2月19日,OpenAI发布新闻稿宣布,其最新产品GPT-4 Turbo的处理速率已经翻倍。现在,每分钟可以处理高达150万个token(TPM),而且完全取消了每日限制。OpenAI为了防止滥用、确保公平性和管理基础架构负载,对企业的API访问进行了速率限制。这种限制可以防止恶意超载应用...
    • 猜你喜欢
    • 最新
    • 精选
    • 相关
    推荐问答
    提问
    0

    下载ZOL APP
    秒看最新热品

    内容纠错