找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 0|回复: 0

[AIask]上线新模型 mercury-3,以扩散生成推理方式加速模型响应速度

[复制链接]

1289

主题

0

回帖

4223

积分

直接发帖组

积分
4223
发表于 2 小时前 | 显示全部楼层 |阅读模式
mercury-3,这是一款面向重视响应速度的应用场景的扩散式语言模型。与逐个词元生成文本的常见模型不同,扩散模型先生成答案的大致草稿,再经过多轮迭代不断修改,因此能够一次生成多个词语。据称该模型在英伟达显卡上的吞吐量为每秒1068 个词元,相比之下,Claude Haiku 5.5 约为240 个,GPT-6 Luna 约为130 个。

mercury-3,重点面向人工智能代理、搜索、客服、辅导等应用推广该模型,因为这些场景中的多次交互会让细小延迟不断累积。

请先注册: https://aiask.me/

开通方法:API 密钥 -> 创建密钥 -> 分组选择 组合,再选“默认”分组

默认分组 API 价格查看: https://aiask.me/model-plaza
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|中转API超市

GMT+8, 2026-11-3 07:58 , Processed in 0.036951 second(s), 25 queries .

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表