Anthropic 在 Claude 平台公测 Message Threads,长对话首 token 延迟降低约 35%
Anthropic 在 Claude 平台以公开测试形式推出 Message Threads,API 请求不再重发完整对话历史,只传输上次消息之后的增量内容。据 Anthropic 数据,在 50 万至 100 万 token 的请求中,首 token 时间缩短约 35%。该功能对编码智能体、computer-use 智能体和处理大量文档或图像的工作流收益最大;线程在请求之间以加密形式保存在内存中,闲置五分钟后过期,token 用量不变,因为 Claude 仍会读取完整对话历史。该功能可在 Claude 平台以及 AWS、Microsoft Foundry 和 Google Cloud 上使用。
#产品更新#部署/工程#Anthropic

