搜索“Anthropic”

Anthropic细化前沿AI风险治理

2024年10月15日,Anthropic发布负责任扩展政策重大更新,以更灵活、细致的框架评估和管理前沿AI系统可能带来的灾难性风险。新版政策设置自主AI研发和CBRN武器两类能力阈值;达到阈值后,将分别要求实施ASL-4或更高级别防护措施,以及ASL-3防护措施。政策还完善了能力评估、安全保障评估、内部治理和外部专家反馈机制。

Anthropic提出Contextual Retrieval方法

2024年9月19日,Anthropic提出Contextual Retrieval方法,用于改进RAG检索。该方法包含Contextual Embeddings和Contextual BM25两项子技术,据Anthropic介绍,可将top-20检索失败率降低49%,从5.7%降至2.9%;叠加reranking后降低67%,从5.7%降至1.9%。其做法是用Claude 3 Haiku为每个分块生成50-100 token的上下文说明,再拼接到分块前进行嵌入和建立BM25索引。配合prompt caching时,生成上下文化分块的一次性成本为每百万文档token 1.02美元。Anthropic同时提供了可直接部署的cookbook。目前尚无后续发展事实。

Anthropic API Console 引入 Works

2024年9月10日,Anthropic 在 API Console 中推出 Workspaces,为开发者提供按环境或项目组织 API 密钥、用量和设置的独立环境。Workspaces 支持按工作区设置月度支出上限、独立调整速率限制、分配用户权限,并按工作区查看用量和成本。

Anthropic发布Claude 3.5 Sonnet

2024年6月21日,Anthropic发布Claude 3.5 Sonnet模型。该模型在GPQA、MMLU、HumanEval等基准测试中超越Claude 3 Opus,速度提升2倍,并推出Artifacts功能。目前该模型已上线,供用户使用。

Anthropic推出提示生成器

2024年5月20日,Anthropic在开发者控制台推出提示词生成器。用户描述任务后,Claude会运用角色设定、链式推理等技巧生成可编辑的提示词模板。该功能基于一个长提示词实现,并支持将模板变量用于评估。ZoomInfo称其将提示词优化时间减少了80%。

Anthropic更新负责任扩展政策

Anthropic 发布重大更新 负责任扩展政策（RSP）

查看事件：Anthropic细化前沿AI风险治理

Anthropic提出上下文检索方法

Anthropic 提出 Contextual Retrieval方法

查看事件：Anthropic提出Contextual Retrieval方法

Anthropic API Console 引入 Workspaces

Anthropic 引入 Workspaces

查看事件：Anthropic API Console 引入 Works

Anthropic发布Claude 3.5 Sonnet

Anthropic 发布 Claude 3.5 Sonnet

查看事件：Anthropic发布Claude 3.5 Sonnet

Anthropic在开发者控制台推出提示生成器

Anthropic 推出 提示生成器

查看事件：Anthropic推出提示生成器