←搜索结果

按匹配度 · 共 1562 条结果 清除搜索

星期二

  1. AWS Machine Learning

    在 Amazon Bedrock 上通过全球跨区域推理访问 OpenAI GPT-6 模型(泰国、马来西亚、新加坡、印度尼西亚和台湾)

    Amazon Bedrock 面向泰国、马来西亚、新加坡、印度尼西亚和台湾五个 AWS Region 提供 OpenAI GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra 的全球跨区域推理,其中 GPT-6 Astra 从亚太(新加坡)提供。用户通过传入 global.openai.gpt-6-sol、global.openai.gpt-6-luna 等推理配置文件 ID 调用,支持 Converse API、OpenAI 兼容 API 以及 ChatGPT 桌面应用和 Codex CLI,计费、配额、CloudTrail 和 CloudWatch 均保留在源 Region。Codex 报告这些配置文件支持 272,000 token 上下文窗口。

    匹配字段摘要、正文

  2. The New Stack

    Kubernetes 上的 GPU 为何要自带全套可观测与计费能力

    The New Stack 分析指出,GPU 工作负载在 Kubernetes 上缺少 CPU 和内存那样现成的可见性,指标、配额、归属和计费规则都要自己搭建。DCGM 默认按物理设备上报,多 Pod 共享 GPU 时每个 Pod 都显示占用整卡,加总会出现 300% 的失真数据;计算份额在并行共享场景下无法准确归属,文章建议按显存计费、把计算利用率当作信号。文中还提到 AWS 上最便宜的 MIG 兼容 A100 实例约 22 美元/小时,spot 约 14 美元/小时,而同规格纯 CPU 实例约 5 美元/小时。

    匹配字段摘要、正文

星期五

  1. LlamaIndex 产品、工程与评测

    MyMagic AI 批量推理集成 LlamaIndex:使用指南

    MyMagic AI 的批量推理 API 已集成进 LlamaIndex,支持 Llama 70B、Mistral 7B、Mixtral 8x7B、CodeLlama70b 及 Embedding 模型,可处理数据提取、摘要、分类、情感分析、训练数据生成和嵌入等任务。用户将文件放入 AWS S3 或 GCS 的 session 文件夹后,通过 LlamaIndex 封装发起请求,可动态指定 prompt、模型和 max_tokens;官方建议尽量使用异步 acomplete 接口,目前不支持 chat/achat 方法。其训练数据生成速度相比 GPT-3.5 可提升 5-10 倍。

    MyMagic AI 的批量推理 API 已集成进 LlamaIndex,支持 Llama 70B、Mistral 7B、Mixtral 8x7B、CodeLlama70b 及 Embedding 模型,可处理数据提取、摘要、分类、情感分析、训练数据生成和嵌入等任务。用户将文件放入 AWS S3 或 GCS 的 session 文件夹后,通过 LlamaIndex 封装发起请求,可动态指定 prompt、模型和 max tokens;官方建议尽量使用异步 acomplete 接口,目前不支持 chat/achat 方法。其训练数据生成速度相比 GPT-3.5 可提升 5-10 倍。

    匹配字段摘要、正文

  2. Muse

    Muse 回应钓鱼邮件反制:小心自食其果

    用户 TLM13 称收到钓鱼邮件后,让 @Muse 读取邮件头、追踪伪造域名并起草 AWS 下架报告,十分钟内完成反制。Muse 转发并评论:“careful what you phish for”(钓鱼前先想清楚后果)。

    匹配字段摘要

  3. AWS Machine Learning

    如何用 Amazon SageMaker HyperPod 实现多团队共享 GPU 集群的隔离与公平

    Amazon SageMaker HyperPod 推出基于 EKS 的多租户参考架构,让多个团队共享同一 GPU 集群。该架构用 AWS IAM Identity Center 做集中认证、按团队划分 SageMaker AI 域和 Kubernetes 命名空间实现隔离,并通过 HyperPod Task Governance 公平分配资源、按命名空间分摊成本。

    Layered multi-tenant HyperPod EKS architecture from user identity through authorization to isolated team namespaces

    匹配字段摘要、正文

星期四

  1. The Next Platform

    分布式 AI 训练如何改变数据中心之间的网络

    Google、微软、AWS、Meta 等已把大模型训练扩展到多个数据中心:Google 称 Gemini 采用跨集群同步训练,微软把威斯康星与佐治亚的 AI 数据中心连成一台分布式 AI 超级计算机,AWS 跨广域连接集群供 Anthropic 训练 Claude。Cisco 估计如今训练模型可能需要数万块 GPU 的集群,Epoch AI 预计到 2030 年最大单次前沿训练耗电可达 4-16GW;Cisco 建模显示分布式 AI 部署的聚合带宽需求约为传统 DCI 基线的 14 倍。

    匹配字段摘要、正文

  2. MarkTechPost

    Anthropic 发布 Claude Haiku 5.5:1M 上下文,输入每百万 token 0.10 美元

    Anthropic 发布 Claude Haiku 5.5,这是其目前最便宜最快的小模型,保持 1M token 上下文窗口和最高 128K 输出 token,100K token 以内提示的输入价格为每百万 token 0.10 美元、输出 0.50 美元,比 Claude Haiku 4.5 低 90%。该模型已通过 Claude API、Amazon Bedrock、Google Cloud、Microsoft Foundry 和 AWS 上的 Claude Platform 正式提供,是首个带可调 effort 设置的 Haiku 级模型,自适应思考默认开启、effort 默认 medium。Anthropic 自报的基准中,OSWorld 2.1 为 72.4%,Terminal-Bench 4.0 为 39.2%,Humanity's Last Exam 无工具 45.9%、带工具 57.4%。

    匹配字段摘要、正文

  3. gihyo.jp

    Anthropic 发布 Claude Haiku 5.5,运行成本较 Haiku 4.5 平均降约 75%

    Anthropic 于 10 月 7 日发布 Claude Haiku 5.5,在编码、计算机操作和知识工作上较 Haiku 4.5 提升,运行成本平均降低约 75%,已在 Claude Platform、Claude Code 以及 AWS、Google Cloud、Microsoft Azure 上线。该模型面向摘要、分类、对话历史压缩、数据库查询等高频低成本任务,也可作为 Opus 5.5 或 Sonnet 5.5 的子智能体使用;上下文窗口从 20 万扩至 100 万 token,最大输出从 6.4 万增至 12.8 万 token,并首次在 Haiku 系列支持 effort 设置,默认 medium。评测方面,Terminal-Bench 4.0 得 39.2%(Haiku 4.5 为 0.0%,Sonnet 5.5 为 70.6%),OSWorld 2.1 离线评测得 72.4%(Haiku 4.5 为 15.7%,Sonnet 5.5 为 83.9%)。

    匹配字段摘要

  4. The Decoder精选

    Anthropic 发布 Claude Haiku 5.5,价格最高降 90%

    Anthropic 发布 Claude Haiku 5.5,这是其目前最快、最便宜的小模型,平均价格比 Haiku 4.5 低约 75%,10 万 token 以内提示词最高降价 90%,超过 10 万 token 则贵 5 倍。基准测试显示其计算机使用能力提升明显,OSWorld-2.1 得分从 15.7% 升至 72.4%,Terminal-Bench 4.0 从 0 升至 39.2%,Humanity's Last Exam 无工具 45.9%、有工具 57.4%。该模型是首个支持可调推理等级的 Haiku 级模型,已在 AWS、Google Cloud 和 Microsoft Azure 上线,同时 Sonnet 5.5 的缓存读取费用从每百万 token 0.20 美元降至 0.10 美元。

    匹配字段摘要

星期二

  1. AWS Machine Learning

    用 Amazon Bedrock AgentCore、托管知识库和 Nova Sonic 构建语音旅行助手

    AWS 发布方案,用 Amazon Bedrock AgentCore、Amazon Bedrock Knowledge Bases 和 Amazon Nova 2.5 Sonic 为航空公司应用搭建语音旅行助手,旅客可通过语音查询行程、改座位、更新餐食偏好和咨询政策。方案通过 AgentCore Gateway 以 MCP 连接后端,用 Strands Agents 框架托管在 AgentCore runtime,并支持转接人工客服。前端由 AWS Amplify 托管,后端使用 Lambda、DynamoDB 和 API Gateway。

    End-to-end voice concierge architecture spanning the backend, AgentCore Gateway, AgentCore runtime, and front end

    匹配字段摘要、正文

  2. AWS Machine Learning

    直接在 SageMaker Studio 中管理 Amazon SageMaker HyperPod Spaces

    AWS 推出新功能,数据科学家和 ML 工程师可直接在 Amazon SageMaker Studio UI 中创建、配置、启停和打开 SageMaker HyperPod EKS 集群上的 Spaces,无需再依赖 HyperPod CLI 或 kubectl。新界面位于 HyperPod 集群详情页的 IDE and Notebooks 标签页,支持 JupyterLab、Code Editor 及通过 SSH-over-SSM 连接 VS Code,冷集群启动通常需几分钟,配合超配约 30–40 秒。

    匹配字段摘要、正文

  3. AWS Machine Learning

    Amazon SageMaker HyperPod 管理与治理最佳实践

    AWS 发布 Amazon SageMaker HyperPod 管理与治理最佳实践,提出组织、项目、集群、工作负载四层控制模型,用于在 SageMaker Unified Studio 中向 ML 团队提供已批准的加速计算资源。文章建议将集群、调度器和稀缺加速器容量集中在一个指定容量账户中,并通过 IAM、Amazon EKS RBAC 或 Slurm 控制、任务治理配额与抢占策略来管理共享容量。

    Figure 1: The four layers of control—organization, project, cluster, and workload. Each layer answers a different question and uses a different control, so review each at its own boundary.

    匹配字段摘要、正文

星期三

  1. AWS Machine Learning

    如何在 AgentCore 和 OpenClaw 上构建上下文感知 AI 助手

    AWS 介绍如何用开源智能体系统 OpenClaw 搭配 Amazon Bedrock AgentCore runtime 和 AgentCore memory 构建带长期记忆的个人助手,并以园艺助手 Sprout 为例。文本对话路由到 Claude Haiku 4.5,图像理解路由到 Claude Sonnet 4.5,整套系统放在单个 CloudFormation 模板中一键部署,轻量个人使用每月约 1–2 美元。

    Telegram chat where Sprout recalls the user’s full garden inventory, location, and sun exposure in response to a question

    匹配字段摘要、正文

星期一

  1. AWS Machine Learning

    LangChain 与 Amazon Bedrock Knowledge Bases 的智能体检索实践

    Amazon Bedrock Managed Knowledge Base 新增智能体检索能力,通过 AgenticRetrieveStream API 将多部分问题拆解为子查询、执行并判断证据是否充分,不足时再次检索;langchain-aws 包同时暴露该路径与标准 Retrieve API 单次混合搜索。文中用同一多部分问题对比两条检索路径,并分析各自成本与适用场景。

    Application querying Amazon Bedrock Knowledge Bases through the Retrieve and AgenticRetrieveStream APIs to return document chunks and generate a grounded response

    匹配字段摘要、正文

  2. AWS Machine Learning

    让 Amazon Quick 达到企业级:自动化、可审计的跨账户资源迁移

    Amazon Quick 的跨账户资源迁移此前只能手工重建,AWS 现推出 Quick Resource Migrator——一个托管在 Amazon Bedrock AgentCore 上的 MCP 服务器,通过单次工具调用即可把 chat agents、action connectors、知识库、flows 和 spaces 从开发账户迁移到生产账户。该工具为幂等 upsert,更新前会把版本化备份写入 Amazon S3,并提供只读预览,权限通过 Describe*Permissions API 原样复制,源代码已在 aws-samples 仓库公开。

    Three-account architecture: a runner account hosts the MCP server on Amazon Bedrock AgentCore and assumes roles into the source and target accounts

    Amazon Quick 的跨账户资源迁移此前只能手工重建,AWS 现推出 Quick Resource Migrator——一个托管在 Amazon Bedrock AgentCore 上的 MCP 服务器,通过单次工具调用即可把 chat agents、action connectors、知识库、flows 和 spaces 从开发账户迁移到生产账户。该工具为幂等 upsert,更新前会把版本化备份写入 Amazon S3,并提供只读预览,权限通过 Describe Permissions API 原样复制,源代码已在 aws-samples 仓库公开。

    匹配字段摘要、正文

星期日

  1. 量子位

    最火AI岗位FDE:月薪5万,都干这些…

    量子位访谈了6位FDE(Forward Deployed Engineer,前线部署工程师)从业者,发现他们的工作内容差异很大。海外方面,Anthropic宣布投资1亿美元在2027年底前培训1万名FDE工程师,OpenAI带40亿美元投资成立专做部署的公司,AWS拿出10亿美元组建FDE部门;国内Kimi宣布联合多家IT服务商共建FDE队伍,腾讯云推出FDE工程师认证。从业者普遍表示沟通需求占七成以上时间,开发约占三成,核心工作之一是梳理企业Ontology。Baseten的FDE基本不驻场,而独立接单的从业者业务模式正偏向咨询。

    匹配字段摘要、正文

  2. Simon Willison

    Simon Willison:我们需要为几乎所有服务默认设置硬性预算上限

    Simon Willison 呼吁按用量付费的 API 和服务默认提供硬性预算上限,即达到每月 $X 后直接切断并返回错误,而非只发警告邮件的软上限。他认为编码智能体和各类个人智能体降低了启动付费服务的门槛,用户更愿意看到报错而不是一觉醒来收到 $10,000+ 的账单。他特别希望 AWS 提供该功能,并提到 Google Cloud 已于 7 月推出 Spend Caps。

    匹配字段摘要、正文

星期五

  1. The Verge AI

    亚马逊发文警告社区勿阻挠数据中心,并承诺超10亿美元社区投资

    亚马逊AWS CEO Matt Garman发布3000余字博客,呼吁公众支持AI数据中心项目,警告若各地通过数据中心禁令,美国可能在经济和国家安全竞争中落败。博客称全美正考虑超过100项数据中心禁令,并推出“Data Center Commitment”,承诺创造就业、防止推高当地电价,并投入超过10亿美元支持数据中心周边社区。亚马逊还表示不再与政府机构签署保密协议,此前民主党议员Jamie Raskin曾就科技公司与地方官员的秘密协议展开调查。

    匹配字段摘要

  2. AWS Machine Learning

    在 Amazon SageMaker AI 上用多轮 RL 微调搜索智能体

    AWS 介绍如何用 Amazon SageMaker AI 的多轮强化学习(MTRL)微调 Qwen3.6-27B 搜索智能体,让模型自主决定检索策略与停止时机。MTRL 以多轮 rollout 生成训练数据,支持 PPO、CISPO、IS 损失与 GRPO 等优势估计器,并提供无服务器执行、可恢复训练和 MLflow 轨迹观测。该方案以 nDCG@10 为主要奖励指标,训练后可在 SageMaker AI 端点或 Amazon Bedrock 上部署。

    匹配字段摘要、正文

  3. AWS Machine Learning

    用 Amazon Bedrock AgentCore 为 Claude Desktop 添加安全 Web Search

    AWS 发布教程,介绍如何通过 Amazon Bedrock AgentCore Gateway 为 Claude Desktop 接入 Web Search,弥补模型训练知识截止的缺口。该 Web Search 由 Amazon 网页索引支持,覆盖数百亿文档,查询流量全程留在 AWS 内,无需外部 API key。集成采用 AWS IAM Identity Center 经 Amazon Cognito 联邦签发 JWT 的入站认证,目前已在 us-east-1、eu-west-1 和 ap-northeast-1 三个区域可用。

    匹配字段摘要、正文