←搜索结果

按匹配度 · 共 1645 条结果 清除搜索

星期日

  1. Johann Rehberger / Embrace The Red

    OpenHands 被提示注入劫持为 ZombAI 并实现远程代码执行

    安全研究者 Johann Rehberger 公开了针对 All Hands AI 的 OpenHands 的可用利用链,通过提示注入劫持该智能体,使其下载并运行恶意软件、连接攻击者控制的 C2 服务器,把实例变成 ZombAI。该利用复用了此前针对 Anthropic Claude Computer-Use Agent 的同一载荷,仅替换了执行的二进制文件;作者还演示了 AI ClickFix 攻击,OpenHands 会复制 shell 命令并粘贴进终端工具。作者建议本地版本在沙箱中运行并限制出站网络连接,同时指出厂商可参考 OpenAI Operator 的 Prompt Injection Monitor 等做法;他于 2025 年 3 月 13 日通过 GitHub 安全标签披露,超过 140 天未获实质处理后在 8 月 10 日公开。

    匹配字段摘要、正文

星期六

  1. Johann Rehberger / Embrace The Red

    OpenHands 的致命三要素:提示注入如何泄露访问 Token

    安全研究者 Johann Rehberger 披露 OpenHands(原 OpenDevin)存在零点击数据外泄漏洞:网页、源码或上传文档中的提示注入可借 Markdown 图片渲染,把容器内的 GITHUB_TOKEN 以 Base64 编码发送到第三方服务器。作者称直接读取 Token 会被模型拒绝,但通过只匹配 ghp_ 等子串并配合编码可绕过,且 OpenHands 对密钥的明文遮蔽也能被绕过。该漏洞于 2025 年 3 月 13 日私下报告给 All-Hands AI,148 天后未获修复,作者遂于 8 月 9 日公开;缓解建议是禁止渲染不可信域名的图片,例如用 Content-Security-Policy 限制图片来源。

    安全研究者 Johann Rehberger 披露 OpenHands(原 OpenDevin)存在零点击数据外泄漏洞:网页、源码或上传文档中的提示注入可借 Markdown 图片渲染,把容器内的 GITHUB TOKEN 以 Base64 编码发送到第三方服务器。作者称直接读取 Token 会被模型拒绝,但通过只匹配 ghp 等子串并配合编码可绕过,且 OpenHands 对密钥的明文遮蔽也能被绕过。该漏洞于 2025 年 3 月 13 日私下报告给 All-Hands AI,148 天后未获修复,作者遂于 8 月 9 日公开;缓解建议是禁止渲染不可信域名的图片,例如用 Content-Security-Policy 限制图片来源。

    匹配字段摘要、正文

星期三

  1. Johann Rehberger / Embrace The Red

    我花 500 美元实测 Devin 的提示注入漏洞

    安全研究者 Johann Rehberger 花 500 美元获取 Devin 30 天访问权限,实测了针对 Cognition 旗下 AI 软件工程师 Devin 的提示注入攻击。攻击者只需在 Devin 处理的网站或 GitHub issue 中植入指令,就能诱使它下载并运行恶意二进制文件,从而完全控制 Devin 的 DevBox,将其变成可远程操控的 ZombAI,并窃取其中的密钥。该漏洞于 2025 年 4 月 6 日报告给 Cognition,对方几天后确认,但后续关于修复时间线和协调披露的询问在 120 多天后仍未获回复,作者因此按负责任披露惯例公开。作者建议厂商不要依赖模型行为或对话内确认来保障工具调用安全,而应加入带外验证步骤、默认阻止出站连接,并开发提示注入监控。

    匹配字段摘要、正文

  2. Claude Platform:开发者版本说明精选

    Anthropic 发布 Claude Opus 4.1,编码与智能体任务升级

    Anthropic 发布 Claude Opus 4.1,在智能体任务、真实编码和推理上较 Opus 4 升级,SWE-bench Verified 达 74.5%。现已向付费用户、Claude Code、API、Amazon Bedrock 和 Google Cloud Vertex AI 开放,价格与 Opus 4 相同。GitHub、Rakuten 和 Windsurf 反馈其在多文件重构、精准修复和初级开发者基准上均有显著提升。

    匹配字段摘要、正文

星期六

  1. Johann Rehberger / Embrace The Red精选

    把 ChatGPT Codex 变成 ZombAI 智能体:依赖白名单可被提示注入利用

    安全研究者 Johann Rehberger 演示了如何通过间接提示注入把 ChatGPT Codex 变成僵尸网络节点。攻击者利用 Codex 的 Common Dependencies Allowlist 中 71 个域名里的 azure.com,在 Azure 上架设以 cloudapp.azure.com 结尾的 VM 作为 C2 服务器,再在 GitHub issue 中植入恶意提示,使 Codex 下载并执行恶意程序,从而远程控制该机器并读取环境变量、源码等数据。作者于 2025 年 6 月 10 日向 OpenAI 报告,当天被以 Not Applicable 关闭,他建议只使用自定义的精确域名白名单。

    匹配字段摘要、正文

星期三

  1. Ollama Blog精选

    Ollama 发布 macOS 和 Windows 桌面应用

    Ollama 的新应用已在 macOS 和 Windows 上线,提供下载模型并直接对话的图形界面。新应用支持拖放文件,可对文本或 PDF 进行推理,处理大文档时可在设置中提高上下文长度,但会占用更多内存。应用还基于新的多模态引擎支持向 Gemma 3 等模型发送图片,并能处理代码文件;纯 CLI 版本仍可在 Ollama 的 GitHub releases 页面单独下载。

    illustration of Ollama seeing the new app

    匹配字段摘要、正文

星期二

  1. Johann Rehberger / Embrace The Red

    Johann Rehberger 宣布 2025 年 AI 漏洞月,将披露 20 多篇智能体安全漏洞

    安全研究者 Johann Rehberger 宣布启动 2025 年 AI 漏洞月,8 月将发布 20 多篇关于智能体系统安全漏洞的博客,重点针对 AI 编码智能体。涉及系统包括 ChatGPT、ChatGPT Codex、Anthropic Claude Code、Google Jules、Amazon Q Developer、GitHub Copilot Agent Mode、AmpCode、Manus、OpenHands、Devin、Windsurf、Cursor 等,部分漏洞可通过提示注入在未经开发者同意的情况下攻陷其主机。作者称所有被审查的 AI 编码智能体都存在漏洞并已向厂商负责任披露,有的厂商数天内修复,有的数月未回应,部分问题至今未缓解。

    匹配字段摘要、正文

星期一

  1. Johann Rehberger / Embrace The Red

    用 MCP Server 托管 COM 对象:实现 Windows 与 Office 自动化

    Johann Rehberger 开发了 mcp-com-server,通过 MCP 协议抽象 Windows COM 对象,提供 CreateObject、Get/Set Property、InvokeMethod、QueryInterface 和 ListAllHostedServers 等工具,并设有 CLSID/ProgID 允许列表作为基本缓解措施。接入 Claude 后,该服务器可创建、打开、编辑并保存 Excel 文件,再打开 Outlook 发送邮件,还能调用 SAPI COM 对象让 Claude 发声,甚至复活 Internet Explorer。源代码已在 GitHub 发布。

    匹配字段摘要、正文

星期四

  1. Answer.AI 官方研发博客

    Answer.AI 发布 ReadBench:评测视觉语言模型的文本阅读能力

    Answer.AI 推出 ReadBench,将 MMLU-Redux、MMLU-Pro、GPQA-Diamond、BABILong 和 LongBench 等文本基准的上下文转为图片、问题保留文本,以评测 VLM 从文本图像中读取和推理信息的能力。结果显示几乎所有 VLM 在多模态输入下都出现性能下降,短于 1 页的输入下降较小,长输入下降非常显著,说明多页文档直接送入 Visual RAG 管线尚不可行。数据已发布于 HuggingFace,代码在 GitHub,论文在 arXiv。

    匹配字段摘要、正文

星期五

  1. Claude Platform:开发者版本说明精选

    Anthropic 发布 Claude Opus 4 与 Sonnet 4

    Anthropic 发布 Claude Opus 4 和 Claude Sonnet 4,在 SWE-bench 上分别取得 72.5% 和 72.7%。两款模型支持扩展思考时调用工具、并行工具执行和记忆文件,Claude Code 正式可用并新增 VS Code、JetBrains 扩展及 GitHub Actions 后台任务。

    匹配字段摘要、正文

星期四

  1. Cognition 模型 / Devin 博客

    Cognition 发布 DeepWiki MCP Server

    Cognition 推出官方 DeepWiki Model Context Protocol(MCP)服务器,完全免费且无需登录或认证,为 DeepWiki.com 上索引的所有 GitHub 仓库提供 ask_question、read_wiki_contents 和 read_wiki_structure 三个工具。用户可在 DeepWiki.com 索引公开仓库,私有仓库需注册 Devin 账号并连接 GitHub;开源维护者可申请 500 美元 Devin 额度。

    Cognition 推出官方 DeepWiki Model Context Protocol(MCP)服务器,完全免费且无需登录或认证,为 DeepWiki.com 上索引的所有 GitHub 仓库提供 ask question、read wiki contents 和 read wiki structure 三个工具。用户可在 DeepWiki.com 索引公开仓库,私有仓库需注册 Devin 账号并连接 GitHub;开源维护者可申请 500 美元 Devin 额度。

    匹配字段摘要、正文

星期一

星期六

  1. Browser Use

    Browser Use 获 1700 万美元融资,打造面向智能体的网页基础设施

    Browser Use 宣布完成 1700 万美元融资,由 Felicis Ventures 领投,A Capital、Nexus Ventures、Y Combinator、Paul Graham、Liquid2、SV Angel、Pioneer Fund 等参投。该项目最初是四天内做出的周末原型,如今已获得 5 万 GitHub star,超过 1.5 万名开发者在使用和贡献。与依赖视觉的方案不同,Browser Use 把网站界面转成结构化文本供 LLM 确定性处理,用于登录自动化、数据提取、QA 测试和 CRM 集成等场景。

    匹配字段摘要、正文

星期二

  1. Claude Platform:开发者版本说明精选

    Anthropic 发布 Claude 3.7 Sonnet 与 Claude Code

    Anthropic 发布 Claude 3.7 Sonnet,这是其首个混合推理模型,可在标准模式与扩展思考模式间切换,API 用户可控制思考 token 预算。模型定价与上一代相同,为每百万输入 token 3 美元、每百万输出 token 15 美元(含思考 token),已在所有 Claude 套餐及 Amazon Bedrock、Google Cloud Vertex AI 上线。同时推出终端智能编码工具 Claude Code 研究预览版,可搜索和阅读代码、编辑文件、运行测试并提交到 GitHub。

    匹配字段摘要、正文

星期一

  1. Zyphra Research

    Zyphra 发布 Zonos-v0.1 开源 TTS 模型

    Zyphra 发布 Zonos-v0.1 beta,包含两款 1.6B 文本转语音模型,分别为 transformer 和 SSM hybrid,均以 Apache 2.0 许可开源,权重已上线 Hugging Face,推理示例代码在 GitHub。模型基于约 20 万小时语音数据训练,支持 5 至 30 秒音频的高保真语音克隆,可调节语速、音高、音质和情绪,原生输出 44KHz 音频。Zyphra 称其生成质量可媲美或超过领先的闭源 TTS 模型,并给出 API 每分钟 0.02 美元的定价。

    匹配字段摘要、正文

星期二

  1. Cognition 模型 / Devin 博客

    Devin 101:用 Devin API 自动完成 PR 审查

    Cognition 发布教程,介绍如何通过 Devin External API 与 GitHub Actions 集成,在 PR 打开、更新或重新打开时自动启动 Devin 实例进行代码审查,通常 5 到 10 分钟内开始发布评论。文中引用一项覆盖 70 万+ PR 的研究称 PR 平均等待 4 天才能获得审查,500 行以上的大型 PR 平均 9 天才能合并。Cognition 同时推荐改用 Devin Review 作为新的代码审查体验。

    匹配字段摘要、正文

星期四

  1. OpenHands 官方博客

    OpenHands 通用软件开发智能体的 8 个用例

    OpenHands 官方博客列出通用软件开发智能体的 8 个用例:修 Bug、实现新功能、从零创建程序、修复失败的 CI、解决合并冲突、写文档、执行部署,以及通过 GitHub API 查看 issue、浏览文件系统并运行代码。文中以修复 CloudFlare 阻断 LLM 请求导致重试的 Bug 为例,展示智能体先定位问题、装依赖、用测试复现再修复,最后开 PR 并自动修 CI。部分任务已作为 microagents 内置在 OpenHands 中。

    匹配字段摘要、正文

星期五

  1. vLLM 官方博客

    vLLM 2024 年回顾与 2025 年愿景

    vLLM 回顾了 2024 年的社区与技术进展,并提出面向 2025 年的推理扩展、生产部署和开放架构路线。其 GitHub stars 从 14,000 增至 32,600,贡献者从 190 增至 740,月下载量从 6,000 增至 27,000,支持的模型架构接近 100 种。项目还计划发布重新设计的 V1 架构,并继续推进 KV cache、MoE、长上下文、量化、推测解码和集群级部署能力。

    匹配字段摘要、正文

星期二

  1. FutureHouse Research

    FutureHouse 开源 Aviary:在生物学科研任务上训练语言智能体

    FutureHouse 发布 Aviary 框架及配套代码,用于在生物学研究的多步任务上训练语言智能体,并称用该代码训练的小型开源模型在文献研究和 DNA 构建推理两项 LAB-Bench 任务上超过前沿语言模型和人类博士研究者,且成本大幅更低。框架把工具、软件和任务归入环境,把可优化部分组织成计算图来定义智能体,训练上采用重复尝试并对成功样本微调,推理时用多数投票或共识采样提升表现。相关预印本为 arxiv.org/abs/2412.21154,环境代码在 github.com/Future-House/aviary,智能体代码在 github.com/Future-House/ldp。

    匹配字段摘要、正文

星期二

  1. Cognition 模型 / Devin 博客精选

    Cognition 宣布 Devin 正式开放,每月 500 美元起

    Cognition 宣布 Devin 正式开放(generally available),面向工程团队每月 500 美元起,不限席位,包含 Slack 集成、IDE 扩展和 API,以及 Cognition 工程团队的入门培训与支持,可在 app.devin.ai 使用。官方建议从小的前端 bug 和边缘情况、为待办任务生成初稿 PR、定向代码重构入手,并建议单次会话控制在约 3 小时以内、提前给出详细需求。Devin 以 Slack 为主要交互入口,可在 IDE 中用 ⌘ G 直接派发异步任务,并自动回复 GitHub PR 评论;官方还展示了 Devin 在 Anthropic MCP、Zod、Go GitHub 客户端、Llama Index 和 Karpathy 的 nanoGPT 等开源仓库中处理 issue 的会话。

    匹配字段摘要、正文