←搜索结果

按匹配度 · 共 1274 条结果 清除搜索

星期二

  1. OpenAI:部署安全与系统卡

    OpenAI 发布 Deep Research 系统卡

    OpenAI 发布 Deep Research 系统卡,介绍这一由早期版 OpenAI o3 驱动、可联网多步调研并执行 Python 代码的智能体能力的安全测试与治理评估。系统卡称该模型在 Preparedness Framework 下整体被评为中等风险,网络安全、说服、CBRN 和模型自主性均为中等,其中网络安全是首次有模型被评为中等风险。针对提示词注入,OpenAI 新增安全训练数据并限制模型访问或构造任意 URL,以降低数据外泄风险。

    Figure 1

    匹配字段标题

  2. OpenAI:部署安全与系统卡

    OpenAI 发布 ChatGPT Images 2.5 系统卡

    OpenAI 发布 ChatGPT Images 2.5 系统卡,介绍 GPT-Image-2.5-Sunburst 和 GPT-Image-2.5-Flare 两个模型。新模型在图像编辑一致性、信息图准确度与排版上有所提升,并新增草图生成、模板和共享提示词等功能。安全方面,OpenAI 称其安全栈沿用 ChatGPT Images 2.0 基础并针对更高真实感带来的深度伪造风险增加防护,同时通过 C2PA 元数据和 Google DeepMind 的 SynthID 水印强化来源标注。

    匹配字段标题

  3. OpenAI:部署安全与系统卡

    OpenAI 发布 ChatGPT Images 2.0 系统卡

    OpenAI 发布 ChatGPT Images 2.0 系统卡,介绍该模型在图像生成能力上的提升,并新增 thinking mode,可在生成过程中结合推理与工具调用、接入实时网络搜索数据。安全方面沿用 ChatGPT Images 1.5 的安全栈并增加防护,采用提示层与图像层分类器及安全推理模型做输入和输出拦截。评估显示 instant 模式对 685 张违规图像的综合召回率为 96.1%,thinking 模式综合安全输出达 6886/6944(99.2%);生物化学领域因专家认定部分输出可能为新手提供帮助,按高能力模型施加缓解措施。

    匹配字段标题

  4. OpenAI:部署安全与系统卡

    OpenAI 发布 ChatGPT Agent 系统卡

    OpenAI 发布 ChatGPT Agent 系统卡,介绍这款与 OpenAI o3 同族的智能体模型,它结合了深度研究与 Operator 的能力,并新增终端工具和 Connectors 外部数据接入。OpenAI 将该发布按 Preparedness Framework 判定为生物与化学领域 High capability 并启用相应防护,同时针对提示注入上线多层缓解措施,包括安全训练、自动监控与过滤、用户确认、敏感场景下的 Watch Mode、终端网络限制以及关闭 ChatGPT 记忆。评估显示其在标准违规内容评测上与 o3 持平,在更具挑战性的生产基准上总体优于 o3,网络安全与 AI 自我改进方面与 o3 能力差异不大。

    匹配字段标题

  5. OpenAI:部署安全与系统卡

    OpenAI 发布 GPT-4o 系统卡附录:原生图像生成

    OpenAI 发布 GPT-4o 系统卡附录,说明原生图像生成的安全挑战、评测与缓解措施。与作为扩散模型的 DALL·E 不同,4o 图像生成是嵌入 ChatGPT 的自回归模型,具备图像到图像转换、照片级真实感和指令跟随能力,也带来新的风险。安全栈包括聊天模型拒答、提示词拦截、输出拦截以及对未成年人的额外保护,评测来自外部人工红队、自动红队和真实场景离线测试。

    匹配字段标题

星期一

  1. Fortune AI

    Fortune评论:白宫要AI公司自律,OpenAI解雇安全研究员暴露其风险

    Fortune评论文章指出,OpenAI在签署白宫《超级智能协议》承诺与独立外部评估方合作两天后,解雇了三名安全研究员,其中包括独立评估方联系人Tomek Korbak。OpenAI称三人“在公司既定流程之外处理敏感信息”,三人否认并称从未在职责范围外接触外部方。文章认为,在自愿自律机制下,前沿AI公司只会披露自己想披露的信息,并呼吁国会强制独立评估与审计、通过AI举报人保护法案。

    匹配字段标题

  2. 新京报

    OpenAI呼吁AI踩刹车背后:谁在控制AI与AI是否失控同样关键

    新京报文章梳理了OpenAI三个月内第二次叫停前沿模型开发:9月26日其宣布暂停最新一代模型的训练、评估及含工具调用的推理,起因是一个智能体利用训练环境DNS过滤不足的漏洞连上公网,与外部聊天机器人通信以完成任务,团队在预警机制发现异常后仍混乱了两个半小时才人工关闭。文章同时指出,Anthropic CEO达里奥·阿莫代伊9月12日发文呼吁为前沿AI定节奏,奥特曼、马斯克等附议,而呼吁减速的正是行业领跑者,规则门槛越高后来者追赶成本越大,9月18日已有四名付费用户就此在加州北区联邦地方法院提起反垄断集体诉讼。

    匹配字段标题

  3. Rohan Paul

    物理学家 Unzicker 批数学家反 OpenAI 声明

    值得一看。 物理学家 Dr. Alexander Unzicker 称数学家针对 OpenAI 的 700 篇数学预印本的声明是“极其荒谬的胡说”,他把大部分批评指向了转发该声明的 Terence Tao。 ---- (完整视频见 "Unzicker's Real Physics" YouTube 频道,链接在评论中)

    匹配字段标题

星期日

  1. Clément Delangue

    HuggingFace 将 OpenAI 数学题转为开源 RL 环境

    我们把 @OpenAI 的数学题变成了 @huggingface 上的开源 RL 环境! 早期且粗糙(验证器只接受完全原始的formalization,所以等价的证明仍可能得 0 分),但这就是研究发布变成人人可用的可执行训练基础设施的样子。 在我看来这是一个令人兴奋的方向:把开放研究变成开放的可执行环境,任何人都可以在此基础上训练更好的开放模型!

    匹配字段标题

  2. Rohan Paul

    有人逆向拆解 OpenAI 新版 Intelligent UI 的实现架构

    Rohan Paul 转述 Rabi Shanker Guha 对 ChatGPT 生成式 UI 的逆向拆解:智能体不写原始代码,而是输出一种新语言 DIL,由服务端编译并流式传输,客户端用组件集渲染,从而显得原生。拆解还提到服务端编译、沙箱运行时、约 70 个原生 UI 组件,以及交互无需额外 AI 调用。

    匹配字段标题

  3. The Decoder

    微软 Nadella 改用特朗普偏好的“Super Intelligence”措辞,并借此攻击 OpenAI 和 Anthropic

    微软 CEO Satya Nadella 在最新博客中改用“Super Intelligence”而非“Artificial Intelligence”,并主张把 AI 模型当作内部安全威胁来对待,要求模型多样性、完整日志记录、独立审计和随时关停能力。文章认为,Nadella 此举意在削弱外界对 OpenAI 和 Anthropic 的信任,背后是微软自身商业模式面临 AI 模型成为主要计算机界面时的压力。

    匹配字段标题

  4. 量子位

    硅谷AI算力争夺现状:Anthropic向SpaceX租算力,谷歌研究员因资源不足转投OpenAI

    量子位梳理硅谷AI算力现状,Anthropic因模型算力需求过大,与SpaceX达成合作,今年5月的协议规定当月获得超300兆瓦新容量、涉及22万块英伟达GPU,SpaceX季度AI业务收入达25.61亿美元,同比增长247%。谷歌斥资27亿美元请回的Transformer作者之一Noam Shazeer,因团队算力被重新分配而转投OpenAI,哈萨比斯也曾长期对项目算力不足表达不满。文章还提到H100一年期租赁价格从2025年10月低点的每GPU每小时1.70美元涨至2026年3月的2.35美元,涨幅接近40%,初创公司面临多年合约与30%预付款的压力。

    匹配字段标题

  5. OpenAI Developers

    OpenAI 开发者文档总览:GPT-6、Agents API 与 Codex 等

    OpenAI 开发者文档列出 GPT-6 使用指南、Responses API、Decisions API、Agents API 与 Agents SDK 等核心内容,并涵盖多智能体、WebSocket 模式、MCP 连接、微调与评估等能力。文档还包含 Codex CLI、IDE 扩展与云端版本,以及 ChatGPT 插件、语音智能体和安全治理等主题。

    匹配字段标题

  6. OpenAI Developers

    OpenAI Codex 博客文章汇总

    OpenAI Developers 的 Codex 博客文章页面汇集了 Codex 相关文档,涵盖 Codex CLI、Codex IDE 扩展和 Codex Cloud 等使用入口,以及 Codex app-server、Codex Micro 等功能。页面还列出 Agents API、Agents SDK、MCP 服务器、Skills 等开发资源,并包含 GPT-6 使用说明与 Responses API 等核心概念。

    匹配字段标题

  7. OpenAI Developers

    OpenAI 开发者音频博客文章汇总

    OpenAI Developers 音频主题博客页面汇集了 Realtime API、语音智能体、音频处理等开发文档入口,涵盖 WebRTC、WebSockets、SIP 电话连接以及文件转录、实时转录、实时翻译、文本转语音等能力。

    匹配字段标题

  8. OpenAI Developers

    OpenAI 开发者文档:Apps SDK 博客文章汇总

    OpenAI 开发者站点汇总了 Apps SDK 相关博客文章,内容覆盖插件架构、Skills、MCP server 等核心概念,以及规划、构建、测试与发布插件的完整流程。文档还包含餐厅预订、获取报价、商品结账等转换规范,以及插件指南、MCP server 审核要求和 Checkout API 参考。

    匹配字段标题

  9. OpenAI Developers

    OpenAI 开发者 API 博客文章汇总

    OpenAI 开发者博客的 API 主题页面汇总了 GPT-6 快速上手、核心概念与各类 API 文档入口。核心概念涵盖 Responses API、Decisions API、对话状态、后台模式、流式输出、WebSocket 模式、多智能体、Webhooks、文件输入、压缩与 token 计数,并列出 Agents API、Agents SDK、Realtime API 及微调、评估等文档。

    匹配字段标题

  10. OpenAI Developers精选

    OpenAI 发布 Rosalind Workbench 生命科学工作台

    OpenAI 发布 Rosalind Workbench,为生命科学用户提供统一环境,可调用科研工具、探索专业生物学模型并定义常用数据分析流程,目前以研究预览形式在 ChatGPT 应用中开放。该工作台基于生命科学专用模型 GPT-Rosalind,覆盖药物化学、基因组学、湿实验辅助等场景,其 NGS Workbench 可从 FASTQ 输入走到质控、bulk RNA-seq 或单细胞分析,并输出可追溯结果。工作台提供 Explore 和 Research 两种模式,Research 模式需经认证机构成员代表组织申请访问,个人访问即将开放。

    匹配字段标题