Meta 推出新 AI 工具,识别暗中导流儿童性虐待内容的广告
Meta 宣布推出新的 AI 工具,用于识别那些看似正常、实则将用户导向站外非法儿童性虐待内容的广告。其中一套新的大语言模型系统专门检测这种“signposting”行为,审核范围从广告内容本身扩展到广告把用户带向何处,Meta 可据此封禁违规网站并对相关账号采取措施。Meta 同时上线一个红队 AI 智能体测试自身安全防护,并改进识别被封号后换新账号回流用户的系统。Meta 称 2026 年上半年在 Facebook 和 Instagram 上对 3320 万条儿童性剥削内容采取了行动,其中超过 97% 由系统在用户举报前发现。
#安全/对齐#多模态#Meta
