微软 Teams 将允许第三方机器人扫描会议音视频并标记深度伪造,11 月中旬起分批推出
据科技媒体 Windows Latest 报道,微软 Teams 将允许组织接入经认证的第三方检测机器人,扫描会议中的音频和视频并标记深度伪造,该功能计划 11 月中旬起在 Teams 桌面版、Mac 版和网页版逐步推出。微软表示,检测工作由外部服务商完成,Teams 只负责展示警告弹窗并提供相关操作选项。微软 Graph 文档目前已列出测试版 API reportSyntheticMedia:机器人须先获准加入通话,并由组织管理员授予 Calls.ReportSyntheticMedia.All 权限,随后可对参会者给出 0.0–1.0 的置信度评分和低中高三级深度伪造判断。该功能主要面向企业场景、需管理员启用,微软同时提醒第三方服务商可能分析会议音视频信号,启用前应审查其服务条款及数据处理方式。
rss · IT之家 · 10月25日 11:35
「为什么是现在」 据现有报道,这可能是主流企业协作平台首次把深度伪造检测作为第三方生态机制制度化开放,且机制细节(API 名称、权限、评分规则)已可在 Graph 文档中复核,属于已确认的变化。不过功能 11 月中旬才逐步推送、API 仍处测试版,检测准确率、误报率和实际使用效果目前没有任何公开数据。
「可做角度」 可做角度:抓住材料里微软自己留下的提醒——“管理员启用功能前应审查第三方服务商的条款及数据处理方式”,做一期“用来检测深度伪造的工具,本身要扫描你的会议音视频”的机制拆解:检测机器人如何获准入会、拿走哪些音视频信号、置信度评分由谁背书,这些都是报道明确留白、可以逐条核对的点。
做AI项目,先看AI雷达 - AiRadar.com.cn · 全部AI快讯 →