姚顺雨(腾讯首席AI科学家):攻防能力无法彻底分离
名-3 · 早间速报 09:00 · 原始时间未定位,待核
一句话 姚顺雨称即使训练数据中没有明确加入攻击内容,模型也可能因通用推理和代码能力的提升而获得相应能力,因此负责任的治理应贯穿训练、发布和开放全过程:训练阶段审慎选择数据并强化防御,发布前做自动化与人工安全评估,上线后持续监测调用行为。
"攻防能力无法彻底分离"这句话是当前开源安全治理最难的一环,比"我们做了安全测试"有信息量。
待核项 未落实项:原始发言场合为"2026年未来科学大奖周·科学峰会"圆桌论坛,具体日期未定位
来源1 个来源 · 1 个可回溯原文