数字内容风控对于规避平台运营风险，满足监管合规有着重要意义。在大模型和AIGC浪潮下，给数字内容风控带来了新的挑战。网易易盾围绕“用魔法打败魔法”的理念，通过制定综合的风险控制方案、建设高效的多模态数据利用平台以及打造更强大的大模型等策略，搭建了准确高效的数字内容风险控制体系。

演讲提纲：

1. AIGC技术的兴起与影响
2. 数字内容风控的新挑战
3. 风控技术的创新与应对策略
4. 大模型技术在风控中的应用
5. 实践案例与未来展望

听众受益点：

• 深入了解AIGC技术，包括它的发展历程、当前的应用现状以及对未来内容创作和媒体生态的潜在影响。
• 认识到数字内容风控的新挑战，特别是在内容真实性和合法性方面，以及这些挑战对现有风控体系的影响。
• 将了解到数字内容风控领域的最新技术进展，包括大模型技术如何提升风控的精准度和效率，以及如何通过创新策略应对新出现的挑战。
• 通过具体的实践案例，观众可以获得关于如何应用大模型技术进行数字内容风控的直观理解，并学习到有效的解决方案和最佳实践。
• 演讲将提供对未来数字内容风控技术趋势的判断，帮助观众预见行业发展方向，为他们的长期规划和战略决策提供参考。
• 通过了解大模型技术在风控中的应用，观众将能够提升自己和所在组织在风险识别和管理方面的能力，更好地应对未来可能出现的风险。

今年2月份新发布的文生视频大模型Sora，在行业内高度关注和热议，有行业专家认为——Sora们将引领AIGC进入全新时代，周鸿祎也认为Sora意味着AGI的实现将从10年缩短到一两年。本次演讲，我将从信息安全角度分析Sora是否加速了AIGC时代的到来。

安全运营一直以来投入和产出效果不尽人意，主要原因是运营期望达到的目标与投入的人力资源存在较大的差距，有价值的目标无法实现，有限的人力投入又无法带来效果。大模型技术的发展，从 LLM 原生安全能力到 AI 智能体带来的运营任务人工替代，为安全运营真正实现威胁管理到风险治理的大闭环创造了可能。

演讲提纲：

1. 安全运营的现状
   • 威胁检测覆盖度与依赖人工的分析能力难两全：
     • （看见威胁）检测全 <调阈值，必须取舍>（分析威胁）分析准
     • 场景一：实现精准检测，牺牲可见性，关注和响应高质量、高风险和高确定性告警。
     • 场景二：全面检测，覆盖更多的攻击技战术，牺牲准确性。
   • 发现威胁到处置难闭环：
     • 封禁攻击 IP（处理攻击者）
     • 查杀感染主机（处理受害者）
     • 风险管理（风险收敛/隐患消除）
2. 大模型如何改变安全运营现状，实现真运营？
   • 大模型（LLM）原生能力擅长什么？
   • 基于大模型的"Security Copilot"在安全运营场景下理论上能实现初级安全分析师的部分工作（类比自动驾驶L3，人机协作）
   • 当前的 Security Copilot 不太擅长什么？
   • 从 LLM -> AI Agent，系统性增强了哪些方面？
   • AI Agent 在安全运营场景下理论上能实现中高级安全分析师的大部分工作（类比自动驾驶L4，人类辅助)
   • 当前的 AI Agents 限制是什么？
   • 畅想从 AI Agent -> AGI（自动驾驶L5，Super Jarvis）
   • ​AGI 衍生出新的安全问题：价值观、道德和法律、机器人原则、人类情感等方面的超级对齐需求
3. 总结和思考

听众受益点：

• 安全运营技术发展路径
• 当前阶段及将来，大模型将如何助力安全运营
• AI 时代的安全问题思考

在安全领域内，我们为什么要特别关注轻量级大语言模型呢？随着数字化转型的加速，安全威胁也日趋复杂和隐蔽，传统的安全防御措施往往难以应对高度智能化的攻击手段。在这样的背景下，利用大语言模型的强大处理和分析能力，可以极大地提升我们对安全威胁的识别和响应速度。然而，大模型通常需要巨大的计算资源，这在实际部署中可能遇到诸多限制。

轻量级大语言模型的出现，为我们提供了一条新路。它们在维持模型性能的同时，大幅度降低了对计算资源的需求，这使得即便是在资源受限的环境中，我们也能够部署先进的安全分析和防御工具。这对于提升我们在网络安全、欺诈检测、数据泄露预防等关键领域的防御能力具有重要意义。通过轻量级化的处理，我们能够在更广泛的设备和平台上实施先进的安全策略，从而在整个数字生态中构建更为坚固的安全防线。

演讲提纲：

1. 轻量级大语言模型的概念与发展
2. 轻量级大语言模型在AI安全中的应用
3. 轻量级大语言模型的挑战与机遇
4. 可行性分析和存在风险
5. 总结与趋势展望

听众受益点：了解轻量化大语言模型在特定领域中的应用可行性。