本文转载自微信公众号《 中国教育信息化》，2024-05-21

AIGC，大模型，对话机器人……今年，人工智能频上头条。那么，当 AI 遇上网络安全，又会碰撞出哪些新火花呢？一起来 2024 年教育系统网络安全工作研讨会看看。

↓ 点击图片播放视频 ↓

本次会议聚集了众多教育系统的网络安全专家。

关于 AI 大模型时代，高校实战攻防的思考，主要关心什么？

近几年 AI 大模型在很多领域都在快速地落地和迭代，您认为当前 AI 大模型会对高校攻防实战产生哪些影响呢？

北京大学计算中心网络安全室主任 周昌令：

以前以攻促防，我们都是让人来做。检测的效果非常依赖于红队人员的水平。AI 大模型，它能够创新性地去找到一些未知的，甚至不是规则里边直接描述的问题，去提出解决建议。让比较繁重的、重复的日常工作能够解放出来，大家可以去关注更重要的目标。

从防守视角看 ，AI 大模型可以有哪些应用？

哈尔滨工业大学网络安全与信息化办公室高级工程师 辛毅：

从防守的方面，我们日常的各个安全设备、系统或者数据库，中间件等产生的海量日志，利用生成式AI可以快速地进行挖掘。把所有可能的方向提供给我们的分析师，来做综合性的研判。特别在分析恶意代码，二进制方面优势比较大。

在应用层面，AI大模型如何提升学校的网络安全运营工作？

大连理工大学网络与信息化中心网络安全部部长 李先毅：

在安全方面的应用，很重要的一个就是安全人才的培养，可以更多地引入AI大模型；再有就是，网络安全攻防对抗当中，是否能把AI大模型的攻击手段引入到攻防演练中。用 AI 的手段来模拟攻击的方式，通过人的能力的提升，进一步提升高校的防守和应急能力。

在学校网络安全工作当中有没有碰到一些实际的难题？

中山大学网络与信息中心主任 何海涛：

攻方有了大模型技术的加持，攻守不平衡的情况会更加恶劣，对我们高校整个运营体系的能力增强提出了更高的要求。

从守方角度来讲，也要有人工智能大模型的加持。以人工智能大模型，对抗外部的人工智能大模型攻击。利用大模型的自学习能力，打破我们人类传统的、惯性的思维框架，去找到一些以前我们的经验所不能掌握的新型攻击。

您认为 AI 的产生会对高校的网络安全态势产生什么影响？

深信服教育事业部副总经理 张涛：

GPT 的引入让我们网络安全攻击的成本变得更低了，未知威胁手段变得更多样化。实战化人才很难做到安全有效地处置闭环。

深信服目前有没有解决方案可以破解上述难题？

张涛：我们在安全运营1.0方案基础的之上，做了能力升级。

第一是在技术架构上方面的升级：通过 GPT+XDR 赋能产品，提升检错率，对于高级威胁的检测率基本上可以做到 96% 以上。比如像“挖矿”，现在基本上可以做到 100 毫秒之内就可以检测出来。在实战过程中，多次检测出利用0Day漏洞的攻击，做到一些人或者工具难以快速去实现的一些问题。

第二在运营上：能够实现托管式运维，真正做到7X24小时运营闭环。过去，可能需要花数个小时；现在，通过对话式的方式，几分钟之内，就可以得到技术的支持，给出建议和解决方案。

第三，人才培养的实战化。

在 AI 技术的加持下，高校网络安全防护能力和效果得以全面升级。“运营闭环、实战有效、智能驾驶”，让我们为高校网络安全加点AI（爱），让校园更安全、更智慧，让师生的学习和生活更安心、更美好。