AI能否打败自身的威胁？

据小易智创xiaoyizc.com（不可错过的AI创业项目）观察：在当今数字化浪潮中，人工智能技术的发展犹如双刃剑，带来了前所未有的机遇与挑战。在2024绿盟科技TechWorld智慧安全大会上，中国工程院院士邬江兴指出，人工智能算法模型的“基因缺陷”主要体现在不可解释性、不可判识性和不可推论性等方面。这些缺陷使得AI在网络空间安全中充满变数。

中国科学院院士冯登国强调，AI已成为网络安全发展的关键变量。如今，AI技术不仅限于单一算法，而是向着软件、硬件与应用场景深度融合的方向演进，迫切需要建立一个坚实、灵活的网络安全保障体系。

在探讨AI应用带来的安全隐患时，冯登国提到，大模型所生成的文本有时表面看似合理，但实际上可能包含错误或毫无意义的信息，这被称为“幻觉”问题，成为大模型带来的主要安全风险之一。此外，针对关键基础设施的网络攻击逐渐实现自动化和智能化，使得传统安全分析技术面临巨大挑战。

“数字化转型加剧了网络生态系统的脆弱性。”绿盟科技首席技术官叶晓虎指出，安全攻击手段的日益多样化要求安全行业不断革新应对策略。绿盟科技在此背景下推出了一系列AI大模型应用及蓝军体系解决方案。

面对这些层出不穷的安全风险，与会专家对“能否用AI防范AI”的问题进行了深入探讨。总体来看，AI系统在安全保障方面的应用已被广泛认可。冯登国表示，AI不仅能够提升网络空间的安全防护能力，还能有效应对如恶意代码生成、僵尸网络攻击等各种挑战，从而大幅提高防御水平。

总之，在这个飞速发展的时代，我们必须不断探索如何利用先进的AI技术来提升网络安全保障能力，以应对日益复杂的安全挑战。