人工智能技术的快速发展正深刻地改变着安全行业的格局，一场革命性的变革正在悄然兴起。ChatGPT 等大型模型的出现，更引发了人们对 AI 潜力的重新思考。
AI 技术在安全领域的突破性应用也层出不穷，各种创新解决方案不断涌现，重新定义着人们对 AI 的认知。AI 不再仅仅是一种技术，更是一股引领人类社会变革的关键力量。
微软、CrowdStrike、Palo Alto Networks 等公司纷纷利用大型AI模型来分析安全数据、检测漏洞和应对安全事件，极大地提高了威胁情报服务领域的效率和准确性。
AI 强大的智能分析能力使得安全团队能够更快速地发现并应对潜在威胁，有效提升了整体的安全防护水平。
早在十年前，关于 AI 是否会取代网络安全工程师的讨论就已经引起了广泛关注。
2014 年，美国国防部高级研究计划局（DARPA）启动了“网络超级挑战赛”（CGC）项目，旨在测试 AI 系统在自动发现、验证和修复软件漏洞方面的能力。
尽管 AI 在比赛中取得了一定成绩，但与人类团队相比，AI 仍然存在一定的局限性，需要人类工程师的智慧和经验进行辅助和指导。
随着 AI 技术的不断发展，网络安全领域也迎来了新的挑战和机遇。
近期，美国政府宣布启动为期两年的“人工智能网络挑战赛”（AIxCC），奖金规模远超 CGC，彰显了 AI 在网络安全领域日益增长的重要性。
AI 技术的快速发展为网络安全带来了新的可能性和前景，AIxCC 也将为行业注入新的技术和思路，推动网络安全领域的进一步发展。
2023 GEEKCON 中国站 “GPT与黑客”专场
2015 年带队闯入 CGC 决赛的李康教授现场主持
近期一起以 AI 技术为基础的犯罪案件也引起了广泛关注。
犯罪分子利用换脸和变声技术在视频会议中冒充高管，成功诈骗了一家公司巨额资金。
这一事件警示我们，AI 技术的发展不仅为安全行业带来了新的挑战，同时也为网络犯罪分子提供了新的工具和机会，需要安全专家们密切关注并及时应对。
总而言之，AI 技术的快速发展为安全行业带来了前所未有的机遇和挑战。
网络安全工程师需要不断学习和适应新技术，以保持竞争优势。AI 作为一种新工具，为安全行业提供了更多的可能性，但人类的智慧和创造力仍然是不可或缺的。
安全的本质，是对抗。长久以来，攻防双方无论使用什么计算手段，网络安全对抗的本质，还是人与人之间的对抗。
然而 AGI 的诞生，把网络安全的空间扩大了三倍：除了人与人的对抗，还有人与机器的对抗、机器与人的对抗、机器与机器的对抗。我们曾经在 GEEKCON 上抛出注定没有结论的辩论赛题：有没有可能未来 AI 是黑客、而人类是 BUG……
未来是未知的，上帝也给不了确定的答案。当我们尝试写一篇关于 AI 与未来安全的技术、行业、人等等话题时，我们所能做的似乎只能是推测。与其盲猜，不如就让 AI 来帮我们回答吧。
我们能写的，仅仅是这个确定无疑的标题 —— 我们完全不可预测：未来 AGI 若用于安全技术，攻防双方的高低优劣之分取决于什么？攻防没有了差异，安全还会存在吗？无论未来会怎样吧，见证即有幸。
原文始发于微信公众号（DARKNAVY）：「深蓝洞察」2023 年度最不可测的安全技术
