[安全问答] 01.AI双非研0如何从事AI安全研究

“

2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子，该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享、AI安全论文交流、威胁情报每日推送、网络攻防技术总结、系统安全技术实战、面试求职、安全考研考博、简历修改及润色、学术交流及答疑、人脉触达、认知提升等。下面是星球的新人券，欢迎新老博友和朋友加入，一起分享更多安全知识，比较良心的星球，非常适合初学者和换安全专业的读者学习。

”

这是作者新开的一个专栏，主要是回答读者在AI安全的学习、工作、编程和实践中的问题，并形成总结帮助更多初学者，希望对您也有所帮助！由于作者能力有限，属于班门弄斧，但其宗旨是希望对初学者有帮助，说得不好的地方还请各位老师和大佬海涵，欢迎大家多多补充和交流。

提问

博友提问：AI双非研0，很好奇怎么把安全应用到AI上，可以推荐些入门的东西吗？对这个方向很感兴趣，以及双非搞AI有前途吗？

回答

作者回答：你好！朋友，下面我将从我个人从事AI安全研究的角度讲解，并推荐一些入门的内容。

一、个人感觉从事AI安全是有必要的

因为现在不论是去工业界还是学术圈，安全都要和AI结合起来研究，包括网络安全（Web渗透）、系统安全（恶意代码）、数据安全（隐私保护）、威胁情报（安全知识图谱）、密码学（区块链）、对抗样本等都会和AI结合，不论是否是双非、211、985还是企业，了解一定AI安全相关的知识是有必要的，比如Fuzzing、漏洞挖掘、恶意代码分析、代码解混淆、入侵检测等。

二、如何入门AI安全

如果想学AI安全，首先是要确定好你的研究方向，尤其是读研或读博的同学，并且安全相关的内容一定要学扎实。比如说系统安全的恶意代码分析、逆向工程都要掌握好，以及如何提取样本的CFG特征或API特征；再如漏洞扫描基本方法，angr、符号执行、污点分析、BP（业务漏洞）基本工具的用法，以及掌握基本挖漏洞的逻辑，学好了安全知识，再想办法和AI结合。通常，以安全入门的师傅，建议将AI（包括机器学习、深度学习、大模型）当作工具，后续将研究如何促进我们的工作、场景或发现更多的漏洞以及解决安全问题。

再次，如果安全基础知识已经掌握，又将如何开展AI安全研究。重点要区分是去公司还是高校，两者存在差异。下面先介绍高校科研的AI安全如何入门：

（1）找准安全方向多阅读论文。在学习过程中，需要看一些方向相关的论文，重点关注顶刊顶会论文。可以先看这个领域的综述，尤其是近三年的ACM computing surveys (CSUR) 综述，如果英文较差可以看看《计算机学报》《软件学报》《计算机研究与发展》的综述，方便我们更快地了解这个领域知识及现有方法和挑战。

接着需要多看安全四大顶会（S&P、CCS、NDSS、Usenix Sec）和安全顶刊（TDSC、TIFS）的论文，尤其是近三年相关的论文，部分软工（如ICSE）和AI相关的论文也可以学习。注意，看论文一定要学会总结和做好笔记，这些都是后续科研的相关工作。同时，最好看有开源代码的论文，方便我们复现和比较，以及快速上手。

（2）如何搜索安全论文。俗话说开始研究之前，第一步是需要找到文章，因此，作为初学者我们亟需学会如何搜索安全论文，下面介绍比较实用的安全论文搜索方法。

①安全四大顶会官网

• https://www.ieee-security.org/TC/SP2023/program-papers.html

• https://www.sigsac.org/ccs/CCS2024/home.html

• https://www.ndss-symposium.org/

• https://www.usenix.org/conference/usenixsecurity24

  
  

②DBLP（CCFrank插件）：比如搜索恶意软件检测。

③谷歌学术（CCFrank插件）：比如搜索恶意软件检测。

④NISL@THU安全顶会论文查询：这是清华大学段老师团队做的安全会议论文查询网站，非常适合大家学习，并且能定位和下载原文，在此感谢。

• https://secpaper.cn/
  

比如搜索四大顶会的Provenance Graph（溯源图）论文。

⑤CCF会议、安全会议论文、AI会议论文投稿截止网站推荐

• https://sec-deadlines.github.io/

• AI Conference Deadlines

• https://ccfddl.github.io/

• https://ccfddl.top/

⑥arxiv.org查询最新未发表论文

⑦中国知网：考虑到部分读者可以会查询中文论文，这里简单推荐下中国知网，包括核心期刊、特定作者、团队等论文查询。

PS：其它检索方法欢迎大家补充，包括部分有用插件，当然还有ChatGPT。

（3）结合导师或在先前的工作上开展研究。在做AI安全或科学研究过程中，建议结合先前的安全知识开展工作，除非所学领域非常冷门。怎么入门呢？以恶意代码分析为例，我们通常需要学会逆向工程，如何提取恶意代码的特征、CFG、API（含动静态），后续考虑如何将这些特征转化为向量（Word2Vec、Log2Vec、Attack2Vec）供AI模型学习，并进行有效的语义提取和特征表征增强，更好地实现恶意性识别、家族分类或溯源，AI结合安全的研究大概流程就是这样（样本采集->预处理->特征提取->向量表征->模型构建->优化评估）。当然，关键的问题是威胁模型及创新点的凝练，以及故事和卖点的描述。譬如即使是LLM结合，也会考虑如何利用LLM的理解和推理优势来辅助安全工作的提升。如果实在没有好的项目或方向，那就多看多读，脚踏实地，从零开始吧！当然也推荐看作者“当人工智能遇到安全”的基础文章和“网络攻防和AI安全之家”知识星球。

（4）建议初学者一方面要学会复现别人的AI安全代码，一定要动手动手，另一方面可以通过简单的案例或数据集进行入门。代表性的包括入侵检测的NSL-KDDKDD CUP 99数据集、Web渗透Github流量数据集、恶意家族分类的微软Kaggle数据集或BODMAS、DataCon用户画像分析数据集等。后续作者会详细整理数据集网址，并开展相关的基础代码分享。网站推荐：BODMAS Malware Dataset和奇安信的DataCon（这个比赛也强烈推荐喔^_^）。

• https://whyisyoung.github.io/BODMAS/

• https://datacon.qianxin.com/opendata

（5）学会将安全问题上升到安全现象。关于论文创新点，多关注具体的安全问题，同时好论文未来工作或者存在的难点也是一些启发，当然如果能提出一个新的安全场景会更好，一定要学会从小的安全问题上升到大的威胁场景，构建对应的解决方法，在这个过程中不断进化。

注意，写好安全故事非常重要，多读好论文并摘录好的句子，会对你有很大的帮助。如果你是进入企业，建议结合实际业务看看AI工具如何提升你的现有工作，比如入侵检测的规则，恶意代码特征，Fuzzing漏洞挖掘等。

最后，不论是双非还是其它，都要把基础知识学好，技多不压身。尽量把AI当成一个辅助工具，更好地帮助我们解决实际问题，尤其是科研论文中会看到大量的交叉结合，也多看看别人尤其是大牛或大团队、大厂怎么做，存在什么困难，再深入我们的工作。时光过得很快，希望你能珍惜时间，多实战多学习，更好地提升自己。希望我的建议对你有帮助，后续多多交流，保持联系。祝好，共勉~

最后各位老师和大佬补充！

知识星球

【网络攻防和AI安全之家】计划分享9个专栏的知识，涵盖博客、论文、代码、工具和经验，包括：

• ①当人工智能遇上安全

• ②系统安全和恶意代码分析

• ③求职考研考博简历润色及辅导

• ④网络安全及web渗透

• ⑤初学者如何入门安全及学习路线

• ⑥AI安全写作及代码实战

• ⑦AI安全论文阅读分享

• ⑧威胁情报感知及报告翻译

• ⑨安全知识图谱构建

同时，知识星球计划至少每日分享1次安全知识，并且工作日会实时分享安全简讯，以及网络安全、系统安全和AI安全的技术文章、代码及资源。此外，允许读者一对一咨询求职、考研考博相关问题，并帮助读者修改简历和告知相关经验。譬如：

系统安全和恶意代码分析主要讲解系统安全、恶意代码分析、软件安全与漏洞挖掘、APT攻击分析、漏洞挖掘、人工智能在系统安全领域应用等知识点，从零到零开始讲解。

为什么创建星球

转眼自己已分享13年，也免费分享13年，犹记得每次分享时的快乐，也记得一次次凌晨2点、3点撰写博客、解答读者问题的开心，对读者的帮助就是自己最大的动力。感谢这些年大佬、朋友、博友及读者的支持和点赞。然而，我们终将需要生活，终将有家庭，终将有责任。

读博太忙，这么多年没建群没私域，些许后悔，但从现在开始，脚踏实地，用心付出，相信一定有回报，视频号也将开启。行路难，多歧路，生活不易，加油，感谢家人的陪伴！

同时，加入星球内容会更加聚焦，质量会更好，能更好地帮助大家，解答大家的问题，我会力争做一个全面且让大家收获的星球。此外，如果不付费，星主本身做这件事情就会失去动力，失去正反馈就再难坚持。如果免费，大部分人也不会珍惜。因此，我会尽力维护好一个不错的社区，以后花更多精力到星球中来。

星球安全专属福利

当您加入【网络攻防和AI安全之家】知识星球后，您将有如下安全专属福利：

• 添加星主微信，一对一咨询安全、技术、学术和工作相关问题

• 作为初学者或转专业的同学从零开始学习安全技术，快速上手

• 开展AI安全研究的读者能结合具体需求编写程序，完成安全相关科研任务，并帮助推荐论文和启发AI安全思路

• 开展一对一求职、考研、考博咨询，并可以免费修改建议1份，结合星主的经验让大家更好地求职和进入理想的高校

• 全面分享网络安全和系统安全文章，力争打造全网更系统、基础的入门专栏

• 实时推送威胁情报和安全技术咨询，每个工作日均会推送，帮助大家更好地了解技术知识

• 布置安全集训、AI安全集训任务，分享数据集和代码，读者结合自己需求进行练习，真正让你动手开始科研

• 从零到壹开展“安全知识图谱”构建案例，全面分享安全知识图谱内容

• 分享和复现顶会顶刊代码，并结合论文与读者交流

真诚地感谢很多读者与我携手走过了这13年，陪伴着我成长。感谢所有人的祝福，博友们的祝福和鼓励真的很感动，是真感动，无以为报，只希望未来分享更好的文章，帮助更多初学者。同时，感谢英雄哥，本文参考了他的文章，以后还要多向他学习，算法放心的强烈推荐关注他。

最后，我叫Eastmount，一个CSDN的技术分享者，感恩遇见！且看且珍惜，共勉。此刻，月光下武汉珞珈山到贵阳景怡苑的那条路不再漫长，继续加油~ 

文末扫码加入星球，星球正式运营价格 66，目前限时限量活动价 30。欢迎您的加入~

(By:Eastmount 2024-06-19 夜于武汉)

原文始发于微信公众号（娜璋AI安全之家）：[安全问答] 01.AI双非研0如何从事AI安全研究