A5互联|人工智能被利用进行网络安全攻击3种方式

【A5互联|人工智能被利用进行网络安全攻击3种方式】_本文原题：人工智能被利用进行网络安全攻击3种方式
攻击者可以利用人工智能躲避检测，躲在找不到的地方，并自动适应反制措施。网络安全永远需要人类的头脑来建立强大的防御和阻止攻击。人工智能是陪衬，安全分析师和威胁猎人是超级英雄。
A5互联www.a5idc.net表示，如何利用人工智能和机器学习来规避网络安全防御，并使违规行为更快、更有效。以下是AI和ML在网络安全攻击中的三种应用方式。

本文插图
数据中毒
坏人有时会把用于训练机器学习模型的数据作为攻击目标。数据中毒的目的是操纵训练数据集来控制训练模型的预测行为，从而欺骗模型执行错误，比如将垃圾邮件标记为安全内容。
数据中毒有两种类型：以ML算法的可用性为目标的攻击和以其完整性为目标的攻击。研究表明， 3%的训练数据集中毒会导致11%的准确率下降。
通过后门攻击，入侵者可以在算法中添加一个模型设计者不知道的输入。攻击者利用该后门让ML系统将某个字符串误判为良性，而它可能携带的是坏数据。
中毒数据的技术可以从一个模型转移到另一个模型。
数据是机器学习的血液和燃料，我们应该像关注模型一样关注我们用来训练模型的数据，用户的信任度受模型以及训练和数据的质量影响。
行业需要制定标准和准则来确保数据质量，包括高级准则和技术要求，以解决准确性、安全性、偏见、隐私和可解释性。
生成式对抗网络
生成式对抗网络（GANs）基本上是两个人工智能系统相互对抗，一个模拟原始内容，另一个找出错误。通过相互竞争，它们共同创造出足以让人信服的内容，从而成为原创。
攻击者正在使用GAN来模仿正常的流量模式，以转移对攻击的注意力，并快速找到并渗出敏感数据。
由于这些能力，他们在30-40分钟内进出，一旦攻击者开始利用人工智能和机器学习，他们就可以自动完成这些任务。
GANs还可以用于密码破解、逃避恶意软件检测和愚弄面部识别，由机器学习研究人员构建的PassGAN系统在一个行业标准密码列表上进行了训练，最终能够比其他几个在相同数据集上训练的工具猜出更多的密码。除了生成数据外， GAN还可以创建恶意软件，以逃避基于机器学习的检测系统。
网络安全中使用的AI算法必须经常重新训练，以识别新的攻击方法。
随着对手的进化，我们也必须进化。比如当一个恶意软件大部分是用合法代码构建的。 ML算法就必须能够识别其中的恶意代码。
操纵机器人
如果人工智能算法在做决策，它们可以被操纵来做出错误的决策。
如果攻击者理解了这些模型，他们就可以滥用这些模型。
自由/开源软件描述了最近对由机器人运行的加密货币交易系统的攻击。
攻击者进入系统，弄清楚机器人是如何进行交易的，然后利用机器人欺骗算法，这可以应用在其他实例中。
这项技术并不是什么新技术，但是现在这些算法正在做出更明智的决定，这增加了做出错误决定的风险。