在去年夏天的黑帽网络安全会议上，美国的网络安全专家DARPA网络大挑战凹痕自动对彼此的系统，试图找到在别人的代码弱点和利用它们。
“这是机器怎样可以轻松地发现并利用新漏洞，这是我们很可能会看到增加而变得更加复杂随着时间的推移一个很好的例子，”大卫·吉布森，在战略和市场开发的副总裁Varonis系统。
他的公司还没有看到黑客利用人工智能技术和机器学习的任何实例，但没有人采用了全新的技术，而不是罪和黑客产业更快，他说。
他说:“因此，可以肯定地说，黑客已经在利用人工智能达到他们的邪恶目的。”
妖怪从瓶子里出来了。
“它从来没有白帽子和黑帽子，以获得和学习的机器学习贸易工具如此简单，”唐麦克莱恩，在首席网络安全技术专家说：DLT解决方案。“软件很容易获得，成本很低，甚至不需要，机器学习教程也很容易获得。”
举个例子来说，图像识别。
它一度被认为是人工智能研究的一个重点。如今，工具，如光学字符识别是如此的广泛使用，常用的，他们甚至不被认为是人工智能了，舒曼·霍斯玛江德，在产品的副总裁形状的安全。
“人们不认为他们是具有相同类型的魔法，因为它面前，”他说。“人工智能总是什么是未来的未来，而不是我们现在有。”
例如，今天的计算机视觉已经足够好，可以让自动驾驶汽车在繁忙的街道上行驶。
他补充说，图像识别技术也足够好，可以解决经常出现在网站用户面前的证明他们是人类的谜题。
例如，去年春天，维奈SHET，谷歌的验证码小组的产品经理，告诉谷歌I / O大会的与会者，在2014年，他们有一个扭曲的文本验证码，只有33人的百分比可以解决。相比之下，当时的国家的最先进的OCR系统可能已经有99.8％的精度解决这个问题。
罪犯已经使用图像识别技术，与组合“验证码农场”，以绕过这个安全措施，Ghosemajumder说。流行的哨兵MBA证书馅工具有它建权，他补充说。
到目前为止，他说，他还没有看到基于机器学习，旨在绕过其它安全机制的任何公开可用的工具包。
但他补充说，有间接迹象表明，犯罪分子开始使用这种技术。
例如，公司已经知道，如果有从一个IP地址不自然的大量的流量，这有一个高的机会，它是恶意的，所以不法分子利用僵尸网络来绕过这些过滤器，辩护人寻找更加微妙的迹象表明，流量自动而不是人，他说。
他们不能只添加更多的随机性，因为人的行为实际上不是随机的，他说。在大数据量的点滴细微图案正是机器学习善于 - 什么罪犯需要为了做到有效地模仿人类的行为。
智能电子邮件诈骗
根据迈克菲实验室2017年预测威胁报告，网络犯罪分子已经在使用机器学习为商务电子邮件妥协诈骗，因为2015年初已不断升级的目标受害者。
史蒂夫格罗布曼，英特尔CTO的安全在英特尔
“人工智能能做的就是让他们自动定制针对受害者的内容，”英特尔首席安全技术官史蒂夫·格罗伯曼(Steve Grobman)说英特尔该报告是由该公司撰写的。“坏角色能够使用AI的另一个关键领域是分类问题。人工智能非常擅长将事物分类。”
例如，黑客可以自动寻找最有可能的受害者。
这项技术还可以用来帮助攻击者隐藏在公司网络内，并找到易受攻击的资产。
然而，识别使用人工智能或机器学习的具体情况可能比较棘手。
“犯罪分子是不是说明他们的方法是什么太开放了，”他说。而他不知道的确凿证据，如运行的机器学习模型，被依法当局没收电脑。
“但我们已经看到了一些迹象，表明这类工作正在进行，”他说。“有明显迹象表明，坏人正开始朝这个方向行动。”
运动鞋恶意软件和假域
安全供应商正越来越多地使用机器学习来分辨好坏的软件，正确与错误的领域。
现在，有迹象表明，坏人正在使用机器学习自己，以找出防御系统正在寻找的模式，埃文赖特(Evan Wright)说Anomali。
“他们会通过杀毒测试了很多好的软件和不良软件，并看到什么[杀毒]发动机现货模式，”他说。
同样，安全系统查找域生成算法模式，使他们能更好地发现恶意域名。
“他们试图模拟什么好人都在做，而且有自己的机器学习模型生成异常这些规则，”他说。
同样，没有什么确凿的证据表明这种情况正在发生。
他说:“我们已经看到了领域生成算法的有意设计，使得它更难被检测。”但他们本可以用几种不同的方式来实现这一点。这可能是经验之谈。他们尝试了几种不同的方法，这个成功了。”
或者，他们本来是特别直观，他说，或聘请谁之前为安全公司工作过的人。
攻击来自机器，而不是聪明(或腐败)的人类的一个指标是攻击的规模。举个例子，一个常见的骗局就是创建虚假的约会账户来引诱受害者去卖淫服务。
聪明的部分不是机器人与受害者的自动对话，而是首先创建档案的方式。
at的首席执行官和联合创始人Omri Iluz说:“它需要动态地创建一个个人资料，加上一张来自Facebook的非常吸引人的照片，以及一个吸引人的职业，比如空乘或学校老师。PerimeterX。
每个配置文件是唯一的，但吸引人的，他说。
“我们知道这不只是自动化，因为真的很难，”他说。“我们仅凭数量就排除了人工流程。我们也不认为他们会推出数以百万计的个人资料和做自然选择，因为它会被约会平台识别。这些都是非常智能的软件。”
黄牛党做类似的事情时，他们会自动买票获利转售。
“他们需要挑选那些他们知道能在二级市场上卖个好价钱的东西，”他说。因为没有时间，他们不能手动操作。这不可能是一个数字游戏，因为他们不可能买所有的存货，那样他们就会赔钱。这背后有智慧。”
他说，这些活动带来的利润超过了研发费用。
他说:“当我们看一看这些欺诈者创造的收入时，它比许多真正的公司都要大。”“他们不需要杀人，也不需要做一些像贩毒这样的冒险事情。”
为图灵测试做准备
在有限的，特定的应用程序，计算机已经通过图灵测试 - 经典的思想实验中，人类试图决定他们是否在谈论到另一个人，或一台机器。
英特尔的Grobman说，应对这类攻击的最佳防御是关注基本面。
“大多数公司仍与适度甚至攻击的情况下苦苦挣扎，”他说。“现在，企业能够做的最重要的事情是确保他们拥有强大的技术基础设施，并继续修炼模拟和红队的攻击。”
这个故事，“人工智能不再是好人的专利”最初是由方案 。