站长之家4月3日 消息:你可能需要更加警惕检查垃圾邮件和钓鱼邮件，因为骗子已经开始使用ChatGPT 编写没有拼写错误的电子邮件，让人难以察觉出问题。
最近，欧盟执法机构欧洲刑警组织（Europol）已经就网络犯罪分子和骗子可能滥用ChatGPT和其他大型语言模型发出警告。
欧洲刑警组织表示，随着 ChatGPT 等 LLM 的能力不断的提升，犯罪分子利用这些类型的人工智能系统的可能性令人担忧。他们还指出AI大型语言模型“起草高度逼真的文本的能力使得它成为了骗子绝佳的网络钓鱼工具。
据卫报报道，美国网络安全公司 Rapid7的首席执行官科里·托马斯 （Corey Thomas）称，现在靠寻找错误的语法或拼写来发现网络钓鱼攻击的想法已不再适用。
报道还称，英国最著名的网络安全公司之一 Darktrace 的数据似乎表明，越来越多的网络钓鱼电子邮件是由聊天机器人编写的。
Darktrace的数据显示，诈骗邮件的表观数量总体上有所下降。与此同时，在他们检测到的那些语言中，语言的复杂性急剧上升。
但不要误以为数字下降意味着骗子已经松懈了。实际上，这可能表明他们中的很多人正在使用像 ChatGPT 这样的 LLM 来撰写非常复杂可以绕过检测的诈骗电子邮件。
那些发现可能只是冰山一角。根据Darktrace首席执行官Max Heinemeyer的说法，人工智能还将使一种被称为“鱼叉式网络钓鱼”的社会工程骗局更容易实施。
（注:鱼叉式网络钓鱼是指一种有针对性的网络钓鱼攻击，攻击者花时间研究他们的预期目标，通过编写与目标相关性极强的消息来完成攻击。通常鱼叉式网络钓鱼攻击使用电子邮件欺骗，电子邮件“发件人”可能是目标信任的人，例如社交网络中的个人、密友或商业伙伴，使得受害者难以发觉。）
执行这些通常需要一定程度的计划和研究，以收集有关目标的细节，使骗局更具说服力。现在，人工智能可能使得鱼叉式网络钓鱼几乎完全自动化。
Heinemeyer解释道:“我可以抓取你的社交媒体，并将其上传到GPT，它就会生成一封超级可信的定制邮件。”“即使我对英语不是特别了解，我也可以制作出与人类无异的东西。”
