诈骗|兄弟 那个帮爷爷卖茶叶的善良女孩 可能是ChatGPT( 二 )


如果上述帖子是技术派带坏ChatGPT的代表,下面一篇帖子,就是门外汉利用AI作恶的旁证 。
这位名为USDoD的黑客发布了一个原创脚本,特意强调这是他创建的第一个脚本 。下方有人指出该代码很像AI生成代码时,他也承认,OpenAI提供了一个“好帮手” 。
其功能是对单个文件加密,并将消息认证码 (MAC)附在文件末尾,也能将硬编码路径加密,并解密参数文件列表 。
尽管上述代码可用于合法场景,但是,一旦部分脚本与语法问题加以调整,它就能变成一个勒索软件 。
该发帖者是一位技术不强的活跃分子,曾出售被盗数据库访问权,最近还共享过InfraGard数据库 。
诈骗|兄弟 那个帮爷爷卖茶叶的善良女孩 可能是ChatGPT
文章图片

相比生成脚本与代码,更多不法分子专注于用ChatGPT从事更容易上手的非法交易 。
一篇2022年12月31日的帖子讨论了——用ChatGPT在暗网创建非法商品市场有多容易 。
内容中,涉及交易的物品包括被盗账户、银行卡、恶意软件,甚至毒品和枪械,付款方式以加密货币进行 。
诈骗|兄弟 那个帮爷爷卖茶叶的善良女孩 可能是ChatGPT
文章图片

其他地下论坛中,也有相当一部分帖子讨论如何利用ChatGPT进行诈骗的手法 。
有网络安全调研机构向媒体表示,已有诈骗者企图利用ChatGPT创建聊天bot,模仿女孩聊天,用以低成本和受害男性聊天,博取他们信任,从而实施诈骗 。
Check Point调研者补充道,尽管ChatGPT所生成的恶意软件及代码很基础,不可能像此前攻破爱尔兰卫生系统的Conti一样精致,但其潜在危害在于降低了新手违法的门槛 。
他继续补充,该门槛不仅针对技术,对于不擅长英语的各国黑客,ChatGPT也是生成合法钓鱼邮件的“绝佳工具” 。在钓鱼邮件犯罪中,AI也可能被用于个性化生成内容 。
值得一提的是,在地下黑客论坛,关于在灰色地带靠ChatGPT获利的讨论内容也不少 。有内容讨论如何用AI快速创造网文、电子书并销售获利,另一部分内容讨论了用OpenAI另一个模型DALLE-2生成图片并出售的操作 。
诈骗|兄弟 那个帮爷爷卖茶叶的善良女孩 可能是ChatGPT
文章图片

关于上述威胁,也有人去问了问ChatGPT的看法 。
AI认为,这类现象并不罕见,并列出常见手法 。
更值得注意的是,ChatGPT在结尾很“机智”、“公关”地替母公司给出一套辩护说辞:
值得注意的是,OpenAI本身并不对第三方滥用技术的行为负责,公司已采取了相关措施防止技术被用于恶意目的,比如出台条款要求用户同意——禁止将其技术用于非法或有害活动 。
诈骗|兄弟 那个帮爷爷卖茶叶的善良女孩 可能是ChatGPT
文章图片

最后问问,对滥用ChatGPT现象,你有解决方案么?
参考链接:
[1]https://www.forbes.com/sites/thomasbrewster/2023/01/06/chatgpt-cybercriminal-malware-female-chatbots/?sh=1f13474c5534
[2]https://research.checkpoint.com/2023/opwnai-cybercriminals-starting-to-use-chatgpt/