IT之家 10 月 28 日消息,据《读卖新闻》25 日报道,日本一名 25 岁林(Hayashi)姓男子因滥用生成式 AI 制造电脑病毒,被东京地方法院判处有期徒刑三年,缓期执行四年,标志着日本首次有因滥用生成式 AI 作出刑事定罪的案例。

据判决书等资料显示,去年 3 月 31 日,该男子左右在川崎市的住所中利用电脑和智能手机,通过生成式 AI 获取的恶意程序设计图(源代码)制作了类似勒索软件的电脑病毒。此外,他还冒充他人骗取了手机通信卡等物品。

判决称:“被告为了获取金钱而制作病毒,其行为自私且刑事责任重大。”同时,考虑到该男子已承认起诉事实并表示反省,法院决定给予缓刑。

因使用生成式 AI 制作恶意软件,日本一 25 岁男子首次被判有罪  第1张

在法庭上揭露了另一个现实 —— 哪怕没有 IT 专业知识,也可以利用生成式 AI 制作病毒。根据检方的开场陈述,被告林某使用“非官方版的 ChatGPT”,创建了对特定文件进行加密并使其无法使用,以及要求支付加密货币“比特币”的程序源代码。据称,他通过修改并合并上述代码来完成病毒的制作。

被告在本月 1 日的质询中表示,完成病毒大约花费了一个月时间。他承认自己没有 IT 知识,“如果没有生成式 AI 的话,我想自己无法制作出来。”当辩护人问他“是否很简单”时,他回答说“是”。检方在陈述中指出,如果被告没有因通信卡诈骗案被捕,他的病毒可能会被用于犯罪。

IT之家从报道中获悉,安全公司“三井物产 Secure Directions”高级恶意软件分析技术员吉川孝志称,生成式 AI 设置了不提供非法信息的限制,但网上也存在规避限制的方法。被告在质询中也表示“查找了解除限制的方法,并使用之”。

吉川孝志称:“生成式 AI 被恶意利用时,即便没有知识的人也可能获取可用于犯罪的信息”,并指出“在不影响正当使用的前提下,必须加紧采取防止滥用的对策”。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。