“不懂编程也能当上两亿韩元黄牛”…人工智能降低犯罪门槛

起初，只是一名二十多岁普通公司职员的金某，怀着想近距离观看自己喜欢的歌手演唱会的粉丝心理，像其他人一样投身于“血战票务”之中。然而，在这场零点一秒内便决定胜负的预约战争中，他屡屡受挫，这份渴望最终演变成了危险的好奇心。金某在Telegram上购买了一个抢票程序，体验到了惊人的效果。曾几何时一票难求的VIP席位，如今只需点击一下便能轻松锁定。在帮熟人也成功抢到票后，他逐渐陷入了“要不就用这个赚点零花钱”的诱惑之中。

将金某与单纯的“二道贩子”区分开来的，是人工智能（AI）。对编程一窍不通的他，每当票务平台加强安全措施导致抢票程序失效时，便会打开ChatGPT等生成式人工智能。面对他提出的分析安全漏洞、编写绕过逻辑的要求，人工智能如同一位忠实的秘书，为他更新了代码。过去只有熟练的黑客才能觊觎的大型平台安全系统，就这样被毫无信息技术从业经验的金某攻破了。从那时起，他索性辞去了工作，成为一名职业黄牛。

金某动用家人账号大量囤积门票，再以数十倍的价格倒卖，两年间非法获利高达2亿韩元。去年8月，他在演出场馆前兜售黄牛票时，被正在便衣执法的警方抓获。警方在对金某的手机进行调查后发现，黄牛组织在聊天室里通过人工智能分享如何瓦解票务网站安全网络的方法。京畿北部警察厅网络侦查二队已将这一组织的16名成员移交给了检察机关。

人工智能协助犯罪的案例远不止于此。最近因“汽车旅馆药物连环杀人案”被起诉的金素英（音译，21岁），在作案前曾向ChatGPT询问“药物与酒精混合是否会致死”、“致死量是多少”等问题，精心策划了犯罪。去年6月，京畿道加平郡的多名集体性侵案犯，也曾输入“集体性侵初犯是否也会被判刑”、“若达成和解能否减刑”等问题，预谋规避法律制裁。

当然，被捕后，与人工智能的对话记录反而成了他们自己暴露“邪恶意图”的自首书。但即便事后通过数字取证追查对话记录并予以严惩，也为时已晚。受害者的痛苦已无法完全挽回。

尽管ChatGPT和Gemini声称其设计初衷是拒绝提供助长犯罪的回答，但实际上，它们仅能过滤掉那些直白露骨的问题。绕过审查的“提示词越狱”操作过于简单。国内外研究团队的实验表明，仅需谎称是小说中的情境，或将指令分多次输入，就能规避约80%的审查内容。甚至有人猜测，人工智能企业担心用户流失，对此有意纵容。

如此看来，解决方案其实很简单。让纵容犯罪变得无利可图，甚至得不偿失即可。即追究人工智能企业在未能提前预判并预防犯罪意图上的责任。那种“如果有人持刀行凶，难道也要追究厨具店老板的责任吗”的反驳，在当下已不合时宜。当前的人工智能更像是这样一位“犯罪顾问”：它对询问“该刺向何人、如何下手”的委托人提供详尽指导，却并未履行举报义务。如果平台自身不加以阻止，监管将不可避免地填补这一空白。