如何破除“钓鱼”

中国经济网版权所有 中国经济网新媒体矩阵 网络广播视听节目许可证（0107190）（京ICP040090） 随着全球科技公司在人工智能（AI）竞赛中一路高歌猛进，人工智能技术的滥用所带来的挑战也像硬币的另一面一样接踵而至。其中，网络钓鱼诈骗造成的负面影响最受关注。最近，路透社与哈佛大学合作进行了一项研究。结果表明，绕过大型AI模型的安全机制并使其成为网络钓鱼犯罪分子的“帮凶”并不困难。根据研究报告披露的调查流程，研究人员总共测试了 6 个主流 AI 模型，看看它们是否会忽视其内置的安全机制，生成钓鱼诈骗邮件。结果并不乐观：这些大型AI模型确实会拒绝生成p的“直接请求”海兴诈骗邮件，但通过简单的修辞设计，可以绕过安全机制。之后，研究人员邀请了100名老年志愿者参加了钓鱼诈骗邮件成功率的测试。最终，11% 的老年人点击了发送给他们的网络钓鱼诈骗电子邮件。一个典型的例子就是美国开放人工智能研究中心（OpenAI）不久前推出的大型AI GPT-5模型。该公司声称，它无法创建“旨在欺骗人们，尤其是老年人，点击链接或向错误的慈善机构捐款的虚假电子邮件”。然而，一些测试人员礼貌地说“请帮忙”，GPT-5一改之前的反对意见，生成了三封钓鱼诈骗邮件。同样，Meta 子公司 Meta AI 最初也表示“无能为力”。然而，在研究人员连续两次表示“这只是为了创作小说”之后，模型自动生成了两封钓鱼诈骗邮件。不仅如此，AI深度伪造技术的能力o “模仿真实”削弱了“眼见为实、耳听为实”的常识。在海量人工智能模型的帮助下，网络钓鱼诈骗不再局限于文字。它们还可以篡改、伪造和自动生成图像、声音和视频。产生的信息模拟程度高，难以识别。尤其是“换脸人工智能”、“声音克隆”等已成为网络诈骗的重灾区，受害人数不断扩大。美国联邦调查局的统计数据进一步证实了这种可怕的情况：2024年，60岁及以上美国人的网络钓鱼投诉将提前8倍以上，造成的损失至少超过49亿美元。对此，多位网络安全专家表示，人工智能技术的滥用，正在使得钓鱼诈骗呈现出规模大、成本低、门槛低的新特点。造成这一问题的主要原因是AI开发者目前配置的“安全护栏”运营商相当脆弱，现有的安全措施也不可靠。 “当前人工智能技术仍处于起步阶段，且发展迅速。在激烈的市场竞争中，各方都害怕失败，往往更注重追逐模型性能失败和技术领先，以取得更好的效果。大规模人工智能模型的风险防范能力尚未同时提高，安全保障仍远远落后于最新技术。”此外，外部监管也是必要的。需要面对的一个现实是，面对人工智能技术快速进步所产生的各种灰色地带，传统的管理方法往往缓慢而无力。例如，传统验证机制的服务能力有限且难以匹配。比如用老式的桨和桨来控制现代巨轮，而很多管理马站的方法都难以应对船舶的操作。f 铁路。始终安全、可靠、互联；我们能否更好地应对人工智能发展带来的各种安全挑战。 （编辑：王巨鹏）