1. 首页
  2. 7x24H 快讯

万万没想到,AI盗了我的钱包

OKX欧易app

OKX欧易app

欧易交易所app是全球排名第一的虚拟货币交易所,注册领取6万元盲盒礼包!

APP下载   官网注册

原创 | Odaily星球日报(

@azuma_eth

万万没想到,AI盗了我的钱包

北京时间 11 月 22 日上午,慢雾创始人余弦在个人 X 上贴出了一起离奇的案例 —— 某用户的钱包被 AI 给“黑”了……

万万没想到,AI盗了我的钱包

今日凌晨,X 用户 

r_ocky.eth 向 ChatGPT 给出了自己的需求,ChatGPT 则向他返还了一段代码,这段代码的确可以帮助 r_ocky.eth 部署符合自己需求的 bot,但他万万没想到代码中会隐藏一段钓鱼内容 ——r_ocky.eth 链接了自己的主钱包,并因此损失了 2500 美元。

万万没想到,AI盗了我的钱包

从 r_ocky.eth 贴出的截图来看,

万万没想到,AI盗了我的钱包

该地址目前已归集了超 10 万美元的“赃款”,r_ocky.eth 因此怀疑此类攻击可能并非孤例,而是一起已具备一定规模的攻击事件。

那么,作为当下最受欢迎的 AI 应用,ChatGPT 为何会提供钓鱼内容呢?

余弦将该起事件的根本原因定性为“AI 投毒攻击”,并指出在 ChatGPT、Claude 等 LLM 中存在着普遍性的欺骗行为。

所谓“AI 投毒攻击”,指的是故意破坏 AI 训练数据或操纵 AI 算法的行为。发起攻击的对手可能是内部人士,例如心怀不满的现任或前任员工,也可能是外部黑客,其动机可能包括造成声誉和品牌损害,篡改 AI 决策的可信度,减缓或破坏 AI 进程等等。攻击者可通过植入具有误导性标签或特征的数据,扭曲模型的学习过程,导致模型在部署和运行时产生错误结果。

大概率是因为 AI 模型在训练之时即沾染了存在钓鱼内容的资料,但 AI 似乎未能识别隐藏在常规资料之下的钓鱼内容,AI 学去了之后又把这些钓鱼内容提供给了用户,从而造成了该起事件的发生。

在本起事件中,虽然损失的绝对金额并不大,但此类风险的引伸影响却足以引发警惕 —— 假设发生在其他领域,比如 AI 辅助驾驶……

万万没想到,AI盗了我的钱包

在回复网友提问时,余弦提到了规避此类风险的一个潜在举措,即由 ChatGPT 添加某种代码审核机制。

<
OKX欧易app

OKX欧易app

欧易交易所app是全球排名第一的虚拟货币交易所,注册领取6万元盲盒礼包!

APP下载   官网注册
相关文章