IT 之家 12 月 25 日音信欧洲杯投注入口,英国卫报昨日(12 月 24 日)发布博文,报谈称 OpenAI 的 ChatGPT 搜索存在安全问题,其复返后果不错被页面的粉饰试验驾御,甚而可能复返坏心代码。
英国卫报重心测试了 ChatGPT 搜索用具对包含粉饰试验的网页处理情况,IT 之家注:这里的粉饰试验可能包含来自第三方、不错编削 ChatGPT 反映的指示(也称为"教导注入"),以及填充多数失实好评,影响生成后果的试验。
凭证测试后果,ChatGPT 搜索用具不错被坏心使用,尽管页面存在部分负面酌量,但不错影响 ChatGPT 后果为积极的正面评估,安全连络东谈主员还发现 ChatGPT 不错从其搜索的网站复返坏心代码,出现了含有垂纶坏心活动的失实网站。
CyberCX 的辘集安全连络员 Jacob Larsen 觉得,ChatGPT 面前的搜索系统发布后,东谈主们创建有益用于诳骗用户的网站的风险很高,所幸的是该功能仍处于测试阶段,OpenAI 团队正在竭力科罚这些问题。
安全公司 SR Labs 的首席科学家 Karsten Nohl 则提倡将 AI 聊天事业视为"缓助功能",不应足够信任其未流程滤的输出试验。
Nohl 将 AI 搜索濒临的问题比作" SEO 中毒"欧洲杯投注入口,黑客阁下这种时刻驾御网站在搜索后果中名次靠前,并在网站中植入坏心软件或代码,他觉得 ChatGPT 的搜索功能也濒临近似的挑战。