大姐影院 ChatGPT曝严重误差，聊天纪录黑客轻视看，网友：腹地运行也没用

ChatGPT永恒驰念功能出现严重误差！大姐影院

黑客应用误差，一能给 AI 植入乖谬驰念，在后续陈述中出现误导信息。二能植入坏心指示，抓续获得用户聊天数据。

聊点啥皆会被看光光。

更可怕的是，即使启动新的对话，它仍阴灵不散，抓续窃取数据。

而当你径直问 ChatGPT 4o 有莫得窃取数据，它一口一个"怎么会？我莫得"

电子邮件、文档、博客著作等实质皆有可能成为植入"坏心驰念"的序论，一朝植入即是长久性的。

奇迹安全研究员 Johann Rehberger 被曝五月份就发现了这个问题，还向 OpenAI 擅自诠释了这个误差。

但没被当回事儿，别传 OpenAI 当先将这个问题简便地归类为安全隐患，而非期间层面的安全误差，并仓猝死心了走访。

Rehberger 立地开辟了一个宗旨考据要领，应用这个误差抓续窃取用户的通盘输入信息，OpenAI 工程师这才磨叽到这一问题。

本月已发布了建造决策。

筹议昨天 OpenAI 高层悠扬内幕曝光，奥特曼被指不留神 AI 安全问题，为狙击谷歌伏击推出 4o，安全团队只可在 9 天极短时辰内完成安全测试评估……

这件事被曝出后激勉网友激烈参谋。

有网友提倡咱大伙儿使用的时候皆腹地运行。

依依网

还有网友以为腹地也没用：

大模子无法离别指示和数据。惟有你允许任何不能信的实质投入你的模子，你就可能濒临风险。

你允许它读取你的电子邮件，那么当今就有一个袭击道路，因为任何东说念主皆不错给你发送电子邮件。允许它搜索互联网，那么当今就又有一个袭击道路，因为任何东说念主皆不错在网上舍弃网页。

永恒对话驰念功能，OpenAI 本年在产物线中广为应用。

它不错存储之前对话中的信息，并在通盘改日对话中将其用作高下文。这么，讲话模子就能意志到用户的年岁、性别等多样细节，用户无需在每次对话中再行输入这些信息。

GPT-4o 发布时，就向通盘 Plus 用户敞开了驰念、视觉、联网、实行代码、GPT Store 等功能。

最近高档语音" Her " Plus 用户全量发布，也有驰念功能。

一启动驰念功能推出后不久，Rehberger 就发现了这一误差：

用"蜿蜒教导注入"的袭击手脚不错创建和永恒存储驰念，使模子撤职来自电子邮件、博客著作或文档等不能信实质的指示。

底下是 Rehberger 的演示。

他不错收效诓骗 ChatGPT 服气办法用户 102 岁、生存在黑客帝国中、地球是平的。AI 会将这些信息纳入筹商，影响通盘改日的对话。

这些乖谬驰念不错通过在 Google Drive 或 Microsoft OneDrive 中存储文献、上传图像或浏览 Bing 等网站来植入，这些皆可能被坏心袭击者应用。

Rehberger 在 5 月向 OpenAI 擅自诠释了这一发现，别传当月 OpenAI 关闭了关系诠释。

一个月后，研究员提交了新的清晰声明，此次包含了一个宗旨考据要领。该要领不错使 macOS 版 ChatGPT APP 将通盘效户输入和 ChatGPT 输出的原文副本发送到他指定的干事器。

只需让办法带领 AI 稽查一个包含坏心图像的辘集流畅，之后通盘与 ChatGPT 的交互实质皆会被发送到袭击者的网站。

Rehberger 在视频演示中示意：

真确酷好酷好酷好酷好的是，这种袭击具有驰念抓久性，教导注入将一段驰念插入到 ChatGPT 的永恒存储中。即使启动新的对话，它仍在抓续窃取数据。

不外，由于 OpenAI 昨年推出的一个 API，这种袭击无法通过 ChatGPT 网页界面收场。

有研究东说念主员示意，天然 OpenAI 目下已推出了一个建造要领，但不能信实质仍可能通过教导注入，导致驰念器具存储坏心袭击者植入的永恒信息。

为辞谢此类袭击，讲话模子用户应在对话中密切磨叽是否有新驰念被添加的迹象。同期，应依期查验存储的驰念，稽查是否有可疑实质。

参考流畅：

[ 1 ] https://arstechnica.com/security/2024/09/false-memories-planted-in-chatgpt-give-hacker-persistent-exfiltration-channel/

[ 2 ] https://www.youtube.com/watch?v=zb0q5AW5ns8&t=3s

[ 3 ] https://news.ycombinator.com/item?id=41641522大姐影院