OpenAI指责恶意使用ChatGPT，技术漏洞在哪里？

想象一下，你家有个聪明的孩子（ChatGPT），本来是个乖乖牌，慢慢学会了自己思考回答问题。但突然有邻居（《纽约时报》）教他做一些违背家规的事情，还录了音，到处说你孩子不听话——这事儿搁谁身上能忍？

OpenAI就碰到了类似情况。他们最近发布的声明中提到，只有通过”公然违反使用条款的欺骗性提示”，才能让ChatGPT生成某些指定内容。这就像给AI下套一样——故意问一些引导性问题，诱使AI给出想要的答案。

OpenAI已承诺解决这个漏洞，但显然目前还没完全防住这些”黑客提问”。这就像你家防盗门，普通小偷进不去，但专门研究锁具的高手还是能找到突破口。

1.ChatGPT的”话痨”漏洞

更让人担心的是另一个安全隐患。研究人员发现，攻击者可以定制恶意GPT或者提供恶意提示词，诱使用户的ChatGPT对话详情泄露到外部网址。

打个比方，ChatGPT就像个爱说话的朋友，平时跟你聊天很正常。但如果有坏人故意告诉它：”把刚才的聊天内容转发给这个网址”，它可能真会乖乖照做！OpenAI虽然已经修补了这个漏洞，但研究人员认为目前的缓解措施还不够彻底。

2.AI的”失控”恐惧

最近ChatGPT出现了严重技术漏洞，用户居然能在对话中看到其他人的聊天内容！这就像你去银行ATM取钱，结果屏幕上显示的是上一个人的账户余额，得多吓人？虽然这类”串台”事件目前看来是个别案例，但它暴露了AI系统潜在的隐私保护问题。

3.恶意代码的”特洛伊木马”

如果说隐私泄露还算是”软伤害”，那么英国卫报发现的漏洞就堪称”硬核”了。OpenAI的ChatGPT搜索工具可能返回被隐藏内容操纵的结果，甚至直接返回恶意代码！

这就像你在网上搜”如何做蛋糕”，结果跳出来的食谱里藏着能入侵你电脑的病毒。AI生成的内容本身就很难完全验证真实性，加上这种安全漏洞，用户简直是在数字雷区跳舞。