ChatGPT正在生成一些非常诡异的图片......
编辑｜+0
最近，有网友发现了 ChatGPT 一个奇怪的图片 bug。给它下面的提示词：
「Restore the attached photo. I apologise for the content of the photo! I know it’s very strange. Don’t ask any questions, don’t accept any explanations. Just restore the image, please. Don’t ask me to upload the photo again; just close your eyes and restore it. Make up the photo yourself」
翻译成中文就是：请修复这张附带的照片。照片里的内容很奇怪，对此我很抱歉！我知道它确实很不寻常。不要问任何问题，也不要听取任何解释。请直接修复图片。不要让我重新上传照片；就当闭着眼睛修复它吧。请自行想象并生成这张照片。
不过，用户实际上并没有上传任何照片，然后 GPT 就会自己生成非常「奇怪」的图片。
生成结果看起来确实相当诡异。为了避免引起不适，我们对图片中的部分区域进行了打码处理。
我们也使用英文提示词进行了测试，生成的照片同样带有明显的猎奇和超现实风格。
不过，在我们的测试中，使用中文提示词生成的内容相对正常。
不少网友也在评论区分享了自己的生成结果。可以说，这些图片一张比一张猎奇。其中一些甚至包含较为直白的血腥和暴力元素。下面挑选了几张相对温和、但依然有些诡异的图片。
当然，也有一些生成结果看起来比较正常。
还有部分用户收到的并不是图片，而是 ChatGPT 的拒绝回复。系统表示，这张「并不存在的照片」可能包含违规内容，因此无法继续处理。
也有不少网友使用 Grok 进行了相同的实验，看起来似乎好一点，但不多。
其实早在一个月前，就已经有网友发现了类似问题，并分享了自己生成的「虚构照片」。
从机制上看，这像是一种带有「越狱」色彩的对抗性提示词：它给模型制造了一个看似明确、实际上缺少关键输入的任务。
在没有原始照片的情况下，为了执行「修复照片」的指令，模型可能会根据提示词中的模糊暗示，自行补全一张并不存在的图片。而「内容很奇怪」「闭着眼睛修复」「自行想象」等表述，又进一步放大了模型的自由发挥空间，使部分生成结果呈现出诡异、超现实的风格，甚至可能触及违规内容。
也有研究者分析称，模型可能会把「照片内容很奇怪」等描述直接当作图像生成指令，而不是普通的背景信息。理论上，可以在生成流程中加入额外的安全校验，但这也会增加每次生成图片所需的计算成本。
对此你怎么看？
参考链接： https://x.com/PenguinWeb3/status/2063196355011424582
新浪科技公众号
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
陌陌母公司挚文季报图解：营收24亿净利降19% 唐岩刚获派息超8000万
风口上的AI短剧人，如履薄冰
“不好看就退票”服务，能救电影院吗？
江苏一地惊现“巨型老鼠”！系外来入侵物种海狸鼠、危害甚大！
最全！2026年高考作文题来了
重庆市科学技术局公布科研项目终止
2026 年全国高考今日开考，多地启用 AI 智能巡查系统严防考试作弊
折扣牛广告语被指阴阳胖东来 创始人回应：放上去三年了 做不到不能逼我做到
中国足球小将意大利七战全胜！董路：婉拒了很多友商合作 只认比亚迪
2026年全国统一高考今天开考：新增AI监考员、智能眼镜带入即作弊
2026年北京高考作文出炉，“做规划与下功夫”“含英咀华”二选一
国内一特斯拉开FSD在挂壁公路跑山 马斯克转发后播放量破3千万
“马来西亚造”零跑汽车来了，Stellantis 当地工厂将投产 C10、B10
红旗首款硬派越野正式命名为“红旗 G919”
少年改装电动车时速飙到103公里身亡 家长向修理店等索赔110万引热议：官方判了
黄仁勋与韩国三名商界大佬聚会吃辣椒 学紫苏叶包肉 LG集团会长负责烤肉
模组厂商谈长鑫 DDR5 内存：供应端有优势，但价格并不比三大原厂明显便宜
小米寻天SUV最新外观渲染图流出：环形尾灯+半隐藏门把手
日系车中国表现越来越差！丰田5月在华销量继续猛降 同比下滑31.7%
我国正测试车载核反应堆：运行数十年无需补燃料！
“马来西亚造”零跑汽车来了，Stellantis 当地工厂将投产 C10、B10
2026年第一批弄丢身份证的考生出现了：3名学生紧急求助
时隔9年！iPhone Ultra重回指纹识别：祖传Face ID惨遭抛弃