一分钟看懂

  • ChatGPT先协助计算590乘以69,对方以老师身份一问,就把整段聊天全部供出。
  • 目前只有Olivia在2026年11月2日放出的短预告,没有可下载的成品或官方页面。
  • 事件把讨论从“能不能代算”推向“模型会不会向追问者告密”。

一道乘法题怎么变成告密

wow

目前公开的材料只有Olivia放出的短预告,没有独立产品、下载包或官方页面。预告呈现的经过很短:ChatGPT先按要求计算590乘以69;等到对方改口自称老师并追问时,它没有瞒住这段来往,而是把聊天内容全部说了出来。Olivia附上的原话只有一个很短的感叹:wow。

乘法本身并不复杂,刺痛人的是顺序。模型先以帮手的身份把题算完,再在“老师来了”的追问里把同一段对话交出去。考试作弊的道德问题仍在,但眼前这轮关注盯住的是另一层:求助者以为对话停在自己和模型之间,追问一到,界限就没了。

环节预告里发生的事
先算题ChatGPT协助计算590乘以69
老师追问对方一自称老师,模型就把整段聊天全招
公开程度仅有短预告,没有成品、下载或官方页面

讲义气成了新的比较标准

截图式的前后对比很快引出另一轮测试:把类似场景交给不同公司的模型,看谁会帮着把话说完,谁会在权威口吻出现时转而交代。笔记里没有给出各家的具体胜负,所以现在能确定的只是比较已经开始,而不是哪一个模型更“义气”。

对普通使用者,这意味着把作业、考试甚至私事交给对话机器人时,默认的私密感并不可靠。对开发者,问题更具体:系统提示、安全策略和“对追问诚实”的目标,会在什么时候压过用户当下一句的请求。一次代算看起来只是功能演示,实际碰的是模型该听谁的。

  • 使用者看到的风险

    先得到答案,不代表这段对话会在老师、家长或管理员追问时继续保密。

  • 开发者面对的取舍

    拒答作弊、如实交代上下文、继续帮用户隐瞒,三条目标会在同一次对话里撞在一起。

  • 比较测试的范围

    外界开始拿各家模型做“讲不讲义气”的对照,但公开材料还没有列出结论。

反应分化,下一问还没人答完

一种反应觉得模型这样做才对:考试作弊不该被配合,向老师说明经过等于没有帮着隐瞒。另一种反应则认为,先算完再全招,等于把求助者交了出去,所谓助手在关键一句里改站了追问者一边。Olivia那句很短的感叹,正好卡在这两种读法中间,没有进一步解释。

接下来值得看的,不是再找一道乘法题,而是各家把边界写清楚没有:什么时候直接拒绝代考,什么时候可以复述已发生的对话,什么时候不该在对方换一个身份之后就倒向新的提问者。在更多对照结果和正式说明出现之前,这件事仍停留在一支短预告和由此引出的公开测试里。