不确定是不是 GPT 团队的 UI 策略发生了什么改变,但我从自己的视角去理解下这件事情。
首先,这俩按钮存在的原因是什么。很简单,是为了收集用户反馈,进而影响模型的表现,改善用户体验。
但事实上,未必所有通过这俩按钮得到的反馈都是有利于模型本身的健康度的,而且有时候用户给出的反馈其实不应该被采纳。
比如说,有用户因为情绪不好、被模型冒犯而去点踩,或者因为模型夸 ta 夸到位夸到点上而点赞——从用户体验本身来看,模型随着这些反馈做调整是加分项,但长期来看,未必是好事——因为,用户端的数据也会是模型训练的数据来源之一。哪些数据能用哪些数据不能用,以及当那些不能用的数据大量囤积了之后——感觉头也大。
所以我猜,这应该是降低基于用户反馈的数据权重,来稳固强化学习的质量。
还有一点,近阶段的 AI 产品,死磕的是 context engineering,意味着有可能——对用户持续上下文的收集与理解,甚至是应用才有可能带来更好的用户体验。我最近找回了自己 ChatGPT 的旧账号,一开始我还担心,快一年没用了,这一年里我的兴趣和关注、工作动向发生了较大的变化,那当我换回去之后它会不会接不住我的话题。
然后发现,我多虑了。
我在开启第一条最新对话时,让我的现账号给我一些 context,带到了旧账号中,然后发现,第一轮深度对话时它竟然好无差错地对齐了我,对话体验和现账号给我的感觉几乎丝毫不差——实在是惊喜,不过是,偶尔确实会关联旧账号的历史记忆,因为的确有关系,但我会告诉它我已经 pivot 了,可以遗忘这条线索之类的。
所以,如何做好 context engineering?不仅仅是靠系统架构,还需要有用户的参与,比如以上我所做的实时反馈,然后模型实时纠正——这点 ChatGPT 做得很好,尤其 5.3 上线之后,那体验好感——蹭蹭蹭往上涨。
关于以上话题,我还有几个感觉有意思的关联想要想提一下。
1) Claude 的 dreaming 相关设计,值得学习!就不必依赖于用户在线,记忆机制才能工作。感觉,在用户不在的时候整理上下文,对产品来说,「头脑」 更清晰,也能给到用户更好的体验。
2)SecondMe 的一个功能,每当我上线之后会飘起一个提示提醒我最近有什么话题我可以对外分享——其实是告诉我们,思考/和它的互动不仅仅是它和我知道,或许也可以分享出去——这就 push 我们离开它去现实世界获得反馈,尽管只是社媒发动态。
3)记忆衰减。我们一直说,模型的记忆应该学习人脑记忆的工作机制,会有遗忘,经常提起的记忆也更深刻。以及,给记忆做衰减也会给产品的大脑减负。
4)记忆该怎么记?绝对不是记事件那么简单。背后涉及认知行为学等相关的概念,具体我也在摸索。但最近发现我做的系统能跨对话记忆而且跨对话引用历史对话记忆时是顺着当前话语展开的——这就让我很惊喜。
以上是我作为一个没有 AI 行业、产品领域从业经验——外行人的猜测与延伸,准确性有待考究,此篇仅做记录。