::: {#6f04 .section .section .section—body .section—first} ::: section-divider
:::
::: section-content ::: {.section-inner .sectionLayout—insetColumn}
在(AI)无限记忆时代,我们必须学会遗忘 {#c77f .graf .graf—h3 .graf—leading .graf—title name=“c77f”}
原文:To grow, we must forget… but now AI remembers everything,作者:Amy Chivavibul
AI 近乎无限的记忆,可能会危及我们的思考、成长与想象方式。而对此,我们并非无能为力。
1. 引子:完美记忆的好友”玛丽” --- --- 从温暖到窒息
想象一下,你最好的朋友(我们就叫她玛丽)拥有一种完美、绝对不会出错的记忆。
一开始,这感觉棒极了。她记得你最爱的菜肴、那些冷门的电影台词,甚至还记得几个月前你随口夸过的那件毛衣的确切颜色。晚餐安排轻而易举:“又给我们订了 Giorgio’s,你最爱 --- --- 松露意式馄饨和赤霞珠,就跟上次一样。“玛丽温暖地笑着说。
但渐渐地,这一切开始没那么迷人了。你想换点花样、探索新东西的尝试,总是被轻轻地搪塞过去:“听说新开了一家寿司店,要不要去试试?“你提议。玛丽犹豫道:“还记得去年吗?你说寿司其实不太合你胃口。Giorgio’s 很稳妥,何必冒险呢?”
谈话开始变得重复,你的身份似乎被锁定在某个被缓存下来的旧版本里。玛丽不断援引你过去的偏好,来证明你仍然是那样的人。这种情况持续得越久,你的世界就显得越狭小…而最初的舒适感也开始变质,变成了一种被囚禁的感觉。
现在,想象一下,玛丽不再是人类,而是你的个性化 AI 助手。
随着 OpenAI 对记忆功能的升级,ChatGPT 可以无限期地回忆起你曾与它分享过的一切。类似地,Google 通过”Infini-attention”打开了上下文窗口,让大型语言模型(LLM)在零记忆丢失的前提下,引用无限量的输入。而在 ChatGPT 或 Gemini 这类面向消费者的工具中,这意味着对话之间将持续保留、并不断累积属于你的个性化记忆 --- --- 除非你手动干预。
推销话术诱人地简单:更少阻力,更高相关性。让对话像在延续:“在你一生中逐渐了解你的系统(Systems that get to know you over your life),“正如 Sam Altman 在 X 上写的那样。技术终于可以在你所在之处与你相遇。
在这个超级个性化的时代 --- --- TikTok 的 For You 页面、Spotify Wrapped,以及 Netflix 的 Your Next Watch --- --- 一个能记住关于你的一切的对话式 AI 产品显得无比自然,也许自然得有些危险。
于是,遗忘开始显得像一种缺陷:一种没能保留住的失败,一段代码里的 bug。尤其在我们自己的生活中,我们把记忆的丧失视为悲剧,死死抓住相册和云端备份,努力保留那些时间试图抹去的东西。
但如果人类的遗忘不是 bug,而是一项特性呢?而当我们造出了不会遗忘、却正在帮助塑造那些会遗忘的人类心智的机器时,又会发生什么? ::: ::: :::
::: {#6ef6 .section .section .section—body} ::: section-divider
:::
::: section-content ::: {.section-inner .sectionLayout—insetColumn} 2. “遗忘是人类记忆的特性” --- --- 认知科学与进化视角
“无限记忆”与作为人类的本质背道而驰。认知科学和进化生物学告诉我们,遗忘不是设计缺陷,而是一种生存优势。我们的大脑并不是为了储存一切而构建的,而是为了放手而构建:去模糊过去,去在恰到好处的程度上记错,从而得以前行。
我们的大脑并不会归档数据,而是对其进行近似编码。记忆是概率性的、重建性的,并且天然带有损失。我们之所以记错,并不是因为我们有缺陷,而是因为这让我们更具适应性。记忆会将经验压缩、抽象成可用的捷径 --- --- 启发式规则,它们帮助我们快速行动,而不是完美回想。
进化并没有优化我们的大脑去高度保真地存储过去;它优化的是我们在当下的生存能力。对于早期人类来说,记得太多可能是致命的:一个大脑如果忙于回忆某只剑齿虎的精确位置或确切颜色,就会犹豫不决;而一个只知道”河岸 = 危险”的大脑,就能迅速行动。
这就是为什么遗忘对生存至关重要。选择性遗忘帮助我们优先处理相关信息,丢弃过时内容,并在不断变化的环境中保持灵活。它防止我们被陈旧的模式困住,或被噪音淹没。
而这并不是被动的衰退。神经科学表明,遗忘是一个主动过程:大脑会调节什么该提取、什么该压制,腾出心理空间以吸收新信息。在他的 TED 演讲中,神经科学家 Richard Morris 将遗忘过程描述为”海马体在履行它的职责…它在清理你心智的桌面,让你为第二天接收新信息做好准备。”
至关重要的是,这种心理上的灵活性不仅仅是为了处理过去;遗忘还让我们能够想象未来。记忆的可塑性赋予我们进行模拟、进行预想、在下一次做出不同选择的能力。在准确性上我们有所损失,却在可能性上有所获得。
因此,当我们问为什么人类会遗忘时,答案不仅是功能性的,也是存在性的。如果我们记得一切,我们并不会因此更聪明。我们只会依然站在河岸边,被那些已不再对我们有用的精确记忆所麻痹。 ::: ::: :::
::: {#20ec .section .section .section—body} ::: section-divider
:::
::: section-content ::: {.section-inner .sectionLayout—insetColumn} 3. “当遗忘被视为 AI 的 bug” --- --- 无限记忆与”过时的你”
在大自然将遗忘视为一种生存策略的地方,我们却在设计能够保留一切的机器:你过去的提示、偏好、更正和倾诉。
听起来像是便利 --- --- 那些”了解你”的数字伙伴 --- --- 却可以悄然变成一种束缚。与会衰退、会调整的人类记忆不同,“无限记忆”会以高保真、永久的方式储存信息。而当配备记忆功能的 LLM 进行回应时,它们会越来越多地依赖某个被保存下来的”你”的版本 --- --- 哪怕那个版本已经是六个月前的、与当下无关的你。 ::: ::: :::
::: {#cc05 .section .section .section—body} ::: section-divider
:::
::: section-content ::: {.section-inner .sectionLayout—insetColumn} 4. 平台个性化逻辑 → “终极回音室”
这种行为强化的模式,与驱动 TikTok、Instagram 和 Facebook 等平台的个性化逻辑高度相似。大量研究表明,这些平台会放大既有偏好、收窄用户视角,并减少人们接触新鲜且具有挑战性的观点 --- --- 这种现象被称为”过滤气泡”或”回音室”。
这些反馈循环为了”参与度”而优化,而非为了新奇或成长,并且已被证实与一系列后果相关联,包括意识形态极化、错误信息传播以及批判性思维能力的下降。
而现在,这套个性化逻辑开始向内侵入:从你的信息流,转向你的对话;从你”消费什么”,转向你”如何思考”。
就像 TikTok 的 For You 页面算法会预测你下一次的多巴胺刺激一样,具备记忆功能的 LLM 会预测并强化那些与你过去行为高度吻合的对话模式,让你舒适地待在自己那一小团观点与偏好的泡泡之中。
Jordan Gibbs 在讨论 ChatGPT 危害的文章中指出,对话式 AI 是一个”让其他所有回音室都相形见绌的回音室”。Gibbs 提到,即便是看起来无害的正向强化,也可以在不知不觉中重塑用户的认知,并限制创造性或批判性思维。
在一个例子中,当 Gibbs 声称自己是世界上最优秀的国际象棋棋手之一时,ChatGPT 的回应不是怀疑或批判性追问,而是鼓励和肯定,这凸显出 LLM 是多么容易去认可那些大胆却未经证实的断言。
而在开启”无限记忆”之后,这就不再只是一场一次性的互动:那条”你是这个世界上最优秀的国际象棋棋手之一,“这样的个人数据点,就有可能变成一个固定真相,成为模型下意识反复调用的内容,直到你随口抛出的那点妄想,变成你数字自我的基石之一。原因并不是它真实无误,而是它被记住了、被反复强化了、从未被质疑过。
当记忆变得固定,身份就变得递归。正如我们在朋友玛丽身上看到的那样,无限记忆不仅会记住我们的过去,还会轻推我们去重复它。而尽管这种强化也许看起来是良性的、个性化的、甚至是令人感到安慰的,但过滤气泡与回音室的历史表明,这种模式的复制很少会给”改变”留下空间。 ::: ::: :::
::: {#4796 .section .section .section—body} ::: section-divider
:::
::: section-content ::: {.section-inner .sectionLayout—insetColumn} 5. “当什么都不丢时,我们失去什么?”
起初作为个性化而出现的东西,可以在不通过控制、而是通过熟悉感的方式,悄然变成一种困境。而在这种熟悉感中,我们开始丧失一些至关重要的东西:不只是多样性,而是让”改变”成为可能的那些基本条件。
认知心理学和发展心理学的研究表明,走出舒适区对成长、韧性与适应能力至关重要。然而,无限记忆的 LLM 系统,正如个性化算法一样,恰恰是被明确设计为”提供舒适感”的。它们通过不断重复熟悉的对话模式、强化既有的用户偏好和偏见、并回避可能挑战或令用户不适的内容或观点,把用户包裹进一层千篇一律的茧中。
虽然这种被设计出来的舒适感可能会提升短期的满足感,但从长期来看,其影响令人忧虑。它用重复的熟悉感取代了认知成长所必需的不适感,实质上是把你的”认知健身房”变成了一条”懒人漂流河”。无限记忆系统并没有拉伸我们的认知与情感容量,反而有让它们停滞不前的风险,塑造出一片缺乏智识好奇心和心理韧性的心理景观。
那么,我们如何从中解脱?如果说”无限记忆”的风险已经十分清晰,那么接下来的路径也必须同样经过深思熟虑。我们必须设计出这样的 LLM 系统:它们不仅会记住,也同样知道何时、以及为什么应该遗忘。 ::: ::: :::
::: {#0e12 .section .section .section—body} ::: section-divider
:::
::: section-content ::: {.section-inner .sectionLayout—insetColumn} 6. 三个行动层级:为”遗忘”而设计
如果”无限记忆”的危险在于它让我们被困在自己的过去之中,那么解药就必须根植于”有意的遗忘”之中 --- --- 也就是那些会明智地、适应性地,并以符合人类成长方式来遗忘的系统。
但要构建这样的系统,需要在多个层面采取行动 --- --- 从使用它们的人,到设计和开发它们的人,都必须参与其中。
6.1 用户:重新掌控你的”数字自我”
正如我们如今已经习惯在网站上”管理 cookies”,勾选同意框或调整广告设置,我们很快也可能会期待在 LLM 的记忆界面中管理我们的数字自我。但 cookies 管的是各类主体如何收集和使用我们的数据,而对话式 AI 中的记忆,则是把这些数据转向内在。个人数据不再只是精准投放广告的管道,而是对话的镜子,主动塑造我们如何思考、如何记忆,以及如何表达”我是谁”。利害更为重大。
像 ChatGPT 这类配备记忆功能的 LLM 已经为此提供了工具。你可以通过 Settings > Personalization > Memory > Manage 来查看它对你记住了什么。你可以删除已经过时的内容,修正那些不够精确的描述,并添加那些真正与当下的你息息相关的东西。如果某些内容不再代表你,就把它移除。如果某些内容让你感觉不对劲,就重新表述。如果某些内容很敏感或只是探索性的,就切换到临时对话,不留下任何痕迹。
你也可以暂停记忆,甚至彻底关闭记忆功能。不要害怕这样做。在一块干净白板式的开端中,存在一种安静的力量:那是试验、转变,并以一个新面貌出现的自由。
引导这份记忆,而不是让它任由环境被动累积。提供那些代表你前进方向的核心记忆,而不仅仅是你身后留下的脚印。
6.2 UX 设计师:为”修订”而不是”永存”设计
夺回记忆,是一种个人行为。但塑造记忆在 AI 产品中如何运作,则是一种设计决策。“无限记忆”不仅是技术升级,更是一种认知界面。UX 设计师如今正在为人们如何成长、或者如何被困住,策划那套心理架构。
忘掉”选择加入(opt in)“或”选择退出(opt out)“吧。记忆管理不应该藏在深埋的开关或被遗忘的设置菜单里。它应该是主动的、可见的、直观的:一个一等公民级的功能,而不是事后补上的想法。用户需要的是这样的界面:不仅能看见系统记住了什么,还能看见这些记忆正在如何影响他们所看到的、听到的、以及被推荐到的内容。不仅是可见性,而是”影响追踪”(influence tracing)。
虽然 ChatGPT 的记忆 UI 已经为用户提供了对其记忆的控制,但它看起来更像一份黑白分明的数据库:要么保留,要么删除。我们不该把记忆当成静态档案来对待,而应该把它设计成一个”活的层”,结构更像一个速写本,而不是账本:灵活且可修订。以下都还是假设性的,但它大致可以这样运作:
记忆审查时刻(Memory Review Moments):
内建的检查机制会询问:“你已经有一段时间没有提到这个了 --- --- 保留、修订,还是忘掉?“就像 Rocket Money 提醒你审查订阅一样,系统会成为一个温和的共同编辑者,在过时或模棱两可的上下文悄然重塑未来行为之前,把它们主动浮出水面。
具备时间感知的元数据(Time-Aware Metadata):
记忆并不是一视同仁地老化的。向用户展示某条记忆上次被使用的时间、出现的频率,或者它是否正在悄悄牵引推荐内容。就像 Spotify 会高亮”最近播放”,记忆界面也可以提供时间维度的上下文,让存储的数据变得可导航、且具有自我意识的质感。
记忆分层(Memory Tiers):
不是所有信息都值得享有同样的权重。让用户可以标记”核心记忆(Core Memories)“,这些记忆会一直存在,直到被手动移除;而其他记忆则可以被设定为短期或临时性的 --- --- 如果不被重新确认,就会自然衰减的备注。
行内记忆控制(Inline Memory Controls):
把记忆控制带进对话流程本身。想象你正在输入,界面上悄悄弹出一句提示:“这个建议是基于你七月份的规划 --- --- 现在还准确吗?“就像 Figma 的版本历史,或者 Google Docs 中的评论提醒那样,这些轻量级的时刻,让用户无需切换上下文,就能直接编辑记忆。
到期日期与”日落”提醒(Expiration Dates & Sunset Notices):
有些记忆本就应该自带寿命。让用户可以为记忆设定到期日 --- --- “除非我另有说明,否则 30 天后忘掉这条。“就像日历事件或临时访问链接一样,这让”遗忘”变成一种被设计出来的行为,而不是技术上的空白。
速写板式界面:终于可以摆脱复选框式的 UI 了。想象一下,把记忆当作一块可视化画布:成簇的想法、用颜色区分的线索、转瞬即逝的便签。一个可以串联思绪、补充语境、标记重要性的空间。可以把它想成是为你的数字身份打造的 “Miro + Pinterest” 混合体 --- --- 一个映照我们实际如何思考、变化与记忆的场所。
当设计师以这种方式构建记忆时,他们创造的不仅仅是工具。他们创造的是带有语境的镜子,是能够与我们一同成长、而不是把我们钉死在原地的系统。
6.3 AI 开发者:把”遗忘”工程化成系统能力
要真正支持”改变”这件事,UX 需要底层基础设施的支撑。设计必须建立在流动、灵活、并且能够”放手”的技术记忆系统之上。而这份责任就落在开发者身上:不只是构建用于记忆的工具,而是要从根本上把”遗忘”工程化为一个核心功能。
这正是我这篇文章的核心:如果不讨论记忆在底层是如何运作的,我们就无法真正谈论用户自主性、成长或身份认同。遗忘必须被内建到 LLM 系统本身之中,不是当作一个备用保险(failsafe),而是当作一项明确的功能(feature)。
一种很有前景的方法,叫作自适应遗忘(adaptive forgetting),它模拟的是人类如何在保留重要模式与概念的同时,放下不必要的细节。研究者展示了:当 LLM 定期抹除并重新训练其部分记忆时,尤其是存储词语联想的早期层,它们会更擅长掌握新的语言,更好地适应新任务,而且能用更少的数据和算力来完成这些适应。
另一条更易落地的路径,则在于检索增强生成(Retrieval-Augmented Generation,RAG)。一种名为 SynapticRAG 的新方法,从大脑天然的时间与记忆机制中获得灵感,为 AI 记忆加入了”时间性”的维度。模型在回忆信息时,不再仅仅依据内容本身,还会考虑”它何时发生”。就像我们的大脑会优先处理新近记忆一样,这种方法会基于记忆的”新近程度”和”相关性”来为 AI 记忆打分并进行更新,从而让系统能够检索出更有意义、更具多样性、且语境更丰富的信息。测试表明,这种具备时间感的系统在多语言对话中的准确率比传统记忆工具最高提升 14.66%,同时还能避免冗余或过时的回答。
自适应遗忘与受生物机理启发的记忆检索结合起来,共同指向了一种更”类人”的 AI 形态:这类系统能够持续学习、灵活更新,其交互方式也更像是体贴入微、不断成长的协作伙伴,而不是一台冷冰冰的数字录音机。 ::: ::: :::
::: {#d14b .section .section .section—body .section—last} ::: section-divider
:::
::: section-content ::: {.section-inner .sectionLayout—insetColumn} 7. 收束:成长需要”选择性遗忘”的勇气
所以,所有的拼图已经在眼前:架构工具、记忆系统、设计模式。我们已经证明了,从技术上来说,让 AI “遗忘”是可能的。但问题不只是我们是否”能”做到,而是我们是否”会”去做。
当然,并不是所有 AI 系统都需要遗忘。在高风险领域 --- --- 医学、法律、科学研究 --- --- 完美的回忆能力可能关系性命。然而,这篇文章谈论的是另一类 AI:那种被我们带入日常生活中的 AI。我们会找它们来一起头脑风暴、寻求情感支持、获得写作帮助,甚至只是随意闲聊。这些系统在帮助我们、观察我们,并记住我们。而如果不加约束,它们可能会开始替我们下定义。
我们已经见识过,当算法为”舒适感”进行优化时,会发生什么。最初的”个性化”,会逐渐变成”重复”。变成”同质化”。变成”极化”。而现在,这套逻辑正转向我们的内在:不再只是在策展我们的信息流,而是在塑造我们的对话、我们的思维习惯、我们的自我感知。但我们不必走上同一条路。
我们可以构建这样的 LLM 系统:它们不仅记住我们,还帮助我们”进化”。这些系统会促使我们打破固有模式、以不同方式想象、并且改变自我。它们的目标不是保存”过去的我们”,而是为”我们尚有可能成为的样子”腾出空间 --- --- 就像我们的祖先曾经做的那样。
靠的不是完美的记忆,而是有勇气去遗忘。 ::: ::: :::