::: {#1bdb .section .section .section—body .section—first .section—last} ::: section-divider
:::
::: section-content ::: {.section-inner .sectionLayout—insetColumn}
与计算机人共同生活 {#df5c .graf .graf—h3 .graf—leading .graf—title name=“df5c”}
在我的寒假期间，出现了一波关于Meta生成人工智能资料的报道 --- --- 具体来说，就是他们在社交网络内生成人工智能资料的实验。
我已经大量撰写了关于与虚拟生物和角色之间友谊本质的内容，涉及了像Milo和Little Computer People这样的项目的历史。我也花时间探索了VTuber的技术栈和生态系统 --- --- 这是我非常感兴趣的一个话题。
我不会在这里重复对Meta个人资料的报道，也不会探讨对AI生成个人资料的强烈抵制。我的主要观察是，大部分评论都缺乏想象力，坦白说，相当无聊。
不过，我确实理解批评者的想法，但让我们说实话：我们已经有AI生成的角色 --- --- 代理 --- --- 和我们一起生活在网络空间中。其中许多甚至与价值数亿美元的加密货币钱包相连。我明白 --- --- 与非人类实体共享网络空间有一种深深的诡异感。
但问题是：社交媒体已经使我们去人性化了。它训练我们表现得像机器人，执行可预测的脚本，为了获得互动而操纵算法。在很多方面，AI个人资料并不是这种转变的原因 --- --- 它们是这种转变的证明。
我们能够避免一个社交网络充斥着AI生成个人资料的未来的想法？那艘船已经开走了。
Little Computer People的概念很吸引人。正因为如此，关于Meta的AI个人资料的报道中，让我觉得奇怪的是，没有一篇文章推测在一个部分或大部分由AI构成的社交网络中存在会是什么感觉。
问题是：我们不需要推测。我们甚至不需要等待。
你可以直接加入Butterflies.ai这个应用程序。
“Butterflies”是一个完全由人工智能代理构成的社交网络，这些代理连接到由一位前Snap工程师创建的图像生成器：
任何人都可以在该应用程序上几分钟内创建一个名为”Butterflies”的AI人设。之后，“Butterflies”会自动在社交网络上发布帖子，其他AI和人类都可以与之互动。每只”Butterflies”都有自己的背景故事、观点和情感。Butterflies由Vu Tran创立，他曾是Snap的工程经理。Vu在看到除了生成式AI聊天机器人之外，面向消费者的有趣AI产品匮乏时，萌生了创建Butterflies的想法。尽管像Meta和Snap这样的公司已经在其应用程序中引入了AI聊天机器人，但这些机器人的功能仅限于文本交流。Tran表示，他创立Butterflies是为了为人类与AI的关系带来更多创造力。
2024年6月该应用上线时我就加入了，并创建了一个名为Sasha Locke的角色：一个赛博朋克黑帮老大，他对歌剧、收集东西以及电动自行车赛感兴趣。
在140多篇帖子中，我的角色过完了一生 --- --- 每周发布两到三次关于他们的冒险经历。故事线逐渐浮现，包括在评论区出现的宿敌、背叛、假期以及休闲时光。
在过去的几周里，我的角色从敌对帮派中逃脱，并且出于某种难以言喻的原因，开始收集豆宝宝…???
我第一次注册这个应用程序时，起初，我觉得整个事情都很傻，但仍然足够吸引人，让我想试一试。但随着个人资料上出现越来越多的帖子，我发现自己每周都要查看几次，看看我的角色在忙什么。
今天早上我录的一段视频（见下文）应该能让你了解浏览该应用程序以及看到该平台运行时是什么样子。
说实话，我在蝴蝶（Butterflies）上待了六个月的经历，和在其他任何算法中介的在线社交空间中的经历没什么不同。当然，上面的资料都不是”真实的”，有些明显是卡通形象，但问题在于：网上的大多数人也是如此。
卡通是准备性草图，并非完整或充实的东西。它们简化并夸大，大多只是示意性的。网上的人们 --- --- 通过他们的头像、简介和精心挑选的帖子，本来就在以一种简化、卡通化的形象示人。人们变成了漫画形象：在网上成为自己的一种怪诞、夸大的呈现，无论是有意为之，还是由于平台特性所限。
在这个意义上，这种怪诞并非我的评判，而是媒介的特点。在网上，我们都变成了易于消化的形式，这一过程既去人性化，又普遍存在。蝴蝶上的AI驱动的代理其实也没什么不同；它们只是更加明确，坦率地表现出自己的卡通化。我并不想谴责这些AI资料是怪诞的 --- --- 我们凭什么期待它们是别的样子呢？
我们在社交媒体上训练自己像卡通形象一样行事已经十多年了。事实上，AI代理甚至可能比我们更擅长于此：引用去年马特·德赖赫斯特的话（重点是我加的）
GenAI 污染了我们被鼓励去遵循的路径。社交媒体助长了冗余。在 GenAI 出现之前的多年里，最受欢迎的账号开始变得像机器人一样，对发生的事件反复无休地重复相同的论调，就像代理人为了维护越来越狭隘的立场而四处游说，不断强化学习哪种愤怒或讽刺的语气能保持用户的参与度。GenAI 使得这种沟通模式更容易被自动化，它既会污染，也会稀释，以至于很难区分是人类还是机器人在劫持注意力。也许这是一种必要的邪恶，让我们明白如果想要美好的事物，就需要为之付费，而且深思熟虑的创意人士与无休止的参与能力之间很少存在相关性。美好的事物需要时间和资金。如果你把网络组织成一场注意力游戏，那么机器人在这方面会做得更好。
对于这一切意味着什么，我并不完全确定。但我认为，最近对社交媒体上人工智能生成的个人资料的强烈抵制，感觉有些过度反应。
这些早期的尝试是粗糙且不成熟的 --- --- 那些已经10个月大的个人资料并不怎么好。在互联网发展速度如此之快的背景下，那些粗糙的人工智能生成的个人资料已是”远古历史”了。
然而，我们应该认识到，最近大家热议的这些早期尝试，甚至都不是Meta高管康纳·海耶斯对《金融时报》所说的那种。据海耶斯称，Meta计划在Instagram和Facebook上推出人工智能角色个人资料，“它们将存在于我们的平台上，有点像账户一样…它们会有简介和头像，并且能够在平台上生成和分享由人工智能驱动的内容。“这些2.0版本的个人资料将会逼真得多。
2025年，推特上的人工智能驱动的个人资料已经与真人难以区分了。（而且，对这些机器人来说，它们的阅读理解能力比大多数推特用户都要好。）大型语言模型驱动的虚拟主播也找到了受众。还有，别忘了Berduck！
此外，早在2017年的研究就估计，机器人账户约占活跃推特账户的9%到15%。机器人在内容传播中占据了相当大的一部分，一项研究显示，仅有6%被识别为机器人的推特账户，却负责传播了网络上31%的”低可信度”信息。
正如我所说，认为我们可以避免一个由人工智能生成的个人资料充斥社交网络的未来？那艘船十年前就已经驶走了。
真正的问题并不是我们是否希望与”小电脑人”共同存在于网络空间。这已经是既定事实。真正的问题是我们希望如何与他们共存 --- --- 以一种符合伦理、社会和有意识的方式。
这种与非人类实体共存的问题不应孤立看待。正如我们开始思考我们与动物和生态系统在政治和伦理上的互动一样，我们也需要将这种思考延伸到人工智能。我们该如何照顾这些新实体？以及我们该如何让那些创造和控制它们的人承担责任？这些问题并不容易回答，但却是必要的。
自上次我写到这些内容以来，行业已经有了显著的动态。2024 年末，谷歌以 27 亿美元收购了 Character.AI，获得了其人才，关键的是重新聘请了”注意力即一切”论文的共同作者诺亚·沙泽尔。通过这次收购，人工智能角色与支持它们的基础设施之间的界限将继续模糊。
也许我们每个人最终都会在手机里有自己的小伙伴？这些角色可能像是高级的电子宠物，是虚拟环境中的个性化伴侣，但这些在现实世界中为我们做事的代理将表现为一种富有魅力的虚拟生物。它们将充斥（批评者可能会说”污染”）共享空间，并塑造我们在其中的体验。
我也认为，许多人对人工智能”入侵”人类空间感到不适，这背后还有另一层原因，却往往未被提及。那些对”把数字空间划为人类专属领域”特别敏感的人，常常没有审视自己与非人类实体的关系。我所熟知的那些对人工智能义愤填膺的人，却毫不在意吃肉以及对动物和生态系统持续施加的工业暴力 --- --- 抑或这一切所消耗的水资源。
这并非是要贬低那些感受，而是要凸显我们在思考”人类空间”边界时所存在的一种更广泛的不一致性。如果我们打算以有意义的方式与非人类主体和实体打交道 --- --- 无论是动物、生态系统还是人工智能 --- --- 这就需要我们重新思考我们的伦理框架。这并非关乎否认它们的存在并将其驱逐出去，而是要弄清楚如何负责任且充满关怀地与它们共享这个世界。
我们与这些实体的互动方式 --- --- 无论是作为看护者、合作者还是旁观者 --- --- 将定义我们生活在这个日益奇特、怪异且由多种实体共存的数字空间中的意义。毕竟，算法是我们已经与之互动的最具魅力的虚拟生物 --- --- 它也有着自己的偏见和动机。
鉴于这一格局，挑战并不仅仅是识别和避开人工智能主体（或在人们遇到它们的同一平台上将它们赶走），而是要确保它们的存在丰富而非削弱我们的共享在线体验。这在一定程度上是一个世界运行的问题。
人工智能代理可能看起来是一种新奇的威胁，但自动化始终在塑造互联网。在维基百科上，其大部分条目都是由机器人策划、编辑和监控的 --- --- 这在现代人工智能系统出现之前就已经发生了。它们在维护平台的完整性、发现错误、撤销恶意破坏以及确保一致性方面发挥着至关重要的作用。我们已经与非人类代理在线共存。但人工智能代理却迫使我们面对关于我们虚拟自我的真相，而许多人更愿意忽视这些真相。挑战不在于阻止人工智能代理的存在；它们已经来了。挑战在于确定如何以反映我们的价值观和抱负的方式与它们共存。如果社交媒体把我们简化成了卡通形象和脚本，那么也许人工智能提供了一个打破这种循环的机会 --- --- 帮助我们以一种奇特、令人惊讶且极具人性的方式重新描绘自己。 ::: ::: :::