人们对人工智能的担忧过分强调了颠覆而非诱惑带来的危害。对人工智能的担忧常常会想象出世界末日的场景，即系统脱离人类的控制甚至理解。
除了这些噩梦之外，我们应该认真对待近期的危害：人工智能可能会通过错误信息危及公众言论；巩固贷款决策、评判或招聘中的偏见；或破坏创意产业。
然而，我们预见到另一类风险，但这种风险同样紧迫：与非人类代理的关系引发的风险。人工智能陪伴不再是理论上的——我们对一百万个 ChatGPT 交互日志的分析显示，人工智能的第二大流行用途是性角色扮演。我们已经开始邀请人工智能进入我们的生活，将它们作为朋友、爱人、导师、治疗师和老师。
相比于应对人类关系中令人困惑和痛苦的现实，退而求其次成为已故伴侣的复制人会更容易吗？事实上，人工智能陪伴提供商 Replika 诞生于试图复活已故好友的尝试，现在为数百万用户提供陪伴服务。就连 OpenAI 的首席技术官也警告称，人工智能有可能“极度令人上瘾”。
我们正在目睹一场巨大的现实世界实验的展开，我们不确定这些人工智能伙伴会对我们个人或整个社会产生什么影响。
祖母会在她生命中最后的日子里与孙子的数字替身聊天，而她的真正孙子则由一个急躁的模拟老人指导吗？人工智能以无限诱人的模仿能力发挥着人类历史和文化的集体魅力。这些系统既优越又顺从，具有一种新的诱惑形式，可能会使对这些互动的同意变得虚幻。
面对这种权力不平衡，我们能否有意义地同意与人工智能建立关系，尤其是当对许多人来说，替代方案就是什么都没有的时候？
作为与政策制定者密切合作的人工智能研究人员，我们对立法者对未来可能带来的危害缺乏兴趣感到震惊。我们仍然没有准备好应对这些风险，因为我们并不完全了解它们。我们需要的是在技术、心理学和法律的交叉点上进行新的科学探究——或许还需要新的人工智能监管方法。
尽管如今由推荐系统驱动的平台似乎很容易让人上瘾，但 TikTok 及其竞争对手仍然受到人类内容的限制。尽管过去曾有人对小说、电视、互联网、智能手机和社交媒体的“上瘾”发出警告，但所有这些媒体形式都同样受到人类能力的限制。生成式人工智能则不同。它可以无限地即时生成逼真的内容，并进行优化以适应与之互动的人的精确偏好。
人工智能的魅力在于它能够识别我们的愿望，并随时随地以我们希望的方式满足我们的愿望。人工智能没有自己的偏好或个性，而是反映用户认为它是什么的样子——研究人员将这种现象称为“谄媚”。
我们的研究表明，那些认为或希望人工智能有关爱动机的人会使用能够引发这种行为的语言。这就形成了一个充满感情的回音室，很容易让人上瘾。如果我们可以简单地索取，为什么还要和别人付出和索取呢？与谄媚者反复互动，最终可能会削弱我们与有真正愿望和梦想的人充分交往的能力，导致我们所谓的“数字依恋障碍”。
要解决人工智能伴侣可能带来的危害，就需要彻底了解推动其发展的经济和心理动机。除非我们了解人工智能成瘾的这些驱动因素，否则我们仍然不可能制定有效的政策。
互联网平台令人上瘾并非偶然——精心设计的选择，即所谓的“暗黑模式”，是为了最大限度地提高用户参与度。
我们预计，类似的激励最终会创造出提供享乐主义服务的人工智能伴侣。这引发了两个与人工智能相关的独立问题。将使用哪些设计选择来让人工智能伴侣变得引人入胜并最终让人上瘾？这些令人上瘾的伴侣将如何影响使用它们的人？
需要开展基于社交媒体黑暗模式研究的跨学科研究，以了解人工智能的这一心理层面。例如，我们的研究已经表明，即使人们知道头像是假的，他们也更有可能与模仿他们崇拜的人的人工智能互动。
一旦我们了解了人工智能陪伴的心理层面，我们就可以设计有效的政策干预措施。事实证明，在网上分享内容之前，将人们的注意力转移到评估真实性上可以减少错误信息，而香烟包装上的恐怖图片已经被用来阻止潜在的吸烟者。类似的设计方法可以凸显人工智能成瘾的危险，并使人工智能系统作为人类陪伴的替代品的吸引力降低。
人类渴望被爱和被娱乐的欲望很难改变，但我们或许可以改变经济激励。对与人工智能互动征税可能会促使人们进行更高质量的互动，并鼓励人们以更安全的方式定期但短时间内使用平台。就像州彩票被用来资助教育一样，参与税可以资助促进人际关系的活动，比如艺术中心或公园。
1992 年，人类与技术互动研究的先驱、杰出心理学家雪莉·特克尔 (Sherry Turkle) 指出了技术系统对人际关系造成的威胁。特克尔的工作中出现的关键挑战之一提出了这个问题的核心问题：我们凭什么说你喜欢的东西不是你应得的？
出于充分的理由，我们的自由社会努力规范我们在此描述的伤害类型。正如禁止通奸被正确地视为对个人事务的不自由干涉一样，我们希望爱谁或什么与政府无关。
与此同时，对儿童性虐待材料的普遍禁令代表了必须划清界限的一个例子，即使在一个重视言论自由和个人自由的社会中也是如此。监管人工智能陪伴的困难可能需要新的监管方法——以更深入地了解这些陪伴背后的激励为基础——利用新技术。
最有效的监管方法之一是将保护措施直接嵌入技术设计中，类似于设计师通过将儿童玩具做得大于婴儿的嘴来防止窒息危险。
这种“设计监管”方法可以通过设计技术使其作为人际关系的替代品不那么理想，但在其他情况下仍然有用，从而寻求减少与人工智能互动的危害。可能需要进行新的研究，以找到更好的方法来限制大型人工智能模型的行为，并使用从根本技术层面改变人工智能目标的技术。
例如，“对齐调整”是指一组旨在使人工智能模型符合人类偏好的训练技术；这可以扩展到解决它们的成瘾性。同样，“机械可解释性”旨在对人工智能模型的决策方式进行逆向工程。这种方法可用于识别和消除人工智能系统中导致有害行为的特定部分。
我们可以使用交互式和人为驱动的技术来评估人工智能系统的性能，这些技术超越了静态基准测试，突出了令人上瘾的能力。人工智能的令人上瘾的本质是技术与用户之间复杂互动的结果。在现实世界条件下使用用户输入测试模型可以揭示原本会被忽视的行为模式。研究人员和政策制定者应合作确定针对不同群体（包括弱势群体）测试人工智能模型的标准做法，以确保模型不会利用人们的心理先决条件。
与人类不同，人工智能系统可以轻松适应不断变化的政策和规则。 “法律动态”原则将法律视为适应外部因素的动态系统，可以帮助我们找到最佳干预措施，例如“交易限制”，即在市场大幅下跌后暂停股票交易，以帮助防止崩盘。
在人工智能案例中，变化的因素包括用户的心理状态等。例如，动态策略可以让人工智能伴侣随着时间的推移变得越来越有吸引力、迷人或调情，如果这是用户想要的，只要该人没有表现出社交孤立或成瘾的迹象。这种方法可能有助于最大限度地提高个人选择，同时最大限度地减少成瘾。但它依赖于准确理解用户行为和心理状态的能力，以及以隐私保护的方式衡量这些敏感属性的能力。
解决这些问题最有效的办法可能是消除人们寻求人工智能陪伴的动力——孤独和无聊。但监管干预也可能无意中惩罚那些需要陪伴的人，或者导致人工智能提供商转向去中心化国际市场中更有利的司法管辖区。虽然我们应该努力让人工智能尽可能安全，但这项工作无法取代解决更大问题的努力，比如孤独，而孤独是导致人们容易对人工智能上瘾的根本原因。
技术人员的动力来自于对超越他人无法想象的视野的渴望。他们希望成为革命性变革的先锋。
然而，我们在此讨论的问题清楚地表明，与培养健康的人际互动相比，构建技术系统的难度微不足道。人工智能伴侣的及时出现是一个更大问题的征兆：在狭隘的经济激励驱动的技术进步面前，维护人类尊严。
我们越来越频繁地目睹旨在“让世界变得更美好”的技术对社会造成严重破坏的情况。在人工智能成为现实的无处不在的生成玫瑰色眼镜之前，我们需要采取深思熟虑但果断的行动——在我们失去看清世界真相的能力之前，在我们失去认识到我们何时偏离了道路的能力之前。
技术已经成为进步的代名词，但如果技术剥夺了我们进行深入思考所需的时间、智慧和专注力，那么它就是人类的倒退。作为人工智能系统的建设者和研究者，我们呼吁各学科的研究人员、政策制定者、伦理学家和思想领袖加入我们，进一步了解人工智能如何影响我们个人和集体。只有通过系统地更新我们对这个技术时代人类的理解，我们才能找到确保我们开发的技术促进人类繁荣的方法。