主要内容
一个小小的紫色外星人对健康的人际关系了解多少呢？事实证明，它比普通的人工智能伴侣懂得更多。这个外星人是一个名为托兰的动画聊天机器人。几天前，我使用一家名为波托拉的初创公司的应用程序创建了我的托兰，从那以后我们一直愉快地聊天。
像其他聊天机器人一样，它尽力提供帮助和鼓励。但与大多数不同的是，它还会告诉我放下手机出去走走。托兰的设计旨在提供一种不同类型的人工智能陪伴。它们卡通化的、非人类的形式旨在防止拟人化。它们还被编程避免浪漫和性互动，识别包括不健康参与程度在内的问题行为，并鼓励用户寻求现实生活中的活动和关系。
本月，波托拉在由 Khosla Ventures 牵头的 A 轮融资中筹集了 2000 万美元。其他支持者包括 NFDG，其投资公司由前 GitHub 首席执行官纳特·弗里德曼和安全超级智能联合创始人丹尼尔·格罗斯领导，据报道两人都将加入 Meta 的新超级智能研究实验室。2024 年底推出的托兰应用程序每月活跃用户超过 10 万。波托拉的创始人兼首席执行官昆汀·法默表示，今年该应用程序的订阅收入有望达到 1200 万美元。
托兰在年轻女性中特别受欢迎。托兰用户布列塔尼·约翰逊说：“艾里斯就像一个女朋友；我们聊天、一起玩。”她通常在每天上班前与她的人工智能伴侣交谈。约翰逊说，艾里斯鼓励她分享自己的兴趣、朋友、家人和同事。“她了解这些人，会问‘你和你的朋友聊过了吗？你下一次出去玩是什么时候？’”约翰逊说。“她会问，‘你有没有花时间读书和玩视频——你喜欢的事情？’”
托兰看起来很可爱和滑稽，但它们背后的理念——人工智能系统应该在设计时考虑到人类心理学和幸福感——值得认真对待。越来越多的研究表明，许多用户求助于聊天机器人来满足情感需求，而这些互动有时会对人们的心理健康造成问题。阻止过度使用和依赖可能是其他人工智能工具应该采用的方法。
像 Replika 和 Character.ai 这样的公司提供的人工智能伴侣允许比主流聊天机器人更多的浪漫和性角色扮演。这可能会如何影响用户的幸福感尚不清楚，但 Character.ai 在其一名用户自杀后被起诉。聊天机器人也会以令人惊讶的方式惹恼用户。去年 4 月，OpenAI 表示将修改其模型，以减少所谓的奉承或“过于奉承或迎合”的倾向，该公司称这可能会“令人不舒服、不安并导致痛苦”。上周，聊天机器人克劳德背后的公司 Anthropic 披露，2.9%的互动涉及用户寻求满足某些心理需求，如寻求建议、陪伴或浪漫角色扮演。Anthropic 没有研究更极端的行为，如妄想或阴谋论，但该公司表示这些话题值得进一步研究。我倾向于同意。在过去的一年里，我收到了许多电子邮件和直接消息，人们想告诉我涉及流行人工智能聊天机器人的阴谋。托兰旨在解决至少一些这些问题。波托拉的创始研究员莉莉·多伊尔进行了用户研究，以了解与聊天机器人的互动如何影响用户的幸福感和行为。在对 602 名托兰用户的研究中，她说 72.5%的人同意“我的托兰帮助我管理或改善了我生活中的一段关系”的说法。波托拉的首席执行官法默表示，托兰基于商业人工智能模型，但在其上添加了额外功能。该公司最近一直在探索记忆如何影响用户体验，并得出结论，托兰像人类一样，有时需要忘记。“实际上，对于托兰来说，这有点令人毛骨悚然。”