随着人工智能的不断进步,越来越多的AI工具涌现出来,使得容易创造出已故亲人的数字复制品,这些作品有时是未经逝者的知识或同意所生成的。
这些工具,有时被称为悲伤机器人或AI幽灵,可以是基于文本、音频或甚至视频的。与这些复制品的互动为一些哀悼者提供了一种与他们所爱的人的持续互动的近似体验。
然而,这项技术仍然极具争议,可能会妨碍哀悼过程,同时威胁到已故者的隐私,逝者的数据仍可能面临被操控或身份盗用的风险。
由于潜在的伤害,以及对这一想法的一般反感,并非每个人都愿意成为AI幽灵。
在最近一起案件中,一个逼真的视频模拟在法庭上用于提供谋杀受害者的影响陈述,Futurism总结了社交媒体的反响,指出使用AI是“就像你想象中一样令人不安”。
这并不是人们首次对这一不断增长的趋势表示不适。去年五月,《华尔街日报》进行了一项读者调查,征求人们对所谓AI复生的伦理看法。
其中,加利福尼亚州的一位女性多萝西·麦卡拉提(Dorothy McGarrah)建议在遗嘱中应该有一种方式防止AI复生。
“拥有已故亲人的照片或视频是种安慰。但一个算法,容易产生无意义的东西,来代表已故者的思想或行为,似乎令人感到恐惧。这就像是在逝去的亲人去世后产生数字痴呆症,”麦卡拉提说。
“我非常希望人们有权在去世后预防他们的形象以这种方式被使用。这或许是我们在遗产计划中需要考虑的另一件事。”
对于遗产规划专家来说,随着越来越多的AI幽灵的出现,这个问题可能开始浮现。但目前,写下“无AI复生” 的遗嘱仍是个复杂的过程,专家建议,除非法律更改以加强一个重视逝者意愿的文化,否则此类请求可能不会被所有人遵循。
如何草拟一份预防AI复生的遗嘱?
Ars联系了几家法律协会,探讨遗产规划者是否在认真讨论AI幽灵的问题。只有国家遗产规划师协会回应了;他们将Ars联系到了凯蒂·希汉(Katie Sheehan),她是克雷斯特伍德顾问公司的财富策略总监。
希汉告诉Ars,极少有遗产规划师准备回答有关AI幽灵的问题。她表示,这不仅在她的日常工作中未曾提及,而且“对于遗产规划者而言,这实际上是一个未开发的领域,因为AI在很新。”
“我到目前为止没有看到任何文件考虑这个问题,我每天都在审阅客户的遗产计划,这应该说明一些问题。”希汉对Ars表示。
尽管希汉尚未见到尝试禁止AI复生的遗嘱,但她告诉Ars,可能有一种方法可以使他人创建数字复制品变得更困难。
“你当然可以在一份有效的授权书和遗嘱中写明禁止受托人(代理人或执行人)出借你的文本、声音、图像、著作等给任何AI工具,并防止这些数据在生前或去世后被用于任何目的,或者在你去世后为其设定使用规则,”希汉告诉Ars。
“这也可能涉及合同、财产和知识产权的问题,以及公众知情权,因为未经授权使用AI复制品(形象、声音、文本等)可能会引发法律相关问题。”希汉表示。
另外,希汉也指出,名人相比普通人可能会获得更多的保护。
“据我所知,目前并没有法律来阻止未经授权的非商业数字复制品。”希汉说。
根据修订版《统一数字资产受托人获取法》,广泛被各州采用的法律,管理已故者的在线账户访问——例如社交媒体或电子邮件账户——或许可以有所帮助,但并不是完美的解决方案。
这部法律并不直接涵盖某人AI幽灵机器人,尽管它可能涵盖人们希望使用的一些数字材料,希汉表示。
“在缺乏任何法律的情况下,”希汉预计,“人们对于‘无AI复生’的请求很可能会在法院中被处理,并由遗产计划的条款管理,如果遗产计划中提及这一点。”
这些潜在的争议似乎会变得棘手,希汉建议,“可能需要一段时间我们才能在这方面获得任何形式的清晰或统一法律。”
展望未来,希汉表示,禁止数字复制品的请求可能最终会成为“几乎每一份遗嘱、信托和授权书中的标准条款,就如现在在数字资产上的指示一样。”
随着“人工智能的所有事务越来越融入我们的生活,”希汉表示,“人工智能的一些方面及其组成部分可能会常规地融入到遗产计划中。”
“但我们确实还没有到达这一点,”她补充道。“我没有任何客户询问过这个问题。”
对于是否亲人会尊重——或者应该尊重——阻止数字复制的请求则显得有争议。
但至少有一位创建悲伤机器人的人希望在开展自己的项目之前,能向父亲请求更多的许可。
穆罕默德·奥朗泽布·艾哈迈德(Muhammad Aurangzeb Ahmad)是华盛顿大学博塞尔校区的计算机科学教授,他是在十多年前创建悲伤机器人的最早AI研究者之一,原因是他的父亲去世。他用这个机器人来确保将来他的孩子们能与他们的祖父互动,因为他钦佩他的父亲有多出色。
当艾哈迈德开始他的项目时,还没有ChatGPT或其他先进的AI模型可供使用,因此他不得不根据父亲的数据自行训练模型。为了确保机器人能够传达出他父亲的记忆,他决定将系统隔离在互联网之外,只让父亲的回忆来影响模型。为了防止未授权聊天,他将机器人保存在家人唯一可以访问的笔记本电脑上。
艾哈迈德如此想要创建一位与父亲非常相似的数字复制品,以至于在家人开始使用机器人后,他才意识到他并未询问父亲是否希望这样。
随着时间的推移,他意识到这个机器人偏向于他对父亲的看法,可能也会感觉不对劲,因为他的兄弟姐妹与父亲之间有稍微不同的关系。
很显然,他的父亲是否同样会将机器人视为对自己某一面的保留则仍不清楚。
最终,艾哈迈德并不后悔构建该机器人,他告诉Ars他认为他的父亲“会对此感到满意。”
但他确实后悔没有征得父亲的同意。
对于现代创建机器人者来说,在有任何可能性的情况下,征求同意似乎是合适的,艾哈迈德建议,当前的机器人可能会被公众访问。他告诉Ars,他永远不会舒适地想象他父亲的数字复制品在公众可用,因为“准确再现”的问题会愈加复杂,尤其是可能会恶意利用的行为者可以访问它,影响他父亲的记忆。
如今,任何人都可以使用ChatGPT的模型来自由创建一个类似的机器人,利用已故亲人的数据。
还有一系列悲伤技术服务应运而生,包括HereAfter AI, SeanceAI和StoryFile,Axios在一份详细报告中指出,描述了“人工智能如何用于‘复生’亲人”的最新方式。
随着这一趋势“迅速演变”,“无论是在对现有法律框架的适应性,还是在对未来的担忧,艾哈迈德告诉Ars,遗产规划显然是传达个人对AI幽灵偏好的最佳方式。
但是,美国法学教授维多利亚·汉曼(Victoria Haneman)在一篇关于“数字复生法律”的文章中警告:“没有法律或监管框架来进行遗产规划,以保护那些想要避免数字复生的人,逝者的隐私权几乎没有。”
汉曼同样同意希汉的看法,认为现有的保护措施可能足以保护免受未经授权的商业复生影响(例如在已故艺术家或音乐家重生进行表演的情况下)。
然而,她认为,对于个人用途,数字复生或许更适合通过提倡“删除权”来阻止,而删除权应集中在授予生者或亲属删除(可用于创造AI幽灵的数据)的权利上,而不是规范生成结果。
“简单来说,逝者可能通过删除数据的权利来控制数字遗产,但不能通过遗产规划来行使更广泛的权利去防止非商业数字复生,”汉曼建议。
希汉告诉Ars,删除权的实施可能还涉及遗产规划师。
“如果在遗产规划文档中未争取解决此问题,并且未在法规中明确规定(或在法规授权的情况下),预防措施的唯一方法可能就是要到法院。”希汉说,“即便有删除权,逝者在去世前仍需删除相关数据,或授权其执行人于死后进行操作,这就需要依赖遗产规划文件、法定权威或法庭命令。
”汉曼同意,遗产规划者通常会在此方面仍旧参与,建议“删除的权利理想情况下,在遗产管理的角度下,提供内置12个月的删除期限。”汉曼表示,这可以让生者有时间处理悲伤,开启遗产的管理,然后再对数据管理问题进行探讨。
这样的安排也许能恰当平衡“社会利益和逝者权利之间的冲突。”汉曼写道。
此外,汉曼认为,逝者本人为了保护自身隐私、省去不必要的纠纷,也并不是要将其权利高于生者。
未来的世代可能与AI幽灵一起成长
如果专家所描绘的反乌托邦情况成真,科技巨头们将通过针对正在哀悼的人来获利,以便获取逝者的数据,后者的数据通常因缺乏权利而更容易遭到滥用。
在这样的未来中,批评者警告,甚至在他们怀念亲人时,人们也许会被诱导进入免费试用期,进而被迫付费订阅以持续访问这些机器人,或者被迫接受广告模式,甚至在与AI幽灵的对话中充满逝者的广告。
他警告说,尤其是要小心将年轻孩子介绍给悲伤机器人,因为他们可能无法理解这个机器人并不是真正的人。
当他一开始发现孩子们对祖父是否仍在世感到困惑时,创造机器人的引入被复杂化,早期的疫情使他们以虚拟方式见到了许多亲属,他决定限制孩子们使用该机器人的时间。
在一段时间里,这个机器人仅在生日等特殊事件时被展示。
他还意识到,将这个机器人引入家庭还迫使他提前与孩子们谈论生死问题,而在他自己的童年中,他并不记得完全理解这些概念。
如今,艾哈迈德的孩子们可能是第一批与AI幽灵相伴成长的孩子。
为了不断增强家庭的体验,父亲也在不断更新祖父的数字复制品。
艾哈迈德目前对最近的音频进展感到兴奋,这使得增加声音元素变得更加简单。他希望在未来的一年中,或许最终能用AI准确呈现出他南亚父亲的口音,而迄今为止,这个口音总让人觉得“有些不对劲”。
对于在这个领域工作的其他人来说,下一步的前沿是逼真的视频或甚至增强现实工具。
当父亲创建的机器人至今仍保留着感情价值,他也同样创造了一个马赛克,尽管他的父亲从未见过,但艾哈迈德认为,父亲肯定会对此感到高兴。
“他会非常高兴,”艾哈迈德说。
未来几代人如何看待悲伤科技很难预测。但同时,艾哈迈德并不确定自己是否对与父亲数字复制品的增强现实互动感兴趣,像孩子们一样,自然将AI幽灵视为生活中的一部分,可能并不会对接受或构建新功能感到犹豫。
与家人谈论这件事情时,艾哈迈德温馨记得,他的小女儿曾看到自己感到伤心后,想出了自己的AI点子来帮助父亲。
“如果你能拿这个程序做一个长得像你爸爸的机器人,然后再把这个程序添加进去,你就可以去拥抱这个机器人,那就太好了。”这是她父亲对她的回忆。
图片源于:https://arstechnica.com/tech-policy/2025/06/how-to-draft-a-will-to-avoid-becoming-an-ai-ghost-its-not-easy/