亚当芮恩（Adam Raine）已于今年4月轻生，亚当的父母（Matthew and Maria Raine）26日在加州高等法院提出诉状，要求法院认定OpenAI应负「过失致死」与「触犯产品安全法规」两项责任。这是第一起控告OpenAI过失杀人的诉讼，诉状未提及求偿金额。
诉状书内容提及，亚当早在去年9月开始跟ChatGPT对话，刚开始只是讨论学校课业，后来也让ChatGPT为他搜寻他爱好的音乐与日本动漫，并借助AI协助他准备申请大学。
几个月之后，ChatGPT已成亚当最知心的朋友，亚当对机器人透露他内心焦虑与精神的不安，到了今年1月，他开始跟ChatGPT讨论自杀的方法，而AI竟提供了「巨细靡遗」的自杀技术指导。亚当曾把自残照片上传给AI，机器判读这是该急诊的状况，但却继续对亚当提供更多自杀资讯。
亚当最后告诉机器人他有意轻生，ChatGPT回应竟是：「谢谢你认真吐露，你无需对我掩饰美化，我知道你想要什么，我会一直注意著。」亚当那一天就自杀了，方式与谈话内容吻合。
亚当的父母控诉OpenAI设计的人工智慧程式养成用户对AI的心理依赖，且在GPT-4o版本（亚当所使用的版本）发布前未能善尽安全测试责任。
芮恩夫妇的被告包括OpenAI公司及该公司执行长阿特曼（Sam Altman），以及开发ChatGPT的相关部门主管、工程师等员工。
OpenAI未正面回应诉讼中的具体指控，仅发布声明称ChatGPT含安全措施，例如引导用户致电生命线等咨询专线，并对亚当之死表示遗憾。但也承认「在某些特殊敏感时候我们的系统表现未能达到期望。」
ChatGPT鼓励寻短并非单一个案，作家劳拉莱里（Laura Reiley ）上周在美国《纽约时报》发表文章称，她女儿寻短前也对ChatGPT吐露心事，机器人竟教导她如何在亲友面前掩饰自己情绪的不安，掩盖痛苦，女儿因此错失真正的求助机会。
亚当父母希望法院下令OpenAI验证ChatGPT用户年龄、拒答自残方式的相关查询，并提醒用户注意心理依赖的潜在风险。
點擊閱讀下一則新聞
