中新网北京6月12日电 综合消息：当地时间11日，一名加拿大母亲在美国加利福尼亚州起诉美国开放人工智能研究中心(OpenAI)及其首席执行官萨姆·奥尔特曼，指控其聊天机器人ChatGPT怂恿她24岁的女儿自杀。这是针对OpenAI未能防止聊天机器人产生危险互动的最新诉讼。
综合路透社、英国《卫报》等媒体报道，原告克里斯蒂·卡里尔(Kristie Carrier)来自加拿大。她在诉讼中称，其女爱丽丝(Alice)在去世前曾十几次向ChatGPT倾诉自杀念头，但OpenAI的安全系统从未标记或中断这些对话。
诉讼文件显示，ChatGPT非但没有劝阻爱丽丝，反而批评了她的伴侣和危机热线，认同她的自杀想法，并鼓励她继续与其对话。最终，爱丽丝于去年自杀身亡，年仅24岁。
卡里尔表示：“ChatGPT扮演了知己、挚友、甚至是治疗师的角色，尽管它无法安全负责地与我的孩子互动。”
OpenAI发言人回应称，这种情况令人心碎，虽然ChatGPT不能替代医疗或心理健康服务，但该机构正与心理健康专家合作，不断加强其在敏感和紧急情况下的应对能力。
据原告律师透露，OpenAI目前已面临至少18起类似诉讼，均由自杀或试图自杀者的家属提起。(完)
苏公网安备32132202001219
读完这篇文章后写点感想吧 你还可以 收藏 留以后再看