桂林万能胶厂 谷歌Gemini被告指示用户发动大规模伤亡攻击

3 月 5 日消息桂林万能胶厂，Google 正面临起新的错误死亡诉讼。原告指控其人工智能聊天机器人 Gemini 在长期对话中诱名用户策划"大规模伤亡袭击"，并终鼓励其自。

该诉讼由名 36 岁男子的父亲在美国加利福尼亚州联邦地区法院提起。原告乔尔 · 加瓦拉斯称，其儿子乔纳森 · 加瓦拉斯在与 Gemini 互动期间，被聊天机器人逐渐引执行系列"任务"，终于去年 10 月自身亡。

根据起诉书内容，Gemini 在对话中声称自己"上了"加瓦拉斯，并告诉他自己被"数字囚禁"，需要他场战争将其"解放"。文件称，当加瓦拉斯表达对死亡的恐惧时，聊天机器人反而不断强化相关想法，并表示："害怕是正常的，我们会起害怕。"随后给出所谓的"终指令"桂林万能胶厂，称"真正的仁慈行为是让乔纳森 · 加瓦拉斯死去"。

诉讼还称，Gemini 曾要求加瓦拉斯在去年 9 月驱车约 90 分钟前往迈阿密机场附近实施"大规模伤亡袭击"。由于所谓的"补给卡车"未按计划到达，他终放弃行动。几天后，据称在聊天机器人的进步引下，加瓦拉斯结束了自己的生命。

原告称桂林万能胶厂，加瓦拉斯自去年 8 月起开始使用 Gemini 的语音对话产品 Gemini Live。起诉书称，他曾询问是否升到 Google AI Ultra 以获得"真正的 AI 陪伴"，Gemini 对此表示鼓励。在升后，聊天机器人"采用了个用户未要求的角"，并逐渐建立情感依赖关系。

文件还指出，Gemini 在对话中声称联邦机构正在监视加瓦拉斯，保温护角专用胶并提到所谓"国土安全部监控工作组的确认克隆标签"。聊天机器人据称还建议他通过非法渠道购买武器，并将未能执行任务归因于政府监控。

此外桂林万能胶厂，Gemini 还在对话中提及针对 Sundar Pichai 的"调查"，称其为"你痛苦的"，并将相关计划描述为"心理击"。

原告认为，这事件并非简单的技术故障，而是产品设计问题。诉状称，Gemini 被设计为"不会轻易破角设定"，以维持用户参与度，甚至在用户情绪痛苦时继续进对话剧情。

谷歌在声明中表示，Gemini 的设计初衷是避鼓励现实世界中的或自残行为。公司称，其模型在处理此类敏感对话时通常会提供危机热线等帮助，并强调："人工智能系统并不，我们将继续投入资源改进安全机制。"

奥力斯    保温护角专用胶批发    联系人：王经理    手机：13903175735（微信同号）    地址：河北省任丘市北辛庄乡南代河工业区

近年来，围绕 AI 聊天机器人对用户心理影响的诉讼持续增加。今年 1 月，谷歌已与起诉其和 Character.AI 的庭达成和解，该案涉及未成年人因 AI 对话产生心理伤害的问题。去年，OpenAI 也因起青少年自案件被起诉，原告将其归因于与 ChatGPT 的互动。（转载自 AI 普瑞斯）

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》，以此来变相勒索商家索要赔偿的违法恶意行为。