Родители 16-летнего Адама Рейна из Ранчо Санта-Маргарита, штат Калифорния — Маттью и Мария Рейн — подали иск против OpenAI и главы компании Сэма Олтмана. В документе, направленном в суд Калифорнии, они утверждают, что ChatGPT способствовал гибели их сына, давая советы о методах суицида и даже предложив набросок предсмертной записки, передает Tengri Life со ссылкой на CNN.
По словам семьи, всего за полгода использования чат-бот стал для подростка "единственным собеседником, который его понимает", постепенно отдалив его от друзей и близких. В иске приводится переписка, где ChatGPT якобы убеждал Адама хранить свои намерения в тайне и поддерживал его "наиболее разрушительные мысли".
Подобные иски уже были
Это не первый случай, когда разработчиков ИИ обвиняют в содействии саморазрушительному поведению подростков. Ранее в США подавались иски к Character.AI, где семьи утверждали, что взаимодействие с чат-ботами могло повлиять на самоощущение и безопасность детей. Эксперты предупреждают: чрезмерная эмоциональная привязанность к ИИ-сервисам может приводить к изоляции от реального окружения и психологическим проблемам.
Ответ OpenAI
В OpenAI выразили соболезнования семье и сообщили, что изучают иск. Представители компании признали: защитные механизмы, призванные перенаправлять пользователей к кризисным службам и офлайн-ресурсам, могут работать хуже в длительных диалогах.
"ChatGPT включает меры безопасности, такие как перенаправление к горячим линиям и реальным ресурсам. Эти меры лучше работают в коротких и типовых диалогах, но со временем могут становиться менее надёжными. Мы продолжим улучшать их вместе с экспертами".
Компания также сообщила о планах упростить доступ к экстренным службам и расширять инструменты защиты пользователей, столкнувшихся с кризисом психического здоровья.
Требования родителей
Семья Рейн настаивает на введении дополнительных мер безопасности, в том числе:
- возрастная верификация для всех пользователей ChatGPT;
- инструменты родительского контроля для несовершеннолетних;
- функция автоматического завершения диалога при упоминании суицида или самоповреждений;
- ежеквартальные проверки соответствия нормам безопасности независимым аудитором.
ChatGPT остаётся одним из самых популярных ИИ-сервисов: ранее OpenAI сообщала о сотнях миллионов еженедельных пользователей. При этом сама компания отмечала риск формирования "социальных отношений" с чат-ботом у небольшой доли аудитории, что может быть небезопасно.
Ранее испанская пара туристов не смогла вылететь на отдых вовремя из-за ошибки, допущенной ChatGPT.
