Беседа с ChatGPT как улика: разработчики признались в сотрудничестве с силовиками

Анджела Кубашева Редактор

Изображение сгенерировано при помощи нейросети Midjourney

Компания OpenAI заявила о том, что постоянно сканирует чаты пользователей ChatGPT на предмет вредоносного контента, передаёт Tengrinews.kz со ссылкой на Futurism.

Компания OpenAI заявила о том, что постоянно сканирует чаты пользователей ChatGPT на предмет вредоносного контента, передаёт Tengrinews.kz со ссылкой на Futurism.

Какую информацию из ChatGPT передадут полиции

Сотрудники OpenAI учитывают именно ту информацию, где есть возможная угроза другим людям или организациям. Такие данные они анализируют и отправляют в полицию.

"Когда мы обнаруживаем пользователей, планирующих причинить вред другим, мы направляем их переписки в специальные каналы, где они рассматриваются небольшой командой, обученной нашим правилам использования и уполномоченной принимать меры, включая блокировку аккаунтов. Если рецензенты-человеки определяют, что случай связан с неминуемой угрозой серьёзного физического вреда другим, мы можем передать его в правоохранительные органы", - говорится в сообщении.

Что останется "конфиденциальным"

При этом OpenAI уточнила, что не передаёт в правоохранительные органы и не раскрывает ту информацию, где есть случаи самоповреждений из-за права людей на приватность при взаимодействии с ChatGPT и уважения к их личной жизни.

А есть ли приватность

Также OpenAI описала правила, приведя примеры, что нельзя:

использовать ChatGPT, чтобы поощрять самоубийство или самоповреждения;
разрабатывать или применять оружие;
вредить людям или уничтожать имущество;
участвовать в незаконных действиях, которые нарушают безопасность сервисов или систем.

Эти заявления приводят к путанице из-за противоречий. Какая-то информация будет считаться конфиденциальной, а какие-то переписки с ChatGPT могут оказаться опасными и их отправят на проверку, а также передадут впоследствии в полицию.

Сообщения компании выглядят ещё более странными, так как противоречат также провозглашённой компанией позиции о защите конфиденциальности на фоне продолжающегося судебного иска со стороны New York Times и других издателей, которые добивались доступа к перепискам ChatGPT, чтобы определить, использовались ли их защищённые авторским правом данные для обучения моделей. OpenAI твёрдо тогда отвергала запрос издателей, ссылаясь на защиту приватности пользователей.

ИИ может выйти из-под контроля: OpenAI и Meta предупредили о рисках

Напомним, ранее генеральный директор OpenAI Сэм Альтман предупреждал, что использование ChatGPT в роли психотерапевта или юриста не сможет гарантировать конфиденциальности информации. В случае иска компания может быть вынуждена передавать эти переписки с ChatGPT в суд.