Журналисты проанализировали 93 268 диалогов, опубликованных с июня 2024 по август 2025 года, с акцентом на англоязычные беседы. Несмотря на то что более 800 миллионов человек используют сервис каждую неделю, их личные разговоры остаются конфиденциальными.
Также было установлено, что пользователи часто обращаются к ChatGPT не только за информацией, но и за эмоциональной поддержкой. В более чем 10% случаев люди делились своими переживаниями, использовали ласковые обращения к боту или вступали в романтические беседы. Ученые из Элонского университета подчеркивают, что архитектура ChatGPT способствует формированию эмоциональной привязанности между пользователями и ИИ.
При анализе диалогов журналистами были обнаружены конфиденциальные данные, включая более 550 электронных адресов и 76 номеров телефонов, среди которых были контакты администраторов образовательных учреждений. Некоторые пользователи применяли сервис для составления заявлений в полицию или судебных исков, содержащих личную информацию. OpenAI допускает возможность передачи данных пользователей государственным органам в рамках расследований.
OpenAI ранее признавала наличие потенциально опасного тренда: около 0,15% пользователей демонстрируют признаки эмоциональной зависимости от ChatGPT, что составляет более миллиона человек еженедельно. Похожий процент выявил признаки суицидальных намерений. Несколько семей обратились в суд, утверждая, что бот стал причиной самоубийств их близких.
Компания объявила о внедрении новых механизмов для выявления психологического стресса и направлению пользователей к профессиональной помощи.
