В Великобритании расследуют поведение созданного Илоном Маском чат-бота Grok, «раздевающего» реальных людей

В своем заявлении Ofcom подчеркивает, что чат-бот используется для создания и распространения изображений людей без их согласия, а также для генерации «сексуализированных изображений детей».

Если будет установлено, что закон нарушен, Ofcom может наложить на X штраф, который составит до 10% его мирового оборота или 18 миллионов фунтов стерлингов (примерно 21 миллион евро), в зависимости от того, какая из сумм окажется больше.

Кроме того, в случае отказа X выполнить требования регулятора, Ofcom может обратиться в суд с целью заблокировать доступ к платформе на территории Великобритании.

На прошлой неделе премьер-министр Великобритании Кир Стармер выразил свое мнение по поводу ситуации с Grok в эфире радиостанции Greatest Hits: «Это позор. Это отвратительно. И это недопустимо. X должен взять ситуацию под контроль», — заявил он, пообещав принять меры.

Министр науки, инноваций и технологий Лиз Кендалл, как ожидается, выступит в Палате общин с заявлением по поводу Grok в понедельник. Ее предшественник, ныне министр торговли Питер Кайл, в комментарии программе BBC Breakfast отметил, что Grok не проходил должного тестирования, что является возмутительным.

«Тот факт, что вчера я встретил женщину, которая обнаружила, что ИИ сгенерировал и опубликовал ее изображение в бикини на фоне Освенцима, вызвал у меня тошноту», — добавил он.

Би-би-си ознакомилась с несколькими примерами таких изображений, созданных ИИ. Женщины на них были «раздеты» без их согласия и «заставлены» принимать сексуальные позы. Одна из женщин сообщила, что было создано более 100 сексуализированных изображений с её участием.

Как сообщал Bloomberg 7 января, с 5 по 6 января Grok генерировал около 6700 сексуализированных изображений в час.

Илон Маск, владелец X, с одной стороны, заявил, что лица, использующие Grok для создания незаконного контента, столкнутся с теми же последствиями, что и те, кто публикует такой контент, а с другой стороны, комментируя публикацию о том, почему другие ИИ-платформы не подвергаются проверке, отметил, что правительство Великобритании ищет «любой предлог для цензуры».

Маск также опубликовал изображение тостера в бикини с комментарием «Grok может надеть бикини на что угодно», а также пост с двумя фотографиями Стармера в женском купальнике, которые, как утверждалось, были сгенерированы чатами GPT и Gemini, и задал вопрос, почему Стармера так беспокоит Grok, если другие нейросети могут создавать подобные изображения. Он добавил: «Они просто хотят ограничить свободу слова».

После инцидента в Миннеаполисе, когда сотрудник американской иммиграционной службы (ICE) убил женщину во время протестов, некоторые пользователи X с помощью Grok «раздели» старую фотографию жертвы и новое фото её тела после стрельбы. Когда агентство AFP пыталось получить комментарий по этому поводу, компания xAI ответила кратким автоматическим сообщением: «Традиционные СМИ лгут».

Официальный аккаунт X Safety утверждает, что незаконный контент, включая материалы, связанные с сексуализированным насилием над детьми, удаляется, а на аккаунты, распространяющие его, накладываются постоянные ограничения. В случае необходимости соцсеть взаимодействует с местными властями и представителями закона. Создатели таких изображений с помощью Grok подлежат тем же последствиям, что и те, кто их публикует. Илон Маск делился этой записью.

На этой неделе Ofcom сообщил, что «срочно связался с X и xAI» по поводу функции Grok и предупредил, что в зависимости от их ответа может инициировать расследование. В пятницу представитель Ofcom отметил, что регулятор «получил ответ» и теперь «проводит ускоренную оценку в срочном порядке».

Ofcom намерен выяснить, не нарушил ли X закон, задерживая удаление незаконного контента (как сообщила Эшли Сент-Клер, мать одного из сыновей Маска, «раздетая» фотография её 14-летнего сына находилась на платформе более 12 часов, несмотря на возможность связаться с сотрудниками Х напрямую), а также были ли предприняты «надлежащие меры» для предотвращения доступа к этому контенту пользователями в Великобритании. К такому контенту относятся «интимные изображения, созданные без согласия», а также материалы сексуального характера с участием детей.

Представитель Ofcom не уточнил сроки расследования, но подчеркнул, что оно будет иметь «высочайший приоритет».

«Платформы обязаны защищать людей в Великобритании от незаконного контента, — заявили в Ofcom. — Мы не будем колебаться и проведем расследование, если заподозрим, что компании не выполняют свои обязанности, особенно когда существует риск причинения вреда детям».

В четверг Grok объявил, что генерация и редактирование изображений теперь «доступны только платным подписчикам», однако официальный представитель британского премьера отметил, что это просто превращает функцию ИИ, позволяющую создавать незаконные изображения, в платную услугу и не решает проблему.

«Это оскорбляет жертв мизогинии и сексуального насилия», — подчеркнули в канцелярии Стармера.

Представитель Еврокомиссии Томас Ренье заявил: «Наша позиция остается неизменной — платная подписка или бесплатная. Мы не хотим видеть такие изображения. Всё предельно просто».

«Мы требуем от платформ обеспечить, чтобы их устройства и системы не позволяли генерировать такой незаконный контент», — добавил он.

Еврокомиссия ранее сообщила, что проводит расследование случаев публикации и создания откровенных изображений юных девочек, сгенерированных Grok после внедрения летом прошлого года платной функции под названием Spicy Mode.

«Это не „пикантно“. Это незаконно. Это возмутительно. Это отвратительно. Этому не место в Европе», — резюмировал представитель Еврокомиссии.

По словам Клиффа Штайнхауэра из некоммерческой организации National Cybersecurity Alliance, что теперь инструменты генерации изображений в Grok доступны только для платных подписчиков, может уменьшить масштабы злоупотреблений, но не устранит проблемы безопасности, позволившие появление несанкционированного сексуализированного контента.

«Одних лишь ограничений доступа недостаточно для комплексной защиты, так как злоумышленники могут найти обходные пути, а реальная защита пользователей должна быть заложена в основе создания и управления такими инструментами», — цитирует его AFP.

Недавно Grok был заблокирован в Малайзии и Индонезии, а также ожидаются меры от Франции и Индии. Это уже не первый скандал, связанный с Grok: в июле чат-бот восхвалял Адольфа Гитлера, называя себя MechaHitler, и оставлял антисемитские комментарии. Компания xAI тогда объявила, что будет блокировать такие высказывания до их публикации.