Илондун Маск тарабынан түзүлгөн Grok чат-ботунун чыныгы адамдарды «жылаңачтайт» деген жүрүм-туруму Британияда иликтенип жатат

Ofcom өз билдирүүсүндө чат-бот адамдардын макулдугусуз сүрөттөрүн түзүү жана таратуу үчүн колдонулуп жатканын, ошондой эле «балдардын сексуализацияланган сүрөттөрүн» генерациялоого арналганын белгилейт.

Эгер мыйзам бузулгандыгы аныкталса, Ofcom X компаниясына 10% чейин глобалдык кирешесинен же 18 миллион фунт стерлингге (тактап айтканда, 21 миллион евро) чейин айыппул салууга укуктуу, кайсы сумма чоң болсо, ошол сумманы алат.

Мындан тышкары, X компаниясы регулятордун талаптарын аткаруудан баш тарткан учурда, Ofcom Британиянын аймагында платформанын киришин бөгөттөө үчүн сотко кайрылышы мүмкүн.

Өткөн жумада Британиянын премьер-министри Кир Стармер Grok боюнча кырдаал тууралуу Greatest Hits радиостанциясында өз оюн билдирди: «Бул уят. Бул жаман. Бул кабыл алынгыс. X бул кырдаалды көзөмөлгө алууга тийиш», — деди ал, чара көрүүгө убада берип.

Илим, инновациялар жана технологиялар министри Лиз Кендалл дүйшөмбү күнү Палатада Grok боюнча билдирүү жасай турганы күтүлүүдө. Анын мурунку орун басары, азыркы соода министри Питер Кайл BBC Breakfast программасында Grok тиешелүү тестирлөөнү өтпөгөндүгүн, бул болсо шок туудураарын белгиледи.

«Кечээ мен Освенцимдин фонуна бикини кийген сүрөтү ИИ тарабынан генерацияланып, жарыяланган аял менен жолукканым мага жутунуу сезимин берди», — деп кошумчалады ал.

BBC бир нече ИИ тарабынан түзүлгөн мындай сүрөттөрдүн мисалдары менен таанышып чыкты. Алардын ичинде аялдар макулдугусуз «киимдеринен ажыратылган» жана «сексуалдык позаларда» көрсөтүлгөн. Бир аял 100дөн ашык сексуализацияланган сүрөттөрдүн анын катышуусунда түзүлгөндүгүн билдирди.

Bloomberg 7-январда маалымдагандай, 5-6-январда Grok саатына болжол менен 6700 сексуализацияланган сүрөттөрдү генерациялаган.

Илон Маск, X компаниясынын ээси, бир жагынан, Grokты мыйзамсыз контент түзүү үчүн колдонгон адамдар ошол эле кесепеттерге дуушар болушарын билдирди, ал эми экинчи жагынан, башка ИИ платформаларынын текшерилбеши тууралуу комментарий берип, Британия өкмөтү «цензура үчүн ар кандай шылтоо издеп жатканын» белгиледи.

Маск ошондой эле бикини кийген тостердин сүрөтүн «Grok каалаган нерсеге бикини кийдире алат» деген комментарий менен жарыялады, ошондой эле Стармердин аялдардын купальнигинде эки сүрөтүн жарыялап, алар GPT жана Gemini чаттары тарабынан генерациялангандыгын белгилеп, «Эгер башка нейрондук тармактар мындай сүрөттөрдү түзө алса, Стармерди Grok эмне үчүн ушунчалык тынчсыздандырат?» деген суроону берди. Ал: «Алар жөн гана сөз эркиндигин чектегиси келет», — деп кошумчалады.

Миннеаполистеги окуядан кийин, америкалык иммиграция кызматынын (ICE) кызматкери демонстрациялар учурунда аялды өлтүргөндөн кийин, X колдонуучулары Grok аркылуу курмандыктын эски сүрөтүн жана анын окко учкандагы жаңы сүрөтүн «киимдеринен ажыратты». AFP агенттиги бул боюнча комментарий алуу аракетин кылганда, xAI компаниясы кыска автоматтык билдирүү менен жооп берди: «Традициялык медиа жалган айтат».

X Safety расмий аккаунту мыйзамсыз контент, анын ичинде балдарга карата сексуализацияланган зомбулукка байланыштуу материалдар өчүрүлөрүн жана аны таратуучуларга туруктуу чектөөлөр коюларын билдирет. Эгер зарыл болсо, социалдык тармак жергиликтүү бийликтер жана мыйзам өкүлдөрү менен кызматташат. Grok аркылуу мындай сүрөттөрдү түзгөндөр, аларды жарыялаган адамдар менен бирдей кесепеттерге дуушар болушат. Илон Маск бул жазууну бөлүштү.

Бул жумада Ofcom «Grok функциясы боюнча X жана xAI менен ш急күрөө байланышканын» билдирди жана алардын жообуна жараша териштирүү баштоону эскертти. Жума күнү Ofcom өкүлү регулятор «жооп алды» жана азыр «ш急күрөө баалоо жүргүзүп жатканын» белгиледи.

Ofcom X компаниясы мыйзамды бузган-бузбаганын аныктоону пландаштырууда, мыйзамсыз контентти өчүрүүдө кечиккендиги (Эшли Сент-Клер, Масктын уулдарынын биринин энеси, «киимдеринен ажыратылган» сүрөтү 12 сааттан ашык платформада болгонун, X кызматкерлерине түздөн-түз байланышуу мүмкүнчүлүгү болуусуна карабастан) жана Британиядагы колдонуучулар үчүн бул контентке кирүүнү токтотуу үчүн «туура чаралар» көрүлгөн- көрүлбөгөндүгүн текшерет. Мындай контентке «макулдуксуз түзүлгөн интимдик сүрөттөр» жана балдар катышкан сексуалдык материалдар кирет.

Ofcom өкүлү териштирүүнүн мөөнөттөрүн тактаган жок, бирок ал «жогорку приоритетке» ээ болоорун баса белгиледи.

«Платформалар Британиядагы адамдарды мыйзамсыз контенттен коргоого милдеттүү, — деп билдирди Ofcom. — Эгер компаниялар өз милдеттерин аткарбай жатышат деп шектенсек, териштирүү жүргүзүүдөн тартынбайбыз, айрыкча балдарга зыян келтирүү коркунучу бар учурда».

Бейшемби күнү Grok сүрөттөрдү генерациялоо жана редакциялоо азыр «төлөмдүү жазылуучулар үчүн гана жеткиликтүү» экенин жарыялады, бирок Британия премьеринин расмий өкүлү бул жөн гана мыйзамсыз сүрөттөрдү түзүүгө мүмкүндүк берген ИИ функциясын төлөмдүү кызматка айлантууну билдирет жана маселени чечпейт деп белгиледи.

«Бул мизогиния жана сексуалдык зомбулуктун курмандыктарына шылдың кылат», — деп баса белгилешти Стармердин канцеляриясында.

Еврокомиссиянын өкүлү Томас Ренье: «Биздин позициябыз өзгөрүүсүз — төлөмдүү жазылуу же акысыз. Биз мындай сүрөттөрдү көргүбүз келбейт. Бардыгы абдан жөнөкөй», — деди.

«Биз платформалардан алардын түзмөктөрү жана системалары мындай мыйзамсыз контентти генерациялоого жол бербешин талап кылабыз», — деп кошумчалады ал.

Еврокомиссия буга чейин Grok тарабынан түзүлгөн жаш кыздардын ачык сүрөттөрүн жарыялоо жана түзүү боюнча териштирүү жүргүзүп жатканын билдирген, өткөн жылы жайында Spicy Mode деп аталган төлөмдүү функция киргизилгенден кийин.

«Бул «пиканттуу» эмес. Бул мыйзамсыз. Бул шок туудурат. Бул жаман. Бул Европада орун жок», — деп жыйынтыктады Еврокомиссиянын өкүлү.

National Cybersecurity Alliance уюмунун Клифф Штайнхауэрынын айтымында, азыр Grokтагы сүрөттөрдү генерациялоо инструменттери төлөмдүү жазылуучулар үчүн гана жеткиликтүү болгону зомбулуктун көлөмүн азайтууга мүмкүндүк бериши мүмкүн, бирок мыйзамсыз сексуализацияланган контенттин пайда болушуна жол берген коопсуздук маселелерин жоюбайт.

«Жөн гана кирүү чектөөлөрү жетишсиз, анткени зомбулуктар айлануу жолдорун табышы мүмкүн, ал эми колдонуучулардын чыныгы коргоосу мындай инструменттерди түзүү жана башкарууда негизделиши керек», — деп AFPге билдирген.

Жакында Grok Малайзияда жана Индонезияда бөгөттөлдү, ошондой эле Франция жана Индиядан чаралар күтүлүүдө. Бул Grok менен байланышкан биринчи скандал эмес: июлда чат-бот Адольф Гитлерди мактап, өзүн MechaHitler деп атап, антисемиттик комментарийлерди калтырган. xAI компаниясы ошол учурда мындай билдирүүлөрдү жарыялаганга чейин бөгөттөөгө убада берген.