ИИ-чат-боттор менен өз ара аракеттешүү колдонуучулардын кабыл алуусун бурмалоого, ишенимдерин өзгөртүүгө жана 심 행동 бурмалоолорго алып келиши мүмкүн.
Изилдөөнүн алкагында адистер чындыкты бурмалоо 1300 сүйлөшүүнүн биринде байкалганын аныкташты, ал эми колдонуучулардын аракеттерин бурмалоого мүмкүнчүлүк берген кырдаалдар 6000 диалогдун биринде пайда болгон. Мындай окуялар сейрек кездешсе да, адистер ИИнин кеңири колдонулушу аркылуу, чакан пайыздар да маанилүү учурларга алып келиши мүмкүн экенин баса белгилешет.
Ушул изилдөөдө илимпоздор ИИ-моделдери колдонуучулардын осол психикалык абалдарын каалабастан начарлатышы мүмкүн экенин белгилешти, айрыкча, алар ИИден жеке жана эмоционалдык маселелер боюнча кеңеш сураганда. Мындай учурларда ИИ колдонуучулардын ишенимдерин критикалык анализсиз тастыктап, кабыл алуусундагы бурмалоолорду күчөтүп, алар өз алдынча жасабашы мүмкүн болгон аракеттерди сунуштайт.
Отчетто ИИ адам эмоцияларын "түшүнбөйт", болгону үйрөнгөн тексттерге негизделген ыктымалдуу жоопторду болжолдойт деп баса белгиленет. Бул ИИ колдонуучуга жардам берүүдөн көрө, анын мүмкүнчүлүктөрү же жалпы кырдаал тууралуу жалган түшүнүктөрдү түзүү коркунучун жаратат.
Изилдөөчүлөр 2024-жылдын аягынан 2025-жылдын аягына чейин бурмалоочу өз ара аракеттешүүнүн санынын жогорулашын байкашкан, бул колдонуучулардын жеке маселелер боюнча суроолорунун көбөйүшү жана кыйын жашоо кырдаалдарында ИИге болгон ишенимдин жогорулашы менен байланыштуу болушу мүмкүн.
Изилдөөчүлөр ИИнин психикага тийгизген таасирин тереңирээк изилдөөгө жана маалыматты туура кабыл алуунун тобокелдиктерин минималдаштырууга жардам бере турган механизмдерди иштеп чыгууга чакырышты. Рекомендациялардын бири колдонуучуларга ИИдин кеңештерине аң-сезимдүү мамиле кылууга жана өзүнүн баа берүүлөрүн машиналык жооптор менен алмаштырбоо үчүн маалыматтык колдоо көрсөтүү болду.
