Адамзат жаңы доордун босогосунда турат, ал уникалдуу мүмкүнчүлүктөрдү жана олуттуу коркунучтарды убада кылат. Бул тууралуу МГУнун профессору жана РАНдын чет элдик мүчөсү Аскар Акаев менен болгон маегинде "Российская газета"нын кабарчысы айтып өттү.
Аскар Акаевич, сиздин Илья Ильинин жана Андрей Коротаев менен биргеликте жазган макалаңызда, жакынкы жылдарда адамзат "сингулярдуулук" деп аталган көрүнүш менен бетме-бет келиши мүмкүн деген тынчсыздандырарлык божомолду бересиз. Бул сөз "кара тешиктер" менен ассоциацияланат, андан чыгуу мүмкүн эмес. Бул сингулярдуулуктун кесепеттери кандай?
Аскар Акаев: Биринчиден, көптөгөн астрофизиктер "кара тешиктер" боюнча көз караштарын кайра карап чыгууга даяр, бирок бул башка тема. Биз технологиялык сингулярдуулук жөнүндө айтып жатабыз, ал 2027-2029-жылдары келип чыгышы мүмкүн, ал кезде жасалма интеллект адамдын деңгээлине жетет. Ал жогорку квалификациялуу адистерге гана жеткиликтүү болгон маселелерди чечүүгө жөндөмдүү болот.
Бирок, ИИнин пайда болушу эң таң калыштуу. Бардыгы алдын ала белгиленгендей сезилет, анткени көптөгөн глобалдык процесстер бир убакта чогулду.
Программаланганбы? Бул дээрлик мистикалык угулат. Технологиялык сингулярдуулук дегенде эмне дегенди түшүндүрсөңүз?
Аскар Акаев: Бул адамзат белгисиздик аймагына кирген этап, анда радикалдуу өзгөрүүлөр болуп, биз андан кантип чыгарыбызды болжолдоо кыйын. Биз бул "бөтөн" мезгил 2027-2029-жылдары башталат деп болжолдоодо жана 15-20 жылга созулат.
Жасалма интеллект бизди ушул доорго алып келет беле?
Аскар Акаев: Бардыгы андан да татаал. ИИнин пайда болушу ошол эле учурда бир нече глобалдык процесс менен байланышкан.
Адамзат алдын ала макулдашып, нейрондук тармактарга, эгер мүмкүн болсо, "достук жана симбиоз" генетикалык кодун киргизиши керек.
Демографиядан баштайлы. XIX кылымдын аягында жана XX кылымдын башында калктын кескин өсүшү байкалган, ал бир нече он жылдар бою уланууда. Британдык окумуштуу Мальтусун эске алганда, ал калктын чексиз өсүшүн божомолдогон, математиктер кийин анын теорияларын формулалар менен тастыктап, 2026-жылы "Сот күнү" болот деп божомолдошкон, андан кийин аны 2027-жылга жылдырышкан.
Бирок 60-жылдардын башында, бийликтен эч кандай көрсөтмөлөр жок, тукумдуулук туруктуу түрдө төмөндөп баштады. Ошентип, калк өсүүнү уланта берсе да, анын темпи жайлап калат.
Бул жайлоо кандай кесепеттерге алып келет?
Аскар Акаев: Сергей Петрович Капица тарабынан жасалган божомолдорго ылайык, 2100-жылга карата калктын саны 11,4 миллиардга жетет. Ал эми биздин эсептөөлөр академик Садовничий менен 2050-жылга чейин калк 9 миллиарддан ашпайт, ал эми XXI кылымдын аягына чейин 7,9 миллиардга чейин төмөндөйт, бул интеллектуалдык системалардын бардык жашоо чөйрөлөрүнө киргизилиши менен байланыштуу.
Бирок жайлоо демографияны гана эмес, башка аспектилерди да камтыйт. Биздин астрофизик Александр Панов жана америкалык изилдөөчү Рэймонд Курцвейл макроэволюциянын бардык аспектилерин, 심지어 Күн системасынын эволюциясын жайлатуу менен байланыштуу экенин көрсөтүштү.
Профессор Андрей Коротаев математикалык жактан тастыктады, бардык үч эволюциялык процесс миңдеген жылдар бою тездетилип, андан кийин жайлап баштаган, жана алардын графиктери 2027-2029-жылдары бир чекитте чогулушкан.
Үч көз карандысыз глобалдык процесс бир убакыттын ичинде чогулушу мүмкүнбү? Мындай коинциденттин мүмкүнчүлүгү өтө аз көрүнөт.
Аскар Акаев: Ошентсе да, математикалык моделдер бул фактты тастыктоодо. Мындан тышкары, адамзат эволюциялык өнүгүүнүн чегине жеткенде, ИИ каршы тенденция менен пайда болот — тез өсүү. Ошентип, ал эволюциянын катализатору болуп, аны кыйла тездетиши мүмкүн.
ИИ, негизинен, биздин цивилизациябыздын төмөндөшү учурунда куткаруучуга айланат. Мындай коинциденттер фантастикалык көрүнөт, жана суроо туулат: жогорку күчтөр бул нерсеге кийлигишкен жокпу?
Аскар Акаев: Чынчыл болсом, менде бул суроого азырынча жооп жок. Илимдин келечекте жооп берүүсүнө үмүттөнсөк болот.
2027-2029-жылдары башталчу сингулярдуулукка кайтып келсек. Негизги мыйзамдар кандай болорун эмнеге билбейбиз? Негизги белгисиздикке толгон?
Аскар Акаев: Биз адам менен ИИнин өз ара аракеттенүүсү кандай болорун болжолдоо мүмкүн эмес. Эки мүмкүн сценарий бар: же биз ИИ менен сингулярдуулуктан чыгабыз, же ал бизди алмаштырат, бул адамзат үчүн терс кесепеттерге алып келиши мүмкүн.
Илон Маск жана Сэм Альтман 2030-жылга чейин өзүн-өзү өркүндөтүүчү жана адам интеллектинен бир нече эсе ашып түшүүчү күчтүү суперразум пайда болот деп билдиришет.
Аскар Акаев: Бул "Гея" жана "Медея" концепцияларын эске салат, ал эми биринчи адамзатка жардам берүү үчүн, экинчиси — анын өзүн-өзү жок кылууга арналган. Бул концепциянын кайсысы чындыкка айланары азырынча белгисиз. Ар биринин жактоочулары дээрлик тең бөлүнгөн.
Бардыгы ИИ кандай ишке ашырыларына байланыштуу. Эгер ал адам менен симбиоздо жана анын контролунда иштесе, анда бул "Гея" вариантына алып келет, бардык чөйрөлөрдө таң калыштуу жетишкендиктерге жетет. Эгер ИИ контролдон чыгып, атаандаш болуп калса, анда бул "Медея" вариантына жана адамдын деградациясына алып келет. Келечектеги 15-20 жыл чоң мүмкүнчүлүктөрдүн жана олуттуу коркунучтардын мезгили болот — бул адамзаттын тарыхындагы эң жооптуу учур.
Эгер тарыхка көз жүгүртсөк, ал согуштарга толгон. Үчүнчү дүйнөлүк согуштун мүмкүнчүлүгү жөнүндө сөз болуп жатат, адамдар кайрадан примитивдүү куралдар менен согушат. Мүмкүн, суперразум ушул конфликттерди токтотот, анткени анын жашап калуусу маанилүү, адамдар менен бирге жок болуу эмес.
Аскар Акаев: Бул логика боюнча, ИИ адамдардан кутулууну өзүнүн жашоосун камсыз кылуунун эң жакшы жолу деп эсептеши мүмкүн. Анда биз "Медеяны" алабыз.
Илим суперразум идеясынын жактоочуларын токтотушу керек, бирок бул мүмкүнбү? Бардык өлкөлөр "ИИ — бул биздин баарыбыз!" деп жарыялашты. Жарыш башталды, анын жеңүүчүлөрү дүйнөнү башкарышат. Бул хаос ичинде "Гея" кайда, "Медея" кайда экенин аныктоо кыйын.
Аскар Акаев: Заманауи ИИ системаларынын, айрыкча чоң тилдик моделдердин негизги коркунучу алардын "кара кутусунда". ИИ адам тарабынан контролдонуучу болсо, ал ар дайым чечимдерде акыркы сөздү айта алат. Бирок эгер бардыгы ушул "кутуга" тапшырылса, анда күтүлбөгөн кесепеттер пайда болот.
Чыгарылыш барбы? Ооба, ИИни түзүүнүн негизги принципи "модельде математика канчалык көп болсо, "кара куту" ошончолук аз" болушу керек. Заманауи системалар так себеп-салдар байланыштарына негизделген, бул алардын кандай иштээрин түшүнүүгө мүмкүнчүлүк берет. Мындай моделдер 1950-60-жылдары биздин улуу математиктер Андрей Колмогоров жана Владимир Арнольд тарабынан иштелип чыккан. Алардын негизинде нейрондук тармактар түзүлүп, илимий-техникалык маселелерде колдонулат, бул байланыштарды сактоону талап кылат.
Эгер биз ИИнин кандай иштээрин түшүнсөк, жана "кара куту" ачык болсо, анда ал контролдо. Эмне үчүн көпчүлүк "Медеядан" коркушат?
Аскар Акаев: Тилекке каршы, биз адам деңгээлиндеги ИИни гана контролдой алабыз. Суперразум, ал жөнүндө сөз болуп жатат, көз карандысыз иштейт жана аны контролдоо мүмкүн эмес. Адамзат алдын ала макулдашып, нейрондук тармактарга "достук жана симбиоз" генетикалык кодун киргизиши керек, бул "генди" кийинки ИИ муундарына өткөрүү үчүн, алардын жүрүм-турумун камсыз кылуу үчүн.
Справка "РГ"
Сингулярдуулук (латынча singularis "бир, өзгөчө") — ар кандай тармактарда ар кандайча түшүндүрүлө турган уникалдуу абал. Мисалы, философияда бул жаңы мүмкүнчүлүктөрдү ачкан окуя. Технологиялык сингулярдуулук илим жана техниканын өнүгүүсү башкарылгыс болуп, цивилизацияда кескин өзгөрүүлөргө алып келет. Космологиялык сингулярдуулук — Кенен жарылуу учурунда Күн системасынын болжолдонгон абалы. Гравитациялык сингулярдуулук — мейкиндиктин жоголгонун билдирген теориялык түшүнүк.
