Өзүнүн жакында Financial Times басылмасында жарыяланган эссесинде, Дарио Амодеи, жасалма интеллекттин алдыңкы адистеринин бири, күчтүү ИИ системаларынын өнүгүшү менен байланышкан олуттуу тобокелдиктер жөнүндө эскертет. Амодеи, бул тармакта алдыңкы технологияларды түзүүгө активдүү катышып, адамзат жакын арада "ж nearly unimaginable power" ээ болоорун белгилейт, бирок азыркы социалдык, саясий жана технологиялык структуралардын бул жоопкерчиликке канчалык даяр экени белгисиз.
Ал ИИ тармагындагы прогресстин ылдамдыгы контролду жана коопсуздукту камсыз кылуу аракеттеринен кыйла жогору экенин белгилейт. Өз эссесинде Амодеи "күчтүү жасалма интеллект" деп аталган контролдонуусуз өсүшүнүн натыйжасында пайда болгон кооптонууларды бөлүп көрсөтөт, ал жакынкы жылдарда Нобель сыйлыгынын лауреаттары, мамлекеттик ишмерлер же технологиялык генийлер менен салыштырганда "башкачача өнүккөн" болот деп болжолдойт.
Бул прогресстин мүмкүн болгон кесепеттеринин арасында ал массалык жумушсуздук жана биотерроризм коркунучунун олуттуу өсүшүн белгилейт. Анын пикири боюнча, ИИ айрым адамдарга мурда гана чектелген адистерге жеткиликтүү болгон билимдерге жана көндүмдөргө жетүүгө мүмкүндүк берет, бул болсо биологиялык куралдарды түзүүнү жеңилдетиши мүмкүн, бул адамзат үчүн катастрофалык кесепеттерге алып келиши мүмкүн.
«Мектепте ок атууну баштаган адам, ядролук курал же вирус түзүү жөндөмүнө ээ болбосо да, азыр вирусология боюнча доктордук даражасы бар адиске айланат», — деп баса белгилейт Амодеи.
Ал ошондой эле ИИнин контролдон чыгып кетүү мүмкүнчүлүгү менен байланышкан тобокелдиктер жөнүндө эскертет, бул адамзатты баш ийдирүүгө же авторитардык режимдердин жана жаман ниеттүүлөрдүн күчөшүнө алып келиши мүмкүн. Бул, анын пикири боюнча, "глобалдык тоталитардык диктатуранын" негизин түзүшү мүмкүн.
Акырында, Амодеи өкмөттөрдүн, илим коомчулугунун жана бизнес өкүлдөрүнүн күчтүү ИИнин пайда болушу менен байланышкан коркунучтарды минималдаштыруу үчүн эффективдүү жөнгө салуу механизмдерин иштеп чыгуу боюнча тез арада аракет кылуусун чакырат.
Дарио Амодеи
Дүйнөлүк жасалма интеллект индустриясындагы алдыңкы фигуралардын бири.
Anthropic компаниясынын негиздөөчүсү жана башкы директору.
Билими боюнча — физик жана машиналык үйрөтүү боюнча адис. Мурда OpenAIда жетекчилик кызматтарда иштеп, ири тил моделдерин иштеп чыгууга катышкан.
Амадеи ИИнин өнүгүшү коопсуздук жана контролдун катуу чаралары менен коштолушу керек деген идеяны колдойт. ИИ тобокелдиктерин башкаруу боюнча пикир келишпестиктери OpenAIдан кетүүсүнүн себептеринин бири болуп калды.
Anthropic
Anthropic — 2021-жылы OpenAIдан чыккан адамдар тарабынан негизделген, жасалма интеллект менен алектенген америкалык компания. Башкы кеңсеси Сан-Францискодо жайгашкан.
Компания коопсуз жана башкарылуучу ИИ системаларын иштеп чыгууга адистешкен, ал эми анын негизги продукты — Claude тил моделдери, алар ChatGPT жана башка ири ИИ моделдерине атаандаш болуп саналат.
Anthropic "конституциялык ИИ" деп аталган концепцияга көңүл бурат, анда моделдер алдын ала белгиленген этикалык принциптерге ылайык үйрөтүлөт, зыяндуу жүрүм-турумдун тобокелдиктерин минималдаштыруу үчүн.
Тасир жана колдоо
Anthropic ИИ тармагында лидерлердин бири болуп эсептелет жана миллиарддаган доллар инвестиция тарткан.
Компаниянын эң ири өнөктөштөрү жана инвесторлору Amazon жана Google.
Ошентип, Амодеи ИИ менен байланышкан тобокелдиктер боюнча билдирүүлөрү олуттуу кабыл алынат: ал жөн гана сынчы эмес, дүйнөдөгү эң күчтүү ИИ системаларын түзүүгө түздөн-түз катышкан адам.
