Негизги алып салуулар
- Жаңы изилдөө супер-акылдуу жасалма интеллектти башкаруунун эч кандай жолу жок болушу мүмкүн экенин көрсөтүп турат.
- Журналдагы макалада AIны башкаруу биздегиден алда канча өнүккөн технологияны талап кылары айтылат.
- Айрым эксперттер чыныгы акылдуу AI бул жерде биз ойлогондон да эртерээк болушу мүмкүн дешет.
Эгер адамдар качандыр бир убакта супер акылдуу жасалма интеллектти иштеп чыгышса, аны башкаруунун эч кандай жолу болбой калышы мүмкүн, дешет окумуштуулар.
AI көптөн бери адамзаттын бардык көйгөйлөрүнө даба же Терминатор стилиндеги апокалипсис катары айтылып келет. Азырынча AI адамдык деңгээлдеги интеллектке жакындай элек. Бирок Journal of Artificial Intelligence Research журналында жарыяланган соңку макалада айтылгандай, өнүккөн AIга байланып калуу адамдар үчүн өтө татаал маселе болуп калышы мүмкүн, эгер ал качандыр бир иштелип чыкса.
"Дүйнөнү башкарган супер интеллектуалдык машина илимий фантастикадай угулат" дейт гезиттин авторлорунун бири Мануэль Себриан пресс-релизинде.
"Бирок белгилүү бир маанилүү тапшырмаларды программисттер кантип үйрөнүшкөнүн толук түшүнбөстөн, өз алдынча аткарган машиналар бар. Демек, бул качандыр бир убакта башкарылбай турган жана адамзат үчүн коркунучтуу болуп калышы мүмкүнбү деген суроо туулат."
Жакында сизге жакын супер компьютер чыгат
Журналда AI башкаруу бизде азыркыдан алда канча өнүккөн технологияны талап кылары айтылат.
Изилдөөдө команда AIнын жүрүм-турумун имитациялоо жана зыяндуу деп эсептелген учурда аны токтотуу аркылуу суперакылдуу AI эч кандай шартта адамдарга зыян келтире албасын камсыз кылган теориялык чектөө алгоритмин ойлоп табышты. Бирок авторлор мындай алгоритмди куруу мүмкүн эмес экенин аныкташкан.
"Эгерде сиз маселени теориялык информатикадан негизги эрежелерге чейин бөлсөңүз, AIга дүйнөнү кыйратпоону буйруган алгоритм кокустан өзүнүн ишин токтотуп коюшу мүмкүн экен." Бул тууралуу Германиядагы Макс Планк институтунун Адам жана машиналар борборунун директору Ияд Рахван пресс-релизинде билдирди.
"Эгер мындай болуп кетсе, чектөө алгоритми коркунучту дагы эле талдап жатканын же ал зыяндуу AI камтуу үчүн токтоп калганын билбей каласыз. Иш жүзүндө, бул чектөө алгоритмин жараксыз кылат."
Чыныгы акылдуу AI бул жерде биз ойлогондон да эртерээк болушу мүмкүн, дейт Франциядагы École Polytechnique университетинин компьютердик илимдер боюнча профессору Михалис Вазиргианнис. "AI адамдын артефакты, бирок ал тездик менен автономдуу объект болуп баратат" деди ал Lifewire электрондук катында.
"Критикалык учур сингулярлык пайда болгондо (б.а., AI агенттери субъект катары аң-сезимге ээ болгондо) жана алар көз карандысыздыкты, өзүн-өзү башкарууну жана акыры үстөмдүк кылууну талап кылышса болот."
Өзгөчөлүк келе жатат
Вазиргианнис супер AIнын жакынкы келишин алдын ала айтууда жалгыз эмес. AI коркунучуна чыныгы ишенгендер "сингулярдуулук" жөнүндө сүйлөшкөндү жакшы көрүшөт, муну Вазиргианнис AI адамдын интеллектинин ордуна коёру жана "AI алгоритмдери потенциалдуу түрдө алардын бар экенин түшүнүп, өзүмчүлдүк жана кызматташууга киришет"
Google'дун инженердик директору Рэй Курцвейлдин айтымында, өзгөчөлүк 21-кылымдын ортосуна чейин келет. Курцвейл Futurism басылмасына берген маегинде: "2029-ж. – AI жарактуу Тьюринг сынагынан өтүп, адамдын интеллектинин деңгээлине жетет деп алдын ала айткан ырааттуу дата" деди.
Эгер үйүбүздү өзүбүз тазалай албасак, AIдан кайсы кодду аткарууну суранышыбыз керек?
"Мен "Сигулярлык" үчүн 2045-ж. датаны койдум, ошондо биз жараткан интеллект менен биригип, эффективдүү интеллектибизди миллиард эсеге көбөйтөбүз."
Бирок AI адистеринин баары эле акылдуу машиналар коркунучтуу деп ойлошпойт. Иштеп жаткан AI дарыларды иштеп чыгуу үчүн көбүрөөк пайдалуу жана эч кандай чыныгы интеллектти көрсөтпөйт, дейт AI консультанты Эммануэль Мадгиори электрондук почта менен болгон маегинде. "Интеллектуалдык интеллекттин айланасында чоң ызы-чуу бар, бул аны чындап эле революциялык деп эсептейт", - деп кошумчалады ал. "Учурдагы AI системалары жарыялангандай так эмес жана адам эч качан кетире албаган каталарды кетирет."
AI башкаруусун колго алыңыз, азыр
Интеллектуалдык интеллект биздин көзөмөлүбүздөн чыгып кетпеши үчүн аны жөнгө салуу кыйын болушу мүмкүн, дейт Вазиргианнис. Өкмөттөр эмес, компаниялар AI кубаттаган ресурстарды көзөмөлдөйт. "Ал тургай, алгоритмдердин өзүлөрү, адатта, ушул ири жана күчтүү, адатта көп улуттуу ишканалардын изилдөө лабораторияларында чыгарылып, орнотулат" деди ал.
"Ошондуктан штаттардын өкмөттөрү AIны көзөмөлдөө үчүн зарыл болгон ресурстарды азыраак жана азыраак көзөмөлдөй турганы көрүнүп турат."
Кээ бир эксперттердин айтымында, суперакылдуу AI башкаруу үчүн адамдар эсептөө ресурстарын жана электр энергиясын башкаруу керек болот. "Матрица сыяктуу илимий фантастикалык тасмалар адамдарды AI биологиялык энергия булагы катары колдонгон дистопиялык келечек жөнүндө пайгамбарчылык кылат" деди Вазиргианнис.
"Алыскы мүмкүнчүлүктөр болсо да, адамзат эсептөө ресурстарын (мисалы, компьютердик кластерлерди, GPU'ларды, суперкомпьютерлерди, тармактарды/байланыштарды) жана, албетте, электр энергиясы менен камсыз кылуучу электр станцияларын жетиштүү контролдоону камсыз кылышы керек. AI функциясына зыян келтирет."
AI башкаруудагы көйгөй изилдөөчүлөр мындай системалар кандай чечим кабыл аларын дайыма эле түшүнө беришпейт, деди Майкл Бертольд, KNIME маалымат илим программалык камсыздоо фирмасынын негиздөөчүсү жана башкы директору электрондук почта менен болгон маегинде. "Эгер биз муну кылбасак, аны кантип "башкарабыз"?"
Ал кошумчалагандай, "Бизге тиешеси жок маалыматтардын негизинде такыр башка чечим кабыл алынганда түшүнбөйбүз."
AI колдонуу тобокелдигин көзөмөлдөөнүн бирден-бир жолу - бул тобокелдикти башкарууга мүмкүн болгондо гана колдонулушун камсыз кылуу, деди Бертольд. "Башкача айтканда, эки экстремалдык мисал: кичинекей ката катастрофалык кесепеттерге алып келиши мүмкүн болгон AIны өзөктүк электр станцияңызга башкарбаңыз", - деп кошумчалады ал.
"Ал эми AI бөлмөңүздүн температурасын бир аз өйдө же ылдый тууралоо керекпи, жашоонун ыңгайлуулугу үчүн анча-мынча тобокелчиликке арзыйт деп болжолдойт."
Эгер биз AIды башкара албасак, анда аны адептүүлүккө үйрөткөнүбүз жакшы, деди NASAнын мурдагы компьютер инженери Питер Скотт электрондук почта менен болгон маегинде. "Акыры, биз балдарыбыздын көзөмөлүн камсыздай албагандай, AIнын башкарылышын камсыздай албайбыз" деди ал.
"Биз аларды туура тарбиялайбыз жана жакшылыкка үмүттөнөбүз; азырынча алар дүйнөнү кыйрата элек. Аларды жакшы тарбиялоо үчүн биз этиканы жакшыраак түшүнүшүбүз керек; өз үйүбүздү өзүбүз тазалай албасак, анда эмне болот? кодду AIдан ээрчишин суранышыбыз керекпи?"
Бирок адамзаттын үмүтү үзүлгөн жок, дейт AI изилдөөчүсү Йонатан Векслер, OrCamдин R&D боюнча аткаруучу вице-президенти. "Илгерилетүү чынында эле таасирдүү болгону менен, менин жеке ишенимим - адамдын интеллекти баркка алынбашы керек" деди ал электрондук почта маегинде. "Биз түр катары укмуштуудай нерселерди жараттык, анын ичинде AI дагы."
Дайыма акылдуу AI издөө уланууда. Бирок кеч болуп кала электе, чыгармаларыбызды кантип көзөмөлдөй турганыбызды ойлонуп көргөнүбүз жакшы.
