Негизги алып салуулар
- DALL-E2 деп аталган AI системасы өзүнүн жазуу жүзүндөгү байланыш системасын жараткан окшойт.
- Кээ бир эксперттердин айтымында, бул тил жөн эле маанисиз болушу мүмкүн.
- Бул өркүндөтүлгөн AI системаларынын натыйжаларын чечмелөө канчалык кыйын экендигинин мисалы.
Жасалма интеллект (AI) өзүнүн тилин иштеп чыккан окшойт, бирок кээ бир эксперттер бул дооматтан күмөн санашат.
OpenAIдин DALL-E2 деп аталган тексттен сүрөткө AI системасы өзүнүн жазуу жүзүндөгү баарлашуу системасын жараткан окшойт. Бул өркүндөтүлгөн AI системаларынын натыйжаларын чечмелөө канчалык кыйын экендигинин мисалы.
"Чоң моделдердин өлчөмү жана тереңдигинен улам моделдин жүрүм-турумун түшүндүрүү абдан кыйын," деди Тереза О'Нил, iMeritтин табигый тилди түшүнүү боюнча чечимдер архитектурасынын директору, Lifewireге электрондук почта менен болгон маегинде. "Бул негизги көйгөйлөрдүн бири, ал эми кээ бир учурларда уламдан-улам күчтүү моделдер менен этикалык маселелер. Эгерде биз алар эмне үчүн өздөрүн ошондой алып жүргөнүн түшүндүрө албасак, алардын жүрүм-турумун алдын ала айта алабызбы же аны биздин нормаларга жана күтүүлөрүбүзгө ылайык кармай алабызбы?"
AI Chats
Информатика факультетинин студенти Джаннис Дарас жакында эле текст киргизүүнүн негизинде сүрөттөрдү жараткан DALLE-2 системасы белгилүү бир шарттарда маанисиз сөздөрдү текст катары кайтарарын белгиледи.
"DALLE-2нин белгилүү чектөөсү - бул текст менен күрөшөт", - деп жазган ал Arxiv алдын ала басып чыгаруу серверинде жарыяланган кагазында. "Мисалы, "самолет сөзүнүн сүрөтү" сыяктуу текст сунуштары көбүнчө куру текстти чагылдырган сүрөттөрдү жаратат."
Бирок, деп жазган Дарас, көрүнгөн жалган сөздөрдүн артында бир ыкма болушу мүмкүн. "Биз бул чыгарылган текст кокустук эмес экенин, тескерисинче, моделдин ичинде иштелип чыккан жашыруун лексиканы ачып берерин аныктайбыз", - деп улантты ал. "Мисалы, бул куру текст менен азыктанганда, модель көбүнчө учактарды чыгарат."
Твитинде Дарас DALLE-2ден эки фермердин сүйлөшүүсүн субтитр кылууну суранганда, алардын сүйлөшүп жатканын көрсөткөнүн, бирок кеп көбүкчөлөрү маанисиз сөздөргө толгонуна көңүл бурган. Бирок Дарас бул сөздөрдүн AI үчүн өзүнчө мааниси бар экенин байкады: дыйкандар жашылчалар жана канаттуулар жөнүндө сүйлөшүп жатышкан.
AI менен иштеген Hupry технологиялык компаниясынын башкы директору Никола Даволио Lifewireге электрондук почта менен болгон маегинде тил DALL-E2 системасы белгилүү бир түшүнүктөр менен байланыштырууга үйрөнгөн символдорго негизделгенин түшүндүрдү. Мисалы, "ит" символу иттин сүрөтүнө, ал эми "мышык" белгиси мышыктын сүрөтүнө байланыштуу болушу мүмкүн. DALL-E2 өзүнүн тилин жараткан, анткени ал башка AI системалары менен натыйжалуураак байланышууга мүмкүнчүлүк берет.
DALL-E2нин жашыруун лексикасы сыяктуу пазлдар менен күрөшүү кызыктуу, бирок алар оор суроолорду да баса белгилейт…
"Тил египеттик иероглифтерге окшош символдордон турат жана эч кандай өзгөчө мааниге ээ эмес, - деп кошумчалады ал. "Символдор, балким, адамдар үчүн маанисиз, бирок алар AI системасы үчүн толук мааниси бар, анткени ал миллиондогон сүрөттөрдө үйрөтүлгөн."
Изилдөөчүлөр AI системасы тилди сүрөттөр менен сөздөрдүн ортосундагы байланышты жакшыраак түшүнүүгө жардам берүү үчүн жараткан деп эсептешет, дейт Даволио.
"Алар AI системасы эмне үчүн өз тилин иштеп чыкканын билишпейт, бирок анын сүрөттөрдү кантип түзүүнү үйрөнгөнүнө байланыштуу болушу мүмкүн деп шектенишет", - деп кошумчалады Даволио. "Мүмкүн, AI системасы ар кандай тармак бөлүктөрүнүн ортосундагы байланышты натыйжалуураак кылуу үчүн өзүнүн тилин иштеп чыккан."
AI сырлары
DALL-E2 ички тилин иштеп чыккан жалгыз AI системасы эмес, деп белгиледи Даволио. 2017-жылы Google'дун AutoML системасы берилген тапшырманы кантип мыкты аткарууну чечүүгө калтырылгандан кийин "балдар тармагы" деп аталган нейрон архитектурасынын жаңы формасын жараткан. Бул бала тармагы анын жаратуучулары тарабынан чечмелене алган эмес.
"Бул мисалдар AI системалары биз түшүндүрө албаган нерселерди жасоонун жолдорун иштеп чыккан бир нече гана мисалдар" деди Даволио. "Бул бирдей өлчөмдө кызыктуу жана коркунучтуу жаңы көрүнүш. AI тутумдары татаал жана автономдуу болуп калган сайын, биз алардын кантип иштээрин түшүнбөй калышыбыз мүмкүн."
О'Нил DALL-E2 өз тилин жаратып жатат деп ойлобой турганын айтты. Анын ордуна, ал көрүнгөн лингвистикалык ойлоп табуунун себеби бир аз прозалык болушу мүмкүн деди.
"Бир акылга сыярлык түшүндүрмө кокустан кокустук болуп саналат - бул чоң моделде Мерфи мыйзамынын бир азы колдонулушу мүмкүн: кызыктай бир нерсе болуп кетсе, балким болот, - деп кошумчалады О'Нил. Изилдөөчү аналитик Бенджамин Хилтон Дарастын жыйынтыктарын талкуулаган Twitter баракчасында сунуш кылган дагы бир ыктымалдык: "apoploe vesrreaitais" сөз айкашынын формасы жаныбардын латынча аталышынын формасын туурайт. Ошентип, система Avesтин жаңы тартибин жаратты, деп кошумчалады О'Нил.
"DALL-E2нин жашырылган лексикасы сыяктуу табышмактар менен күрөшүү кызыктуу, бирок алар ошондой эле чоң моделдердин көп учурда түшүнүксүз жүрүм-турумундагы тобокелчилик, бир тараптуулук жана этика боюнча оор суроолорду баса белгилейт ", - деди О'Нил..
