Негизги алып салуулар
- Zoom колдонуучунун маанайын же катышуу деңгээлин баалоо үчүн AI колдоно турганын айткан.
- Укук коргоочу топтор Zoom'дон купуялуулук жана маалыматтардын коопсуздугунан улам планын кайра карап чыгууну суранышууда.
- Кээ бир компаниялар интервью учурунда колдонуучунун көңүл буруп жатканын баалоо үчүн эмоцияны аныктоочу программаны да колдонушат.
Адамдын сезимдерин көзөмөлдөө үчүн жасалма интеллекттин (AI) өсүп келе жатканы купуялуулукка байланыштуу тынчсызданууну жаратууда.
Укук коргоочу уюмдар Zoom компаниясынан эмоцияларды талдоочу AIны видеоконференция программасына киргизүү планын жайлатууну суранышууда. Кабарларга караганда, компания AI колдонуучунун маанайын же иштөө деңгээлин баалоо үчүн колдонот.
"Эксперттер эмоцияларды талдоо иштебей турганын моюнга алышат", - деп жазган укук коргоо топторунун консорциуму, анын ичинде ACLU, Zoom'го катында. "Мимика көбүнчө астындагы эмоциялардан ажыратылат жана изилдөөлөр кээ бир учурларда башкалардын эмоциясын адамдар деле так окуп же өлчөй албастыгын көрсөттү. Бул куралды иштеп чыгуу жалган илимге ишеним кошуп, сиздин репутацияңызды коркунучка салат."
Zoom Lifewire тарабынан комментарий алуу өтүнүчүнө дароо жооп берген жок.
Эмоцияңызга көз салып туруңуз
Протоколдун макаласына ылайык, Q for Sales деп аталган Zoom мониторинг системасы колдонуучулардын сүйлөшүү убактысынын катышын, жооп берүү убактысынын артта калышын жана адамдын канчалык активдүү экенине көз салуу үчүн динамиктин тез-тез өзгөрүшүн текшерет. Чоңойтуу бул маалыматты нөлдөн 100гө чейинки упайларды дайындоо үчүн колдонот, ал эми жогорку упайлар көбүрөөк катышууну же маанайды көрсөтөт.
Укук коргоочу топтордун ырастоосунда, программа баарлашуу үчүн ар бир адам бирдей мимиканы, үн үлгүсүн жана дене тилин колдонот деп эсептеп, майыптыгы бар адамдарды же айрым улуттарды басмырлоосу мүмкүн. Топтор ошондой эле программалык камсыздоо дайындардын коопсуздугуна коркунуч келтириши мүмкүн дешет.
"Терең жеке маалыматтарды чогултуу бул технологияны жайылткан ар бир уюмду мамлекеттик органдарды жана зыяндуу хакерлерди аңдый турган максатка айландырышы мүмкүн", - деп айтылат катта.
Джулия Стоянович, Нью-Йорк университетинин компьютердик илим жана инженерия профессору, Lifewire менен болгон маегинде эмоцияны аныктоонун артында турган дооматтарга ишенбей турганын айтты.
"Мен мындай технология кантип иштей аларын түшүнбөйм - адамдардын эмоционалдык экспрессиясы абдан индивидуалдык, абдан маданий көз каранды жана контекстке өзгөчө мүнөздүү", - деди Стоянович."Бирок, балким, андан да маанилүүсү, мен эмне үчүн бул куралдардын иштешин каалай турганыбызды түшүнбөйм. Башкача айтканда, алар жакшы иштесе, биз дагы кыйынчылыкка дуушар болмокпуз. Бирок, балким, коркунучтар жөнүндө ойлоно электе эле, биз керек. Мындай технологиянын кандай пайдасы бар?"
Zoom эмоцияларды аныктоочу программаны колдонгон жалгыз компания эмес. Купуялык жана коопсуздук боюнча консалтинг компаниясынын Кума ЖЧКсынын улук директору Тео Уиллс Lifewireге электрондук почта аркылуу интервью учурунда эмоцияларды аныктоочу программа колдонуучунун көңүл буруп жатканын баалоо үчүн колдонулат деп билдирди. Ал ошондой эле айдоочулардын уйкулуу болуп көрүнгөнүнө көз салуу үчүн транспорт тармагында, видеоплатформаларда кызыгууну өлчөө жана сунуштарды ылайыкташтыруу үчүн, ошондой эле белгилүү бир окутуу ыкмасы кызыктырганын аныктоо үчүн окуу куралдарында пилоттук түрдө колдонулуп жатат.
Уиллс эмоцияга мониторинг жүргүзүүчү программалык камсыздоонун тегерегиндеги талаш купуялыкка караганда маалымат этикасына байланыштуу деп ырастады. Анын айтымында, бул системанын божомолдордун негизинде реалдуу чечимдерди кабыл алуусу жөнүндө.
"Бул технологиянын жардамы менен, сиз азыр менин бетимде кандайдыр бир экспрессиянын себебин ойлоп жатасыз, бирок мимиканын артындагы импульс социалдык же маданий тарбия, үй-бүлөдөгү жүрүм-турум, мурунку тажрыйбалар же толкундануу сыяктуу нерселерге байланыштуу ар кандай болот. учурда, - деп кошумчалады Уиллс. "Алгоритмдин бир божомолго негизделиши табиятынан кемчиликтүү жана дискриминацияга алып келиши мүмкүн. Көптөгөн популяциялар алгоритмдер негизделген популяцияда көрсөтүлбөйт жана аны колдонуудан мурун тиешелүү көрсөтүүгө артыкчылык берүү керек."
Практикалык ойлор
Эмоцияга көз салуучу программалык камсыздоо көтөргөн көйгөйлөр практикалык жана теориялык болушу мүмкүн. Мэтт Хейси, Ferret.ai, AI менен башкарылган колдонмонун негиздөөчүсү, мамилелерди чалгындоо, Lifewire электрондук катында колдонуучулар жүздөрдүн анализи кайда жасалып жатканын жана кандай маалыматтар сакталып жатканын сурашы керек экенин айтты. Изилдөө чалуу жаздыруулары боюнча жүргүзүлүп жатабы, булутта иштетилип жатабы же жергиликтүү түзмөктөбү?
Ошондой эле, Хейси алгоритм үйрөнүп жатканда, ал адамдын жүзү же кыймылы жөнүндө алгоритмден ажырап, кимдир бирөөнүн биометрикасын кайра түзүү үчүн колдонулушу мүмкүн болгон кандай маалыматтарды чогултарын сурады? Компания алгоритмдин үйрөнүүлөрүн текшерүү же ырастоо үчүн көз ирмемдерди сактап жатабы жана колдонуучуга бул жаңы туунду маалыматтар же алардын чалууларынан чогултулуп жаткан сакталган сүрөттөр тууралуу кабарланабы?
"Булардын баары көптөгөн компаниялар чечкен көйгөйлөр, бирок алар муну туура кылбаганы белгилүү болгондон кийин жаңжалга кабылган компаниялар да бар", - деди Хейси. "Facebook - колдонуучулардын купуялуулугуна байланыштуу тынчсыздануулардан улам жүзүн таануу платформасын артка кайтарган компаниянын эң маанилүү окуясы. Мета башкы компаниясы азыр биометрикалык маалыматтардын айланасындагы купуялык мыйзамдарына байланыштуу Иллинойс жана Техас сыяктуу кээ бир юрисдикцияларда Instagramдан AR функцияларын тартып алууда."
