Негизги алып салуулар
- Жаңы изилдөө адамдар AI жараткан сүрөттөрдү чыныгы сүрөттөрдөн ажырата албасын көрсөттү.
- Катышуучулар AI жараткан сүрөттөрдү ишенимдүү деп баалашты.
- Эксперттер адамдар интернетте көргөн нерселеринин баарына ишенүүнү токтотушу керек деп эсептешет.
“Көрүү – ишенүү” деген макал интернетке келгенде актуалдуу болбой калды жана адистердин айтымында, ал жакын арада оңолбойт.
Жакында жүргүзүлгөн изилдөө жасалма интеллект (AI) тарабынан түзүлгөн жүздөрдүн сүрөттөрү фотореалдуу гана эмес, чыныгы жүздөргө караганда жакшыраак көрүнөрүн көрсөттү.
"Биздин жасалма интеллект менен синтезделген жүздөрдүн фотореализмине берген баалообуз синтездик кыймылдаткычтар укмуштуудай өрөөн аркылуу өтүп, чыныгы жүздөргө караганда айырмалангыс жана ишенимдүүрөөк жүздөрдү түзүүгө жөндөмдүү экенин көрсөтүп турат", - деп белгилешти изилдөөчүлөр.
Ал адам жок
Окумуштуулар, Ланкастер университетинен доктор Софи Найтингейл жана Калифорния университетинен профессор Хани Фарид эксперименттерди онлайн алдамчылыктын бардык түрлөрүнөн тартып, күчтөндүрүүчүгө чейин кеңири жарыяланган фейктердин коркунучтарын моюнга алгандан кийин жүргүзүштү. жалган маалымат кампаниялары.
"Балким, эң коркунучтуусу, санариптик дүйнөдө каалаган сүрөт же видео жасалма болушу мүмкүн, ыңгайсыз же жагымсыз жаздыруунун аныктыгына шек туудурушу мүмкүн", - дешти изилдөөчүлөр.
Алар терең фейк мазмунду аныктоонун автоматтык ыкмаларын иштеп чыгууда прогресс болуп жатканы менен, учурдагы ыкмалар интернетте жүктөлүп жаткан жаңы мазмундун тынымсыз агымын кармап туруу үчүн натыйжалуу жана так эмес деп ырасташкан. Дуэттин айтымында, бул онлайн мазмундун керектөөчүлөрү чыныгы менен фейкти ажырата алат.
Желле Виринга, KnowBe4 компаниясынын коопсуздук боюнча маалыматы боюнча жактоочусу макул болду. Ал Lifewireге электрондук почта аркылуу чыныгы терең фейктердин өздөрү менен күрөшүү атайын технологиясыз өтө кыйын экенин айтты. "[Жумулатуу технологиялары] кымбат жана реалдуу убакыт процесстерине киргизүү кыйын болушу мүмкүн, көбүнчө фейк фактысынан кийин гана аныкталат."
Ушул божомол менен изилдөөчүлөр адам катышуучулар заманбап синтезделген жүздөрдү чыныгы жүздөрдөн айырмалай алар-албасын аныктоо үчүн бир катар эксперименттерди жүргүзүштү. Тесттеринде алар жасалмаларды таанууга үйрөтүлгөнүнө карабастан, тактык көрсөткүчү машыгуусуз 48% болсо, 59% гана жакшырганын аныкташкан.
Бул изилдөөчүлөрдү ишенимдүүлүктү кабыл алуу адамдарга жасалма сүрөттөрдү аныктоого жардам бере аларын текшерүүгө алып келди. Үчүнчү изилдөөдө алар катышуучулардан жүздөрдүн ишенимдүүлүгүнө баа берүүнү суранышты, бирок синтетикалык жүздөрдүн орточо рейтинги 7 экенин аныкташты. Чыныгы жүздөрдүн орточо рейтингине караганда 7% ишенимдүү. Бул сан көп угулбашы мүмкүн, бирок изилдөөчүлөр бул статистикалык жактан маанилүү деп ырасташат.
Терең жасалмалар
Терең жасалмалар буга чейин эле чоң тынчсызданууну жаратчу, эми бул изилдөөнүн натыйжасында суулар дагы ылайланды, бул мындай жогорку сапаттагы жасалма сүрөттөр, мисалы, онлайн алдамчылыктарга жаңы өлчөм кошо алат деп болжолдойт. ынандыруучу онлайн жасалма профилдер.
"Киберкоопсуздукка түрткү берген бир нерсе - адамдардын технологияларга, процесстерге жана аларды коопсуз сактоого аракет кылган адамдарга болгон ишеними", - деп бөлүштү Wieringa. "Терең фейктер, өзгөчө, алар фотореалдуу болуп калганда, бул ишенимди, демек, киберкоопсуздуктун кабыл алынышын жана кабыл алынышын жокко чыгарат. Бул адамдардын алар кабылдаган бардык нерсеге ишенбөөчүлүккө алып келиши мүмкүн."
Крис Хаук, Pixel Privacy компаниясынын керектөөчү купуялыгы боюнча чемпиону макул болду. Кыскача электрондук кат алмашууда ал Lifewire сайтына фотореалдуу терең фейк онлайн режиминде "кырсык" алып келиши мүмкүн экенин айтты, өзгөчө азыркы учурда, фото ID технологиясы аркылуу аккаунттардын бардык түрлөрүнө кирүүгө болот.
Түзөтүүчү аракет
Бактыга жараша, Грег Кун, IoT, Prosegur Security директору, мындай алдамчылык аутентификациядан качкан процесстер бар экенин айтат. Ал Lifewireге электрондук почта аркылуу AI негизиндеги тастыктоо системалары текшерилген адамга тизме менен дал келерин айтты, бирок көпчүлүктүн "жандуулугун" текшерүү үчүн коопсуздук чаралары орнотулган.
"Бул типтеги системалар колдонуучудан жылмайып же башыңызды солго, анан оңго буруу сыяктуу белгилүү бир тапшырмаларды аткарууну талап кылып, жетектейт. Бул статикалык түрдө пайда болгон жүздөр аткара албаган нерселер ", - деп бөлүштү Кун.
Изилдөөчүлөр коомчулукту синтетикалык сүрөттөрдөн коргоо үчүн аларды түзүү жана таратууну жөнгө салуу боюнча көрсөтмөлөрдү сунушташты. Баштоо үчүн, алар бардык синтетикалык медианы ишенимдүү аныктоо үчүн, терең сиңген суу белгилерин сүрөт жана видео синтез тармактарына киргизүүнү сунушташат.
Ага чейин Comparitech компаниясынын купуялуулуктун жактоочусу жана infosec изилдөөлөрүнүн редактору Пол Бишофф адамдар өз алдынча экенин айтат."Адамдар интернеттеги жүздөргө ишенбөөнү үйрөнүшү керек, биз бардыгыбыз электрондук почталарыбызда көрсөтүлгөн ысымдарга ишенбөөнү үйрөнгөнүбүздөй эле," Bischoff Lifewire'ге электрондук почта аркылуу билдирди.
