Негизги алып салуулар
- Изилдөөчүлөр жасалма жаңылыктарды аныктоо жана белгилөө үчүн AI системасын иштеп чыгышты.
- Модель фейк жаңылыктардын жалпыга ачык маалымат топтомун изилдеп, колдонуучуларга эскертет жана аларды текшерилген маалымат булактарына багыттайт.
-
Онлайндагы жалган жаңылыктарга каршы туруу үчүн AI ыкмаларынын саны өсүүдө.
Жасалма интеллект (AI) онлайн дезинформациянын тез жайылышын ооздуктоого жардам берет, дешет адистер.
Изилдөөчүлөр жасалма жаңылыктарды аныктоо жана белгилөө үчүн AI системасын иштеп чыгышты. Модель жалган жаңылыктардын жалпы маалымат топтомун изилдейт, колдонуучуларга эскертет жана аларды текшерилген маалымат булактарына багыттайт. Бул жалган кабарга каршы туруу үчүн AI ыкмаларынын саны өсүп жаткан бөлүгү.
"Интернетке, өзгөчө социалдык тармактарга агып жаткан маалыматтын көлөмү өтө чоң жана аны кол менен иштетүү мүмкүн эмес, өзгөчө жогорку тактыкта", - деп иштеп чыккан Түштүк Калифорния университетинин компьютердик инженерия профессору Ваэл АбдАлмагед AI алгоритмдери визуалдык дезинформацияны аныктоо үчүн, Lifewire электрондук почта маегинде билдирди.
"Дезинформацияны реалдуу убакыт режиминде көзөмөлдөө жана белгилөө маанилүү, анткени туура эмес маалымат тарай баштаганда, адамдарды маалыматты жалган деп ынандыруу кыйын, өзгөчө туура эмес маалымат биздин көз карашыбызды ырастаганда," деп кошумчалады ал.
Чындыкты сактоо
Австралиянын Маккуари университетинин командасы тарабынан иштелип чыккан AI техникасы фейк жаңылыктардын жайылышын азайтууга жардам берет. Моделди колдонмого же веб-программага кошууга болот жана ар бир колдонуучунун кызыкчылыгына дал келген тиешелүү "чыныгы" маалыматка шилтемелерди сунуштайт.
"Онлайн жаңылыктарды окуганыңызда же көргөнүңүздө, көбүнчө окшош окуялар же темалар тууралуу жаңылыктар сизге сунуштоо моделин колдонуу менен сунушталат", - деди Маккуари университетинин изилдөө боюнча иштеген окумуштуусу Шоужин Ванг. жаңылык релизи.
Вангдын айтымында, бир эле окуяга байланыштуу так жана фейк жаңылыктар көп учурда ар кандай мазмун стилдерин колдонуп, компьютердик моделдерди ар кандай окуялар үчүн жаңылык катары кабыл алып, чаташтырышат.
Macquarie университетинин модели ар бир жаңылыктын маалыматын эки бөлүккө "ажыратат": жаңылыктын фейк экенин көрсөткөн белгилер жана кабардын темасын же окуяны көрсөткөн окуяга тиешелүү маалымат. Андан кийин модель колдонуучу кийинки кайсы жаңылыкты окууга кызыкдар болушу мүмкүн экенин алдын ала айтуу үчүн колдонуучулардын ар кандай жаңылыктар арасында өтүү үлгүлөрүн издейт.
Изилдөө тобу моделди GitHub сайтында жарыяланган FakeNewsNet деп аталган, PolitiFact жана GossipCop фейк жаңылыктары менен бирге жаңылыктын мазмуну, социалдык контекст жана колдонуучунун окуу таржымалы сыяктуу маалыматтар топтомуна үйрөттү.
Фейк жаңылыктардын өсүшү
Фейк жаңылыктар өсүп жаткан көйгөй, изилдөөлөр көрсөткөндөй. NewsGuard социалдык медиадагы өсүштүн олуттуу бөлүгү ишенимсиз веб-сайттардан келгенин аныктады.2020-жылы эң мыкты 100 жаңылык булактарынын 17 пайызы Red рейтингге ээ (негизинен ишенимсиз) сайттардан келген, ал эми 2019-жылдагы болжол менен 8 пайызга салыштырмалуу.
Санта Клара университетинин Марккула прикладдык этика борборунун Журналистика жана медиа этикасынын директору Субраманиам Винсент Lifewire электрондук почтасы менен болгон маегинде AI жалган маалыматка каршы турууга жардам бере аларын айтты.
Технологияны "жек көрүү сөздөрү же буга чейин жокко чыгарылган дооматтар менен байланыштырылган бөлүшүү үчүн аккаунттун жүрүм-турумун көзөмөлдөө же факты текшерүүчүлөр же белгилүү үгүтчү мамлекеттик уюмдар же мүчөлөрдүн тез көбөйүшү менен жаңы пайда болгон топтор тарабынан жокко чыгаруу үчүн" колдонулушу мүмкүн, - деп түшүндүрдү Винсент. "Айрым типтеги мазмунду бөлүшүүгө чейин сүрүлүүнү кошуу үчүн аларды белгилөө үчүн дизайн менен бирге AI да колдонулушу мүмкүн."
AbdAlmageed социалдык тармактар жасалма жаңылыктарды аныктоо алгоритмдерин сунуштоо алгоритмдеринин бир бөлүгү катары бириктириши керек деди. Анын айтымында, максат "эгер алар фейк жаңылыктарды бөлүшүүнүн алдын алгысы келбесе, аны фейк же так эмес деп белгилөө"
Мунун айтымында, AI жасалма жаңылыктарга каршы туруу үчүн пайдалуу болушу мүмкүн, бирок бул ыкманын терс жактары бар, деди Винсент. Көйгөй, AI системалары адамдын сүйлөө жана жазуусунун маанисин түшүнө албагандыктан, алар ар дайым ийри сызыктын артында болот.
"Ачык жек көрүү сөздөрүнүн жана жалган маалыматтын кээ бир түрлөрү менен канчалык так AI алса, адамзат маданияты ошончолук жаңы кодго жана уюштуруу үчүн жер астындагы мааниге өтөт ", - деди Винсент.
Восим Халед, Blackbird. AI дезинформацияга мониторинг жүргүзүү компаниясынын башкы директору Lifewire электрондук катында онлайн дезинформация өнүгүп келе жаткан коркунуч экенин айтты. Жаңы AI системалары фейк жаңылыктар кайсы жерде пайда болоорун алдын ала билиши керек.
"Көпчүлүк учурларда сиз AI продуктуну куруп, аны бүттү деп айта албайсыз," деди Халед. "Жүрүм-турум үлгүлөрү убакыттын өтүшү менен өзгөрүп турат жана AI моделдериңиз бул өзгөрүүлөргө туруштук бериши маанилүү."
