Негизги алып салуулар
- Жаңы программалык курал AI жек көрүү сөздөрү үчүн интернет комментарийлерин көзөмөлдөөгө мүмкүндүк берет.
- Адамдын мүмкүнчүлүктөрүнөн ашып түшкөн материалдын эбегейсиз көлөмүнөн улам интернет мазмунун модерациялоо үчүн AI керек.
- Бирок кээ бир эксперттердин айтымында, AI кепти көзөмөлдөө купуялуулукка байланыштуу кооптонууну жаратат.
Онлайн режиминде жек көрүү сөздөрү көбөйгөн сайын, бир компания адам модераторлоруна ишенбеген чечимге ээ болушу мүмкүн дейт.
Спектр лабораториясы деп аталган стартап платформа провайдерлерине реалдуу убакытта уулуу алмашууларды аныктоо жана өчүрүү үчүн жасалма интеллект технологиясын берет. Бирок эксперттердин айтымында, AI мониторинги купуялык маселелерин да жаратат.
"AI мониторинги көбүнчө убакыттын өтүшү менен үлгүлөрдү карап чыгууну талап кылат, бул маалыматтарды сактоону талап кылат ", - деди Дэвид Муди, Schellman, коопсуздук жана купуялыкка шайкештикти баалоочу компаниянын улук өнөктөшү, Lifewire менен болгон маегинде. "Бул дайындар мыйзамдарда купуялык дайындары (жеке аныктоочу маалымат же PII) деп белгиленген дайындар камтылышы мүмкүн."
Дагы жек көрүү сөздөрү
Spectrum Labs жек көрүү сөздөрүнүн байыркы көйгөйүн жогорку технологиялык чечүүнү убада кылат.
"Орточо алганда, биз платформаларга мазмунду модерациялоо аракеттерин 50% кыскартууга жана уулуу жүрүм-турумду аныктоону 10 эсеге көбөйтүүгө жардам беребиз", - деп айтылат компаниянын веб-сайтында.
Spectrum 40тан ашык жүрүм-турумду аныктоо моделдерин түзүү үчүн белгилүү бир зыяндуу жүрүм-турум боюнча тажрыйбасы бар изилдөө институттары менен иштешкенин айтат. Компаниянын Guardian мазмунун модерациялоо платформасы "жамааттарды ууландыргычтыктан коргоону колдоо үчүн" окумуштуулар жана модераторлор тобу тарабынан курулган."
Жек көрүү сөздөрү менен күрөшүүнүн жолдоруна муктаждык өсүүдө, анткени адам онлайн трафиктин ар бир бөлүгүн көзөмөлдөй албайт, Дилан Фокс, кепти таанууну камсыздаган жана кардарларды жек көрүүчүлүккө мониторинг жүргүзүүгө катышкан AssemblyAI компаниясынын башкы директору Бул тууралуу Lifewire электрондук почта маегинде билдирди.
"Твиттерде эле күнүнө 500 миллионго жакын твиттер жазылат" деп кошумчалады ал. "Бир адам ар бир 10 секунд сайын твиттерди текшере алган күндө да, Твиттер бул үчүн 60 миң адамды жумуш менен камсыз кылышы керек. Анын ордуна биз процессти автоматташтыруу үчүн AI сыяктуу акылдуу куралдарды колдонобуз."
Адамдан айырмаланып, AI 24/7 иштей алат жана потенциалдуураак болушу мүмкүн, анткени ал өз эрежелерин бардык колдонуучуларга эч кандай жеке ишенимдерге кийлигишпестен бирдей колдонуу үчүн иштелип чыккан, деди Фокс. Ошондой эле мазмунду көзөмөлдөп, жөнгө салышы керек болгон адамдар үчүн да акы төлөнөт.
"Алар зордук-зомбулукка, жек көрүүчүлүккө жана адамдын психикалык ден соолугуна зыян келтириши мүмкүн болгон жийиркеничтүү аракеттерге дуушар болушу мүмкүн" деди ал.
Spectrum онлайн жек көрүү сөздөрүн автоматтык түрдө аныктоого умтулган жалгыз компания эмес. Мисалы, Center Malaysia жакында эле малайзиялык интернет колдонуучулардын арасында жек көрүү сөздөрүн табуу үчүн иштелип чыккан онлайн трекерди ишке киргизди. Алар иштеп чыккан Tracker Benci деп аталган программа жек көрүү сөздөрдү онлайн, айрыкча Twitter'де аныктоо үчүн машиналык үйрөнүүнү колдонот.
Маселе – адамдар бири-бири менен конструктивдүү мамиледе боло турган мейкиндикти кантип түзүү.
Купуялыкка тынчсыздануулар
Спектр сыяктуу технологиялык чечимдер онлайн режиминде жек көрүү сөздөрүнө каршы күрөшсө да, компьютерлер полиция канчалык деңгээлде иш алып барышы керек деген суроолорду жаратат.
Сөз эркиндигинин кесепеттери бар, бирок билдирүүлөрү жек көрүү сөздөрү катары өчүрүлө турган баяндамачылар үчүн эле эмес, - деди Санта Клара университетинин Марккула прикладдык этика борборунун интернет этикасынын директору Ирина Райку Lifewireге электрондук кат аркылуу. маек.
""Сөз эркиндиги" деген ат менен куугунтукка жол берүү мындай сөздүн максаттарын (айрыкча айрым адамдарга багытталганда) сүйлөөнү токтотуп, ар кандай сүйлөшүүлөрдөн жана платформалардан таптакыр баш тартууга түрттү ", - деди Райку."Кыйынчылык - адамдар бири-бири менен конструктивдүү мамиледе боло турган мейкиндиктерди кантип түзүү."
AI кептин мониторинги, эгерде компаниялар мониторинг жүргүзүү учурунда жалпыга жеткиликтүү маалыматты колдонсо, купуялык маселелерин козгобошу керек, деди Фокс. Бирок, эгер компания көйгөйлүү колдонуучуларды алдын ала аныктоо үчүн колдонуучулардын башка платформаларда кантип иштешкени тууралуу чоо-жайды сатып алса, бул купуялуулукка байланыштуу көйгөйлөрдү жаратышы мүмкүн.
"Бул, албетте, колдонмого жараша, бир аз боз болушу мүмкүн ", - деп кошумчалады ал.
Джастин Дэвис, Spectrum Labs компаниясынын башкы директору Lifewire компаниясына электрондук кат аркылуу компаниянын технологиясы 2ден 5 миңге чейинки маалыматтарды бир секунданын ичинде карап чыга алат деп билдирди. "Эң негизгиси, технология адам модераторлору кабылган уулуу мазмундун көлөмүн азайтат" деди ал.
Биз AI адамдын сүйлөгөнүн жана текстин онлайн көзөмөлдөөдө революциянын алдында турушубуз мүмкүн. Келечектеги жетишкендиктерге жек көрүү сөздөрүнүн мурда белгисиз формаларын же өнүгө турган башка цензураланган үлгүлөрдү аныктоо үчүн жакшыраак көз карандысыз жана автономдуу мониторинг мүмкүнчүлүктөрү кирет, деди Moody.
AI ошондой эле жакын арада белгилүү бир сүйлөө үлгүлөрүнүн үлгүлөрүн таанып, булактарды жана алардын башка иш-аракеттерин жаңылыктарды талдоо, ачык билдирүүлөр, трафиктин үлгүсүн талдоо, физикалык мониторинг жана башка көптөгөн варианттар аркылуу байланыштыра алат, деп кошумчалады ал.
Бирок кээ бир эксперттердин айтымында, адамдар жек көрүү сөздөрүн көзөмөлдөө үчүн дайыма компьютерлер менен иштеши керек болот.
"Жалгыз AI иштебейт" деди Райку. "Бул башка жооптор менен бирге колдонула турган жеткилең эмес курал катары таанылышы керек."
Оңдоо 25/1/2022: Жарыялангандан кийинки электрондук катты чагылдыруу үчүн аягында 5-абзацта Жастин Дэвистин цитатасы кошулду.
