Негизги алып салуулар
- YouTube'дун автоматтык түрдө жашты чектөөчү программасы платформадагы LGBTQ+ мазмуну үчүн тынчсызданууну жаратат.
- Компания LGBTQ+ мазмунун жаратуучуларга байланыштуу талаш-тартыш менен коштолду.
- Машинаны үйрөнүүдөгү бир тараптуулуктар анын чыпкалардын жеткилең эмес ишке ашырылышы мүмкүнчүлүктү негизсиз чектөөгө алып келиши мүмкүн деген ойго ишенет.
Модерация процессинде LGBTQ+ мазмунун жаратуучуларга адилетсиз түрдө бутага алынган YouTube'дун жаңы AI технологиясы технология гиганты үчүн кийинки түйшүктүү кадам катары каралат.
Өткөн аптада YouTube'дун расмий блогунда видео бөлүшүү платформасы жаш көрүүчүлөр үчүн ылайыксыз деп эсептелген видеолорго "курактык чектөөлөрдү ырааттуураак колдонуу" үчүн жаңы автоматтык программаны чыгарууну пландаган.
Колдонмодогу балдарга байланыштуу акыркы кооптонуулардан улам жаңы система автоматташтырылган процесс үчүн адам модераторлорунан баш тартууга жөндөмдүү машинада үйрөнүүчү жасалма интеллект программасына негизделген. Маселе? YouTube'дун автоматташтырылган тутумдары LGBTQ+ мазмунун жана жаратуучуларды бар үчүн гана бөлүп койгон деп айыпталган.
Бул зыяндуу болбосо да, мен ойлобойм, бул ар түрдүү үндөрдүн жетишсиздиги же жок дегенде сый-урматтын жоктугу.
"Машинаны үйрөнүү адамдар тарабынан маалымдалат жана түзүлөт, жана бул тенденциялар ага мүнөздүү же машинанын өзү тарабынан үйрөнүлүшү мүмкүн", - деди YouTuber Роуэн Эллис Lifewire менен болгон телефон маегинде. «Анын [LGBTQ+] мазмунуна карата бир жактуулугу [LGBTQ+] ютуберлеринин мурунку тажрыйбаларында айкын болгон жана мен муну токтотуу үчүн эч нерсе жасалганын көрсөткөн далилдерди көргөн жокмун."
Балам, эми бизде кан жаман
Эллис – феминист жана queer ийилген билим берүү мазмунун жараткан YouTuber жана 2017-жылы ал компаниянын чектелген режиминде видео жарыялаган. Мазмунду автоматтык түрдө модерациялоонун алгачкы кадамы катары бул режим колдонуучуларга издөө сунуштарынан жана сунуштарынан "болжолдуу мазмунду" алдын ала кароого мүмкүндүк берди.
100 000ден ашуун көрүүнү чогулткан ал YouTube'дун модерацияга карай жаңы кадамынын чектен чыгуусуна каршы чыккандыктан, анын каналын чектөөгө жол бербөө үчүн аң-сезимдүү аракет болду деп эсептейт. Платформанын башка колдонуучулары анчалык бактылуу болгон жок жана алар YouTube бул тууралуу билгизди.
YouTube'га каршы класстык доо арыз 2019-жылдын августунда сегиз LGBTQ+ жаратуучусу тарабынан берилген, алар Силикон өрөөнүндөгү компанияны квир жана транс видео жаратуучуларды жана мазмунду чектеген деп айыптаган. Доо сайт "ЛГБТ доогерлерин жана ЛГБТ коомчулугун стигматизациялоочу, чектөөчү, бөгөттөөчү, демонетизациялоочу жана каржылык жактан зыян келтирүүчү мыйзамсыз мазмунду жөнгө салуу, жайылтуу жана акча табуу практикасын колдонот" деп ырастайт."Ал дагы эле Калифорниянын соттору аркылуу өтүп жатат.
Машинаны үйрөнүү адамдар тарабынан маалымдалат жана адамдар тарабынан түзүлөт жана ага мүнөздүү болгон же машинанын өзүнөн үйрөнүшү мүмкүн.
Ошол эле жылдын июнь айында платформа популярдуу консервативдүү комментатор Стивен Кроудерди Voxтун журналисти жана алып баруучусу Карлос Мазага каршы бир нече айга созулган гомофобиялык куугунтуктоо кампаниясы үчүн тез арада сөгүш берүүдөн баш тарткандан кийин массалык маалымат каражаттарынын көңүлүн бурган. Бул Эллистин айткандарын бекемдеди, бул queer жаратуучулар туш болгон уникалдуу кыйынчылыктарга көңүл бурбоо онлайн платформасынын үлгүсү. LGBTQ+ жаратуучуларынын YouTube'дун аларга көрүнүү жөндөмүнө ишенбегени бекеринен эмес.
"Менин оюмча, алар социалдык маселелерде жана теңчиликти камсыз кылууда ачык-айкындык болушунун зарылдыгын түшүнүшкөн жок" деди ал. "Бүткүл дүйнө жүзү боюнча дагы эле балдар бар, алар гей болуу туура эмес деген идея менен чоңоюшкан жана алар бул ишенимге шектене баштаганда, бирок коопсуз издөө же чектөө менен жабылып калганда, бул идеяны бекемдейт. туура эмес, орунсуз, бойго жеткен, бузуку жана кир."
Автоматтык үйрөнүү ишке ашпай жатат
Платформасында LGBTQ+ мазмунун жаратуучуларга байланыштуу өкүнүчтүү тарыхы менен, машина үйрөнүү программалык камсыздоосунун чоңураак нормаларды баамдоо жөндөмүн ишке ашыруудан кооптонуу дагы эле бар. Марккула прикладдык этика борборунун аткаруучу директору Дон Хайдер кумар ойноо үчүн акылсыздык өтө чоң коркунуч экенин айтат.
"AI ар кандай маданий нормалар жана стандарттар менен бир нече өлкөнүн мазмунун натыйжалуу башкара алат деп ишенүү кыйын", - деп жазган ал электрондук почта маегинде. "AI өтө көп учурда татаал суроолорго жооп катары каралат. Бул учурда AI жана аны түзүү жолу ар кандай татаалдыктагы мазмунду модерациялоону айтпаганда да, жөнөкөй тапшырмаларды аткарууда да кыйналат."
YouTube өзүнүн блогуна ылайык, модераторлордун ырааттуу модерациясынын жоктугунан улам AI технологиясын колдонууну чечти. Ылайыктуу эмес деп табылган видеолорду өчүрүү үчүн компьютердик чыпкаларды колдонууну көбөйтүү нормага айланды жана анын курактык чектөө саясаты үчүн ошол эле процедураларды ишке ашыруу логикалык кийинки кадам катары каралат.
Балдардын керектөөчүлөрү менен болгон мамилеси боюнча көптөн бери айтылып келген сындардан кийин процесстерин акырындык менен жакшыртууну көздөгөн компания катары бул чечим таң калыштуу эмес.
Менимче, алар социалдык маселелерде жана теңчиликте ачык-айкындуулуктун болушунун зарылдыгын түшүнүшкөн жок.
Балдар видео бөлүшүү сайтынын негизги демографиялык бөлүгү болуп калды. Август айында санариптик видео аналитикалык Tubular фирмасы YouTube'дагы эң көп көрүлгөн видеолор боюнча айдын аягындагы тизменин башында музыкалык видеолордон тышкары балдарга арналган контент турганын аныктаган.
Компаниянын платформадагы бул кирешелүү, өнүгүп келе жаткан күчүн коргоого болгон кызыгуусу акылга сыярлык. Бирок, бул коргоону ишке ашыруу үчүн колдонулган куралдар компаниянын модерация процедураларынын төмөнкү агымында жүргөндөр үчүн ыңгайсыз бойдон калууда.
"Менин кооптонгон нерсем, бул [LGBTQ+] YouTube колдонуучуларынын көбү камсыз кыла турган маалыматтык, ачык жана чынчыл мазмунга муктаж болгон, бирок анын тутумунда белгиленип калган [LGBTQ+] жаштарын коргобойт жана көп зыян алып келет. орунсуз, - деди Эллис."Бул зыяндуу болбосо да, мен ойлобойм, бул ар түрдүү үндөрдүн жетишсиздиги же жок дегенде сый-урматтын жоктугу.
"Биз муну ар дайым технологиядан көрүп турабыз. Бетти таанууну карап жатканыңызда, ар кандай кара жүздөрдү айырмалай албаганда же биз медицинаны карап, дары белгилүү бир жыныста гана сыналганын көргөндө. Булар. чоңураак маектер жана YouTube мындан бошотулбайт."