Негизги алып салуулар
- Twitter колдонуучулар сүрөттөрдү алдын ала көрүү программасында расалык көз карашты жоюуга үмүттөнүүдө.
- Техникалык гиганттын чакырыгы тармактын ар түрдүүлүк маселелерин чечүү үчүн зарыл болгон маданий эсеби болушу мүмкүн.
- Технологиянын ар түрдүүлүгүнүн жоктугу анын технологиялык жетишкендиктеринин эффективдүүлүгүнө доо кетирүүдө.
Твиттер технология тармагындагы көп түрдүүлүк маселелери боюнча кеңири маектешүүлөрдү пайда кылган тренд темасына айлангандан кийин, анын сүрөттөрдү кесүү алгоритми боюнча иликтөө баштаганы жатат.
Социалдык медианын жуггернауту колдонуучулар сүрөттөрдү алдын ала көрүү алгоритминде расалык көз карашты байкашкандан кийин баш макалаларды жаратты. Ачылыш Twitter колдонуучусу Колин Мадленд платформаны Zoomдун жашыл экран технологиясын колдонгон Black кесиптештерин тааный албаганын айтуу үчүн колдонгондон кийин болду, бирок ирониянын чоң шоусунда ал Твиттердин сүрөттөрдү кесүү алгоритми ушундай иш-аракет кылып, Кара жүздөрдүн приоритетинен ажыратылган.
Албетте, бул ар бир азчылык үчүн чоң маселе, бирок менимче, андан да кененирээк маселе бар.
Башка колдонуучулар тенденцияга киришти, алгоритм адамдардан мультфильмдин каармандарына жана атүгүл иттерге чейин ырааттуу түрдө ак жана ачык терилүү беттерге артыкчылык берген бир катар вирустук твиттерди жаратты. Бул мүчүлүштүктөр технология тармагындагы чоңураак маданий кыймылды көрсөтүп турат, ал дайыма азчылык топторун эсепке албай, техникалык жагына өтүп кеткен.
"Бул азчылыктарды коркунучтуу сезип, алар маанилүү эместей сезилет жана аны олуттуураак зыян алып келиши мүмкүн болгон башка нерселер үчүн колдонсо болот," Эрик Лэред-Миллер, университеттин информатика профессору Массачусетс штатынын телефондук интервьюсунда."Программанын бир бөлүгүн эмне үчүн колдонсо болорун жана келип чыгышы мүмкүн болгон бардык зыяндарды чечкениңизден кийин, биз алардын болуу мүмкүнчүлүгүн азайтуу жолдору жөнүндө сүйлөшөбүз."
Убакыт тилкесинде Канария
Twitter твиттерге кыстарылган сүрөттөрдү автоматтык түрдө кесүү үчүн нейрон тармактарын колдонот. Алгоритм алдын ала көрүү үчүн жүздөрдү аныкташы керек, бирок анда байкаларлык ак бурч бар окшойт. Компаниянын өкүлү Лиз Келли бардык кооптонууларга жооп кайтарды.
Келли Твиттерде мындай деп жазды: "Муну көтөргөндөрдүн баарына рахмат. Биз моделди жөнөтүүдөн мурун бир тараптуулукту сынап көрдүк жана биздин тестирлөөдө расалык же гендердик көз караштын далилин тапкан жокпуз, бирок бизде көбүрөөк анализ бар экени анык. кыл. Башкалар карап чыгып, кайталай алышы үчүн биз ишибизди ачабыз."
«Жапайы шартта жүздү таануу технологиялары: Федералдык кеңсеге чакыруу» аттуу ак эмгектин авторлоштору, Learned-Miller бетке негизделген AI үйрөнүү программасынын ашыкча маселелери боюнча алдыңкы изилдөөчү. Ал бир нече жылдар бою сүрөттү үйрөнүү программасынын потенциалдуу терс таасирин талкуулап келет жана бул көз караштар мүмкүн болушунча жумшартылган реалдуулукту түзүүнүн маанилүүлүгү жөнүндө айтып келет.
Бетти таануу технологиясы үчүн көптөгөн алгоритмдер дайындар үчүн маалымдама топтомдорун колдонушат, алар көбүнчө окутуу топтомдору деп аталат, алар сүрөттү үйрөнүү программасынын жүрүм-турумун так тууралоо үчүн колдонулган сүрөттөрдүн жыйындысы. Акыр-аягы, ал AIга жүздөрдүн кеңири спектрин оңой таанууга мүмкүндүк берет. Бирок, бул маалымдама топтомдорунун ар түрдүү бассейни жок болушу мүмкүн, бул Twitter жамаатындай көйгөйлөргө алып келет.
"Албетте, бул ар кандай азчылыктар үчүн чоң маселе, бирок менимче, андан да кененирээк маселе бар", - деди Ленд-Миллер. "Бул технологиялык сектордогу ар түрдүүлүктүн жоктугуна жана туура эмес колдонууга жана кыянаттык менен колдонууга жакын күчтүү программалык камсыздоонун бул түрүнүн туура колдонулушун көрсөтүү үчүн борборлоштурулган, жөнгө салуучу күчтүн зарылдыгына байланыштуу."
Техникалык көп түрдүүлүк жок
Twitter эң акыркы технологиялык компания болушу мүмкүн, бирок бул жаңы көйгөйдөн алыс. Технологиялык талаа негизинен ак түстөгү, дайыма эркектер үстөмдүк кылган талаа бойдон калууда жана изилдөөчүлөр ар түрдүүлүктүн жоктугу иштелип чыккан программалык камсыздоодогу системалык, тарыхый дисбаланстын кайталанышына себеп болорун аныкташкан.
Нью-Йорк университетинин AI Now институтунун 2019-жылдагы отчетунда изилдөөчүлөр өлкөнүн алдыңкы технологиялык фирмаларындагы жумушчу күчүнүн 6 пайыздан азын кара түстүү адамдар түзөрүн аныкташкан. Ошо сыяктуу эле, аялдар талаадагы жумушчулардын 26 пайызын гана түзөт – бул алардын 1960-жылдагы үлүшүнөн статистикалык төмөн.
Бул азчылыктарды коркунучтуу сезип, алар маанилүү эместей сезилет жана ал олуттуураак зыян алып келиши мүмкүн болгон башка нерселер үчүн колдонулушу мүмкүн.
Сыртынан караганда, бул өкүлчүлүк маселелери күнүмдүк көрүнүшү мүмкүн, бирок иш жүзүндө келтирилген зыян терең болушу мүмкүн. AI Now институтунун отчетундагы изилдөөчүлөр бул себептүү программалык камсыздоо менен байланышкан көйгөйлөргө байланыштуу деп болжолдойт, көбүнчө ак эмес жана эркек эмес популяцияларды эсепке албайт. Инфракызыл самын диспенсерлери кара терини аныктай албайбы же Amazon компаниясынын AI программасы аялдын жүзүн эркектердикинен айырмалай албайбы, технология тармагындагы ар түрдүүлүктү чече албагандыктан, технология ар түрдүү дүйнө менен күрөшүүдө ийгиликсиздикке алып келет.
"Маселелерди ойлонбогон жана бул нерселер кандайча зыян алып келерин жана бул зыяндардын канчалык маанилүү экенин түшүнбөгөн көп адамдар бар", - деп AI сүрөтүн үйрөнүүнү сунуштады. "Адамдардын саны азайып баратат деп үмүттөнөбүз!"
