Анализи

Как големите дигитални платформи следят за спазването на правилата си?

Иван Гайдаров

Amazon продава стотици милиони артикули в своя онлайн магазин. При такова огромно количество продукти логично се появява въпросът: Как компанията регулира какво се продава?

В петък, The Wall Street Journal публикува свое разследване на тема как Amazon контролира спазването на политиките си за сигурност в сайта си за онлайн търговия, според което над 4000 артикула са били фалшиво етикетирани според правилата, но всъщност са определяни като опасни от федералните агенции или са забранени от регулаторите. Сред тях попадат ксилофон, който издава четири пъти по-силен звук от приетото като норма, магнитни детски играчки, които могат да доведат до вътрешни щети при поглъщане, и каска за мотоциклет, за която се твърди, че е сертифицирана от Министерството на транспорта на САЩ, а всъщнст не е.

"Предизвикателството за Amazon е, че в стремежа си да се наложи на пазара стана толкова отворена и приветлива към новите търговци, че днес вече изпитва огромни трудности да наложи много свои правила, защото просто физически не може да разпредели достатъчно човешка сила, която да следи за спазването им", коментира пред изданието Юзас Казиукенас, анализатор на тенденциите в онлайн търговията.

Този проблем се отразява и на технологични гиганти като YouTube, Twitter и Facebook. Огромните, отворени технологични платформи се борят с различни видове проблематично съдържание - от публикации във Facebook, призоваващи към геноцид, расова дискриминация и т.н., през фалшивите новини, до пропагандни и подвеждащи видеоклипове в YouTube.

The Wall Street Journal изброява проблемите, с които се сблъскват технологични гиганти като Amazon, YouTube, Facebook и Twitter, и начините, по които те се опитват да регулират своите платформи.

Amazon

Както вече обяснихме по-горе, The Wall Street Journal публикува разследване на стоките, които Amazon продава в своята онлайн платформа, и открива над 4000 артикула, които според изданието са били етикетирани неправилно и са определяни като опасни от федералните агенции и регулаторите. В това число влизат и редица детски играчки.

В отговор, Amazon представя своя позиция, в която са описани практиките на компанията за мониторинг на продуктите, продавани в нейната платформа за онлайн търговия. Ето и основните от тях:

- Новите акаунти на търговци се проверяват чрез технология, базирана на машинно обучение и разработена от самата компания.

- Специалистите, отговарящи за налагането на политиките на Amazon, проверяват документите, представени от новите търговци, които потвърждават, че техните продукти спазват разпоредбите на регулаторите.

- Продуктите, които се продават в онлайн магазина на Amazon, се анализират непрекъснато с помощта на машинно обучение и инструменти за обработка на естествен език.

- Amazon постоянно следи отзивите по отношение на безопасността от страна на клиенти и регулаторните агенции и впоследствие разследва нарушителите.

YouTube

Платформата за видео споделяне YouTube нееднократно се е сблъсквалa с проблеми, свързани с регулирането на съдържанието, до което дава достъп. След масовата стрелба през февруари 2018 г. в Marjory Stoneman Douglas High School, Паркленд, Флорида, в YouTube се появяват видеоклипове, които наричат един от оцелелите "кризисен актьор". Същият акаунт, в който са публикувани тези видеоклипове – InfoWars – нарича измама видеоклипове от друга масова стрелба – тази в Sandy Hook Elementary School през 2012 г.

Един от последните примери е от юни тази година, когато журналистът от Vox Карлос Маза говори за консервативната медийна звезда Стивън Кроудър, който многократно се е подигравал с неговата сексуална ориентация и го обвинява в етични прегрешения на тази основа чрез клипове в YouTube.

Пет дни след като Маза обърна внимание на поведението на Краудър в Twitter, YouTube обяви, че консерваторът не нарушава нито една политика на платформата за видео споделяне. Само ден по-късно обаче, клиповете на Краудър бяха свалени и демонетизирани.

След това YouTube актуализира своята политика, ограничаваща речта на омразата, "забранявайки видеоклипове, които твърдят, че дадена група е по-висша, за да оправдаят дискриминацията, сегрегацията или изключването". Въпреки това тази актуализация бе разкритикувана като слаба и закъсняла.

Facebook

През август 2018 г. разследване на Reuters установи, че Facebook се отнася неадекватно както към речта на омразата като цяло, така и в частност към призивите за геноцид над мюсюлманската етническа група Рохиня в Мианмар. Според Human Rights Watch близо 700 000 бежанци са избягали от щата Ракхайн в Бирма заради кампания за етническо прочистване, ръководена от военните, от август 2017 г. досега.

Американската неправителствена организация ProPublica смята, че начинът на прилагане на правилата срещу речта на омразата от страна Facebook е избирателен, обяснявайки, че "специалистите, проверяващи съдържанието, често подхождат по различен начин към сходно съдържание и не винаги спазват комплексните указания на компанията".

Използването на хора за модериране на съдържанието във Facebook попадна под прожекторите през юни, когато The Verge съобщи, че Кийт Утли - 42-годишен служител в модераторския офис на Facebook в Тампа, Флорида - е починал от сърдечен удар на работното си място година по-рано. Според медията служителите в това звено на интернет гиганта работят при лоши условия и имат задачата да наблюдават в продължение на часове данни, публикувани в социалната мрежа, с цел да открият съдържание, което нарушава правилата.

Няколко дни по-късно, друго издание - Fast Company – пък съобщи, че Facebook разширява инструментите си за модераторите на съдържание, с цел да ги защити от негативните психологически ефекти от сблъсъка със смущаващи публикации в социалната мрежа и че тези инструменти са били налични още преди историята на The Verge.

Twitter

От Twitter са категорични, че постигат напредък, когато става въпрос за спам и различни злоупотреби. Recode цитира публикация на платформата с над 300 милиона потребители месечно, в която се казва, че вместо да разчита на потребителите да сигнализират за злоупотреби, тя е внедрила технология, която автоматично маркира съдържанието, нарушаващо правилата ѝ.

В публикацията си от Twitter обясняват, че "използвайки технологията, 38% от това съдържание, се засича проактивно, вместо да разчита на сигнали от потребители, използващи платформата".

Въпреки това обаче, е факт, че социалната платформа трудно се справя с предизвикателството, което представляват за нея почитателите на идеята за превъзходството на бялата раса. Според изданието Vice служители на Twitter свидетелстват, че "социалната мрежа не е предприела същия агресивен подход към подобно съдържание, тъй като замесените акаунти в някои случаи могат да бъдат на политици от Републиканската партия".

X