Алгоритъмът, с който "Туитър" помага за изрязването на снимки, предпочита по-млади и по-слаби лица на хора с по-светъл цвят на кожата. Това откри студент, спечелил първото в историята на компанията състезание за "откриване на бъгове".

Богдан Кулиних, студент в швейцарския университет EFPL, е получил своите 3500 долара, обещани като награда в състезанието, пише "Гаридън".

Кулиних обяснява, че е изкуствено е създал лица с различни черти, за да изпробва как работи алгоритъма за изрязване на изображения и да види върху кои от тях се фокусира. Някои то създадените лица са почти идентични, но с разлики в цвета на кожата, пола, широчината или възрастта.

Резултатът сочи, че по-светлите, слабите и младите лица получават по-голям интерес от тази функция на "Туитър", от по-старите, по-широките и по-тъмните.

Екипът на платформата се е извинявал при публикации за предразсъдъци, заложени в алгоритмите ѝ, включително за изследвания от Кулиних. При предишни критики към него компанията първоначално заяви, че не е открила проблем, а по-късно, че има много слабо предпочитание към бели и женски лица. Тъкмо заради този случай "Туитър" обяви състезанието.

В "Туитър" обаче Кулиних обясни, че голяма част от технологиите са вредни не заради единични инциденти, а защото подобна вреда е заложена в тях в търсене на "максимизация на ангажимента" на потребителите и печалбата, а накрая друг плаща цената. Според него ще е много по-добре за всички, ако подобни състезания за откриване на бъгове в алгоримите станат редовни и популярни като състезанията за бъгове в сигурността.

Представяйки работата си по състезанието, той отбелязва, че тези предпочитания в алгоритмите буквално изрязват "онези, които не отговарят на предпочитанията на алгоритмите за тегло, възраст, цвят на кожата".

При представянето на резултатите "Туитър" обясни, че работата на студента "показва как алгоритмичните модели усилват предразсъдъците от истинския живот и обществените очаквания за красота".