Кейси Нютън обясни къде и защо позицията на "Субстак" за нацисткото съдържание не издържа

Кейси Нютън обясни къде и защо позицията на "Субстак" за нацисткото съдържание не издържа

Banality of Evil, Puddles and All. Аушвиц, фотография на Джулия Модлин. 2021 г.
Julia Maudlin/Flickr
Banality of Evil, Puddles and All. Аушвиц, фотография на Джулия Модлин. 2021 г.
Защо "Субстак" се намира на кръстопът? Това е въпросът, който Кейси Нютън задава в най-скорошното издание на своя бюлетин от 5 януари и на който предлага обичайния за него трезв, аргументиран и умерен отговор във водещата тема, представена в него.
Миналия вторник Нютън информира абонатите си, че обмисля да напусне платформата заради неотдавнашното изявление на "Сусбтак", че няма да демонетизира или премахва открито нацистки профили. "Платформър" е бюлетинът на Нютън в "Субстак", за който читателите се абонират безплатно или срещу заплащане с разширен достъп.
Становището на Нютън е свързано с разразилото се недоволство в отговор на ноемврийската статия на Джонатан М. Кац в "Атлантик" по разследване на екстремизма в "Субстак" и отвореното писмо, подписано от 247 автори на "Субстак", с молба към компанията да изясни политиките си.
Няколко дни по-късно съоснователят на "Субстак" Хамиш Маккензи отговори в блога на платформата, обяснявайки, че публикации, за които се установи, че отправят достоверни заплахи за насилие, ще бъдат премахвани, но всички, които не бъдат квалифицирани като такива (достоверни заплахи за насилие), няма да бъдат закачани. Висока летва, както отбелязва и Нютън.
"Не смятаме, че цензурата (включително чрез демонетизиране на публикации) прави така, че проблемът да изчезне - всъщност тя го влошава" пише Маккензи (цитиран от Нютън). "Ние вярваме, че най-добрият начин да лишим лошите идеи от тяхната сила е да подкрепяме правата на личността и гражданските свободи, докато подлагаме идеите на открито обсъждане".
Гледната точка на Макензи - че слънчевата светлина е най-добрият дезинфектант и че цензурата има обратен ефект, като прави опасните идеи да изглеждат по-привлекателни - е разумна при много или дори повечето обстоятелства, отбелязва Нютън.
Това е гледна точка, отразена в политиките на много по-млади, по-малки технологични платформи, дължащи се както на техно-либертарианската жилка, която минава през много предприемачи в Силициевата долина, така и на факта, че лежерният подход към модерирането на съдържанието е по-лесен и по-евтин, отколкото алтернативите.
Когато беше основана през 2017 г., "Субстак" предложи проста инфраструктура за хората да създават и развиват своите имейл бюлетини. От самото начало обеща да не се нагърбва със строг контрол при модерирането на съдържанието, припомня Нютън и разяснява логиката на този подход, свързана с обстоятелството, че в началото "Субстак" предлагаше просто софтуер, поради което и не предизвика много критики:
"В края на краищата, ако сте написали нещо наистина ужасно в Word, никой няма да обвини "Майкрософт". "Субстак" се възползва по подобен начин от тази дистанция."
С течение на времето обаче компанията се разви, продължава Нютън. Започва да насърчава отделни писатели да се препоръчват един друг, насочвайки десетки хиляди абонати към хора с подобно мислене. Започна да изпраща алгоритмично класифициран справочник на потенциално интересни публикации до всеки с профил в "Субстак", насочвайки вниманието към нови гласове от цялата мрежа. А през април тази година компанията пусна "Бележки" (Notes) - текстова социална мрежа, наподобяваща "Туитър" [sic], която извежда публикации в класирана емисия.
През 2023 г., с други думи, "Субстак" вече не може да твърди, че е простата инфраструктура, която беше преди, посочва основния проблем с подхода на "Субстак" Нютън. "Субстак" е платформа: мрежа от потребители, популяризирани по най-различни начини чрез инструменти за класиране.
Фактът, че монетизира чрез абонаменти, а не чрез реклама, не променя факта, че точно както социалните мрежи понякога неволно оказват подкрепа на екстремисти, "Субстак" изложи себе си на риска да направи същото.
И в едно ключово отношение "Субстак" е дори по-уязвим за тази критика, отколкото бяха социалните мрежи, защото екстремистите във "Фейсбук", "Туитър" [sic] и "Ютюб" в по-голямата си част публикуваха за разширяване на влиянието си: тези платформи затрудниха или дори направиха невъзможно за тях да монетизират публиката си, обяснява Нютън.
В "Субстак", от друга страна, екстремистите могат да публикуват за пари. Всички елементи вече са налице, за да може екстремисткият "Субстак" да развие аудитория, използвайки системите за препоръки на платформата, и да монетизира тази аудитория чрез абонаменти. И "Субстак", както при всички останали публикации, ще получи 10 процента от приходите.
По-нататък Нютън разяснява, че платформи като "Фейсбук", които се сблъскаха с този проблем много по-отдавна и в големи мащаби, вече са разработили и внедрили защити срещу експлоатирането на техните системи по този начин, като не позволяват на определени организации да създават профили.
Те имат и използват инструменти, казва Нютън, с които да забранят препоръчването на съдържанието на тези организации или речта на омразата като цяло. Други, като Ютюб, може да позволят някаква реч, която кара компанията (Ютюб) да се чувства неудобно, но да ги ограничи от монетизиране, или да ограничи показването на такова съдържание при търсенето или чрез системите за препоръчване.
"Субстак" не иска да прави това. Той иска да бъде разглеждан като доставчик на чиста инфраструктура - нещо като "Клаудфлеър", който изглежда трябва да модерира съдържание само веднъж на няколко години, продължава Нютън, реферирайки към уеб форума Kiwi Farms, основан от бивш администратор на 8chan.
Каква е разликата, би попитал някой. Нютън обяснява: "Клаудфлеър" не препоръчва блогове. Той не изпраща обобщение на уебсайтове за посещение. Той не поддържа базирана на текст социална мрежа и не препоръчва публикации, които може да харесате в горната част.
Препоръките може да изглеждат на повърхността си безобидни и в повечето случаи е така, изтъква Нютън, давайки за пример собствения си опит, въз основа на който той няма възражения по отношение на "Субстак", защото за три години са му препоръчани "много скучни публикации, но нито една открито нацистка".
Затварянето на очите за препоръчаното съдържание почти винаги се връща като бумеранг и нанася удар на платформата, очертава проблемът, с който се сблъскват компаниите, предлагащи такива услуги поначало.
  • Именно препоръките в "Туитър" [sic], "Фейсбук" и "Ютюб" помогнаха на Алекс Джоунс да се превърне от маргинален прокламатор на конспиративни теории в гигант, който може да прогони семействата от домовете им;
  • именно препоръките превърнаха QAnon от откачено тролене във 4Chan в бурно национално движение;
  • именно препоръките помогнаха за изграждането на съвременното движение против ваксините, припомня Нютън.
Моментът, в който една платформа започне да препоръчва съдържание, е моментът, в който тя вече не може да твърди, че е прост софтуер.
Разбира се, изтощително и скъпо е да трябва да контролирате платформата си по този начин. Някои потребители наистина искат да цензурират всеки, който не е съгласен с тях, и лобират за премахване на всички техни политически опоненти от платформата. Освен това откриването на истинската опасност и вреди в морето от потребителски докладвания е досадна и неблагодарна работа, посочва трудността при намирането на балансиран и оптимален откъм ресурси подход Нютън.
Без значение как изберете да модерирате съдържанието, ще ядосате поне някои групи потребители. В същото време, в името на вашия бизнес, трябва да теглите черта някъде.
Някои от тези редове са доста трудни - забранявате ли всяко съдържание, което показва голота? Ами ако майката кърми?, пита Нютън и въпросът му е не е хипотетичен, защото именно с такива случаи се сблъска "Фейсбук".
Други обаче не са, подчертава той.
Един от хората с най-голям опит в развитието и управлението на платформите, човек в близък контакт с хора, заемали ръководни постове и някои от най-важните решения в тази компании, заявява, че до "Субстак" не е знаел за друга голяма потребителска интернет платформа в САЩ, която да твърди, че няма да премахва или дори демонетизира нацистки профили.
Дори в един поляризиран свят все още има консенсус, че избиването на 6 милиона евреи по време на Холокоста е било зверство. Нацистите не са извършили единственото зверство в историята, но една платформа, която отказва да премахне техните поддръжници, ви казва нещо важно за себе си. И ако няма да отстранява нацистите, какво ни дава основание да очакване, че тази платформа би премахнала всяка друга вреда, пита реторично Нютън. И по-нататък добавя:
Докато "Субстак" си позволява да бъде възприеман - насърчава себе си да бъде възприеман! - като гостопримен за нацисти, те ще създават профили в платформата и ще продават абонаменти. Какво би ги отказало да го правят?
"Не искам да финансирам нацисти. Обезпокоен съм от ръководството на "Субстак", което гледа на открито пронацистко съдържание и казва: "Няма да ви деплатформизираме. Всъщност ние ще ви монетизираме" - цитира един от читателите на "Платформър" Нютън. През последните няколко седмици десетки плащащи читатели на бюлетина му са анулирали абонаментите си, добавя той, преди да заяви, че се гордее с читателите на бюлетина си - заради това, че отстояват принципите си по този начин.
Всяка платформа посреща своя дял от расисти, бели националисти и други вредни личности. В някакъв смисъл няма как да избягате от тях онлайн, констатира фактите Нютън.
По рано той припомня за периода, когато дори "Фейсбук", който има по-рестриктивни политики от "Субстак" във всяко отношение, позволяваше на потребителите да отричат Холокоста и когато Марк Зукърбърг защитаваше тази политика като доказателство за ангажимента на компанията към свободата на словото. От време на време това го въвличаше в проблеми. Докато през 2020 г. не обърна курса: занапред, каза Зукърбърг тогава, отричането на Холокоста ще бъде заличавано от платформата. По този начин, каза собственикът на "Мета", "Фейсбук" се стреми да бъде "в крак с времето".
Затова и неговото послание към "Субстак" е:
Трябва да има начини да ги виждаме по-малко; да бъдат препоръчвани по-малко; да ги финансира по-малко. В хода на растежа си други платформи са осъзнали това. Надяваме се "Субстак" да направи същото.
За Субстак
"Субстак" е американска онлайн платформа, която предоставя инфраструктура за публикуване, плащане, анализи и проектиране за поддръжка на онлайн бюлетини срещу абонамент. Тя позволява на всеки да създаде собствено пространство, което съчетава личен уебсайт, блог и имейл бюлетин или подкаст. Платформата е издател на хиляди независими писатели, творци и журналисти. Основана е през 2017 г. от Крис Бест, съоснователят на Kik Messenger; Джайрадж Сети, ръководител на платформата и главен разработчик в Kik Messenger; и Хамиш Маккензи, бивш технически репортер на PandoDaily.
През последните няколко дни екипът на "Платформър" анализира десетки бюлетини на "Субстак" за пронацистко съдържание, а Нютън е провел среща с хората, вземащи решенията в "Субстак", за да настоява директно пред тях, че трябва да премахнат от мрежата съдържание, което възхвалява нацистите. Екипът му е изпратил и списък с профили, за които смята, че нарушават съществуващите политики на компанията срещу подбуждане към насилие.
За Кейси Нютън
Преди да започне да издава своя бюлетин със "Субстак", Нютън беше редактор във "Върдж", където списваше ежедневната рубрика "Интерфейс". В нея той отразяваше значими истории за социално-медийните платформи и тяхното въздействие върху обществото. Работата му във "Върдж", предшествана от няколко години в "Сан Франциско Кроникъл" и в "Република Аризона", помогна за утвърждаването на репутацията му на критичен анализатор и коментатор в технологичната индустрия
Някои от нашите най-отдавнашните и активно допринасящи читатели на "Платформър" са хора, които работят в областта на политиката, модерирането на съдържание и доверието и безопасността в технологични компании. "Те са прекарали години в извършването на тази работа, във водене на тежки разговори и почистването на интернет за наша взаимна полза. Съвсем естествено е те да се противопоставят на харченето на пари в платформа, която отхвърля професията им по този начин", отбелязва Нютън.
Което е важно, защото връзката между него и аудиторията на "Платформър" не е еднопосочна, а тъкмо обратното - това, което той се опитва да изгради чрез бюлетина си и до голяма степен е валидно за всеки друг създател на съдържание, е не просто аудитория, а общност. А общностите могат да бъдат както съзидателни и да се превърнат в коригиращ механизъм за различни проявления на социална несправедливост, така и екстремистки, квазисектантски групи от хора, които атакуват и са разрушителни за всякакви ценности и обществени норми.