Как се декодират манипулации от изкуствен и естествен интелект

Как се декодират манипулации от изкуствен и естествен интелект

Изображение на щурмовак, създадено с Midjourney
Rob Lennon
Изображение на щурмовак, създадено с Midjourney
Главоломното разпространение на дезинформация от началото на войната на Израел с "Хамас" прави изключително трудно отриването на достоверна информация. Понятието инфодемия, което придоби популярност покрай пандемията от COVID-19, е относимо към ситуацията с отразяването и проследяването на конфликта в Близкия изток. Предпазването от падането в капаните на умишлено подвеждащата, манипулираната с изкуствен интелект и просто невярна информация изисква усилия и дисциплина, но не е невъзможно. В следващите редове са представени практични насоки за проверка, анализ и оценяване на всякакъв вид съдържание - от статуси в социалните медии, през изображения, до видео.
Всеки, който притежава устройство, свързано с интернет, може да гледа и слуша извънредни новини в реално време. Или поне да си мисли, че това, което гледа, чете и слуша, са новини, докато всъщност съдържанието, с което взаимодейства, е изфабрикувано и представено като журналистика или като автентични първични източници от мястото на събитието.
В социалните медии публикациите могат да излетят нагоре по-бързо, отколкото е по силите на повечето проверители на факти и модератори да се справят с анализа и развенчаването на измислиците и разобличаването на инсинуациите. И докато някаква част от тези публикации са чиста измислица, повечето представляват непредсказуема комбинация от вярна и невярна информация; информация - включително видео, аудио и изображения, или данни, извадени от контекст, слухове, фалшифицирани медийни файлове и документи, или добрата стара пропаганда.
Рискът от изпадане в заблуда е още по-висок по време на събития като войната в Украйна или конфликта между "Хамас" и Израел, както и по време на избори. Залогът е голям, действието се развива главоломно бързо. Милиони публикации се разпространяват в и между онлайн платформите, които повечето хора използват за една или друга цел.
Колкото и модератори да има в една такава платформа, проверката на всяка единица съдържание в реално време от човек просто не е възможна - в това усилие са впрегнати алгоритми, на които са поверени и решенията кое съдържание да остане и кое - да бъде свалено. И в тези решения изкуственият интелект се справя все по-добре, но далеч от идеалното.
В допълнение към това, платформите са проектирани така, че да приоритизират съдържание, с което потребителите взаимодействат най-много - на принципа "колкото повече, толкова повече". Това е особено важно за платформи като Facebook, Instagram и X, чиито бизнес модели са изградени върху привличането на рекламодатели и приходите от реклама - колкото повече потребители има платформата, колкото по-активни са тези потребители, толкова по-важна, необходима и желана е тя като трибуна за популяризиране на марка, продукт, кауза, личност.
Алгоритмите на платформите обаче съвсем не са единствените "участници" в циркулацията на съдържание в тях, захранвани от изкуствен интелект. Все повече и все по-достъпни са инструменти с най-различно предназначение, които потребителите могат да използват срещу абонамент или дори безплатно. Докато усъвършенстването в "диалога" с тях може да отнеме време, за задоволителни резултати в повечето случаи не е необходимо ръководство за употреба, а някои представляват приложения за мобилни устройства, с които се оперира толкова лесно, колкото и с TikTok или Instagram.
Бързото разпространение на такива инструменти още повече размътва водите. Спомнете си случая с мистерията около папата, облечен в скъпо на вид пухкаво бяло палто, фалшивата публикация в социалните медии за експлозия в близост до Пентагона, несъстоялият се арест на бившия президент на САЩ Доналд Тръмп.
Изображение на несъществуващи подводници, едната от които с изкуствен интелект, генерирано с Dall-E 2 на OpenAI. (указание: отляво - модерна ядрена подводница с разпознаваеми характеристики като цилиндрична форма, перископ и символ; отдясно - футуристична подводница, задвижвана от изкуствен интелект с иновативни дизайнерски елементи)
Изображение на несъществуващи подводници, едната от които с изкуствен интелект, генерирано с Dall-E 2 на OpenAI. (указание: отляво - модерна ядрена подводница с разпознаваеми характеристики като цилиндрична форма, перископ и символ; отдясно - футуристична подводница, задвижвана от изкуствен интелект с иновативни дизайнерски елементи)
Социално-медийните платформи и услуги за съобщения като Telegram, WhatsApp и Messanger не са медии и не се регулирани като медии - което не означава, че изобщо не са (регулирани), но и не и по начина и в степента, в която са регулирани електронните медии - телевизията и радиото. Така за потребителите им става дори още по-наложително да анализират и оценяват задълбочено и трезво всичко, което им се предлага от системите за препоръчване на съдържание. (Макар да е погрешно да се мисли, че консумацията на телевизионно съдържание, например, не изисква критично мислене и проверка на източници и твърдения.)
Как да разберете на какво да се доверите, какво да не споделяте и какво да докладвате чрез системите за подвеждащо съдържание или език на омраза на платформите? На 9 октомври американското издание "Уошингтън Поуст" актуализира "наръчника" си за избягване на капаните на невярната информация и изображенията, генерирани с изкуствен интелект, публикуван първоначално през май т.г. В статията са формулирани осем препоръки за използване на инструменти и методи за проверка, чиято цел е да помогнат на потребителите да се ориентират и да оценяват критично и информирано съдържанието, което търсят, откриват и на което са изложени.
Запознайте се с тях, както и с примери и насоки за използването им, които дават добра представа за предимството от това човек да си изработи навици и да не подхожда лекомислено в процеса на информиране - своето собствено и това на другите, с които общува или възприема като публика.
Разберете защо нещо може да е дезинформация
Помислете кой би се възползвал от разпространението на смущаваща информация по време на събитие с новинарско значение и проучете има ли и какви са разказите (наративи, истории, които целят да формират определена представа и нагласа), които се разпространяват. По време на избори например е важно да се внимава за противоречива информация и теории на конспирацията, неоснователни обвинения и опасения относно манипулации и подмяна на вота на гласоподавателите, които могат да бъдат от полза за определена политическа партия или личност - кандидат за публичен пост. Пропагандата се използва и като инструмент по време на въоръжен конфликт и може да се "транслира" чрез официални или да се предава по неофициални канали.
Ако нещо ви се струва твърде възмутително или удовлетворително, независимо дали резонира с вашите възгледи, забавете темпото и го проучете - откъде тръгва информацията, къде се разпространява, по какви начини и от кого. Имайте предвид, че дезинформацията често се разпространява неволно или не докрай осъзнато от хора, които искат тя да е истина.
Хората, които разпространяват подвеждащи публикации, може да се опитват да разгневят или объркат нечии поддръжници, да нагнетят напрежение между противоположните страни по даден проблем или най-общо да причинят дестабилизиция. В действителност не винаги можете да намерите точен прочит, правдоподобна версия на събитията, особено в динамично развиващи се ситуации. В тези случаи изчакайте толкова дълго, колкото е необходимо за допълнителна информация, преди да споделите или да стигнете до окончателни заключения.
Не всяка подвеждаща информация претендира и има за цел да представя реалността и да е сериозна. Някои публикации са създадени само за забавление или за т.нар. "тролене" на хората, така че бъдете толкова скептични към глуповатите истории, колкото и към сериозните.
Забавете темпото и си дайте повече време, докато четете и гледате
Не натискайте бутона за споделяне - не и преди да сте сигурни, че сте изгледали и прочели това, което ще споделите, докрай, и че сте го разбрали и осмислили критично. Социалните медии са проектирани по такъв начин, че да стимулират хората да споделят съдържание помежду си или по-абстрактно със света навън, да превръщат съдържание, което предизвиква най-голям интерес, във вирално, да снижават бдителността и разсъдливостта, така че потребителите да бъдат преди всичко разпространители на съдържание.
Без значение колко опустошителни, просветляващи или вбесяващи са публикациите, на които попадате в TikTok, "Редит", "Фейсбук" или в YouTube - винаги е добра идея да изчакате, преди да ги споделите с други хора. Докато не потвърдите автентичността му и не установите кой е първоизточникът и какъв е контекстът, приемете, че всичко заслужава вниманието ви и подозрението, че някой се опитва да убеди някого в нещо или да му поднесе "алтернативен факт".
Проверете източника; не се предоверявайте на т.нар. "проверени" профили
Вижте кой говори, но не с Брус Уилис и Джон Траволта, а чрез съобщението, достигнало до вас. Ако то е споделено и достига до вас чрез приятели или членове на семейството, не се доверявайте на публикациите, освен ако информацията не е от някой, който е на място, или от потвърден експерт. Ако идва от непознат изпращач или организация, не забравяйте, че отметката за проверен профил или обстоятелството, че дадена личност е добре известна на широката публика, не прави този профил надежден източник на информация.
Много политически експерти и известни интернет персонажи публикуват неточна информация, особено когато искат да са на гребена на вълната на събития, така че винаги е добре да подхождате скептично към всяка публикация.
Ако профилът, публикуващ дадено съобщение, не е източникът на думите или изображенията, проучете откъде идва: разровете се, за да намерите оригиналния профил във "Фейсбук", YouTube или социални медии, който първи го е споделил. Ако не можете да определите произхода на нещо, това трябва да е червена лампа за повишено внимание и недоверие. Бъдете внимателни с екранни снимки, които могат да бъдат още по-трудни за проследяване, или нещо, което предизвиква особено силна емоционална реакция. Дезинформацията се "храни" именно от първични и първосигнални реакции и действия, за да се разпространява. Не слагайте съчки и фойерверки в огъня.
Когато проучвате индивидуални профили, проверете за датата на създаването им - тя е видима в списъка с публикации на съответния профил. Бъдете особено внимателни и недоверчиви към наскоро създадени профили - преди няколко дни, седмици или месеца, които имат неколцина последователи. Макар че много от добре известните разпространители на дезинформация в X например не са нито нови профили, нито с малки последователи, така че това, само по себе си, не може да бъде критерий.
За това кога даден уебсайт е бил пуснат онлайн, лесно може да се намерят данни в "Гугъл". Потърсете името на сайта, след което щракнете върху трите вертикални точки до url адреса в резултатите, за да видите датата, на която е индексиран за първи път от търсачката. И тук важи същото правило - избягвайте да се доверявате на всичко твърде ново. И не пропускайте основните неща: потърсете в "Гугъл" информация за името на личността или организацията зад съответния сайт.
Направете колекция от надеждни източници
Проверяването на историята и идентифицирането на човека или хората зад всеки произволен акаунт в социални медии отнема изключително много време, особено когато ново съдържание ни залива едновременно от толкова много места. След всичко казано дотук, не изпадайте в крайности и не ставайте твърде мнителни към утвърдени медийни издания, журналисти, експерти и прочее. Легитимните големи новинарски организации са създадени да проверяват тези неща вместо вас и често съобщават информация за събитие, използвайки едни и също видеоклипове или снимки, направени от реални хора, след като са потвърдили произхода им.
Докато в оригиналната статия на "Уошингтън Поуст" се препоръчва използването на агрегатори за новини като Apple News, Google News или Yahoo News, които като цяло избират и показват съдържание от установени източници и в по-малка или по-голяма степен извършват модерация, тази препоръка може да не е особено подходяща за българския медиен контекст.
Днес всички големи медийни издания имат официални страници в поне няколко социално-медийни платформи, а част от журналистите и редакторите им имат и индивидуални профили, така че човек може да следи съдържанието и съобщенията им и чрез тях. Същото се отнася за академични, изследователски и аналитични организации и институции и за експертите, които работят в тях.
Ако четете извънредни новини в X, известен преди като "Туитър", внимавайте да следвате репортери и журналисти с потвърдена самоличност на регионални издания, които се намират на мястото на събитието. Промените в системата за проверка на X направиха това по-трудно. Не приемайте, че даден акаунт е надежден или проверен от X, само защото има синя отметка или защото е споделен от собственика на компанията, Илон Мъск. Посетете директно новинарски сайтове или потърсете хората, на които имате доверие, в друга платформа.
Потърсете допълнителен контекст за новинарски събития
Дезинформацията често се засилва и ускорява преди, по време и след събития с голям обществен отзвук, получили мащабно отразяване в медиите. Днес събития може да бъдат следени в реално време, независимо от географското им местоположение, и често включват поток от несвързана информация - например кадри от мястото на събитието, като видеоклипове, заснети със смартфон, вместо от оператор с фото или видеокамера, и разкази от първо лице. Дори да сте изложени само на легитимни публикации, те все още могат да бъдат объркващи или подвеждащи - защото представят случващото се само в най-ярките му щрихи, например, но не и цялата картина.
Опитайте се да допълните всички клипове или истории с по-широк контекст за случващото се. Стремете се да съчетавате информацията с такава, идваща от утвърдени експерти по темата, независимо дали става дума за външна политика, кибервойна, история или обществено здраве. Това е добър момент да оцените качеството на дадено онлайн издание или телевизионно предаване от гледна точка на това доколко представя събитията задълбочено и в контекст.
Използвайте тези улики, за да идентифицирате намеса на ИИ при създаването на изображения
Инструментите за генериране на изображения от изкуствен интелект правят идентифицирането на фалшификати много по-трудно, но не и невъзможно. Като за начало, имайте предвид следните пет улики, за които да следите и чрез които можете да установите дали дадено изображение е създадено от изкуствен интелект. Можете да намерите още съвети и да следите за вече проверени и анализирани изображения в профили на хора, които са специалисти в това (анализатори, инженери, програмисти, OSINT експерти, журналисти и пр.).
  • Обърнете особено внимание на ръцете. Генеративният изкуствен интелект се усъвършенства с големи крачки, но все още има "проблеми" при генерирането на човешки ръце - разгледайте внимателно и пребройте пръстите на всяка видима ръка.
  • Увеличете мащаба на всички неодушевени обекти в изображението и анализирайте доколко се вписват в общата картина, дали по ръбовете им няма разфокусирана или пикселизирана област, най-общо - дали ви изглеждат като част от композицията. Фокусирайте се върху елементи, детайли и отражения в изображение като очила, огради или велосипеди и вижте дали няма да откриете дребни и незабележими на пръв поглед недостатъци.
  • Ако се чудите дали дадено изображение е направено от изкуствен интелект, потърсете и прегледайте всеки надпис или обекти като улични знаци или билбордове и вижте дали някой от надписите не е изписван наопаки или с правописни грешки.
  • Вгледайте се внимателно във фона. Изображенията, генерирани от изкуствен интелект, може да имат замъглени или изкривени детайли, особено на заден план.
  • Проверете дали изображенията не са прекалено "шлифовани" или артистични. Някои генерирани от изкуствен интелект изображения на реални хора изглеждат крещящо стилизирани или хората, изобразени на тях, са с "пластмасови" лица.
  • Анализирайте съдържанието по всички останали критерии за дезинформация, които са ви известни и които са разгледани тук. Споделено ли е от надежден източник? Откривате ли едни и същи кадри и припокриваща се информация от едно и също събитие в отделни, независими едни от други източници?
Изследвайте видеоклипове с инструменти като InVid
Ако имате интерес и желание сами да проучвате автентичността на дадено видео, можете да започнете като се запознаете с насоките в това видео на организацията First Draft. Вижте дали във видеото, което анализирате, има множество редакции и странни изрязвания, слушайте внимателно аудиото и го пуснете за проверка чрез инструмент като InVid, който помага да проверите автентичността на видеоклиповете. Това може да бъде по-трудно за видеоклипове, предавани на живо, като видеостриймовете в "Туич" или "Дискорд" например.
За да проверите изображения, които не са генерирани от изкуствен интелект, но все още изглеждат подозрителни, поставете ги в търсачката за изображения на "Гугъл", като качите екранна снимка и я плъзнете в полето за търсене. По този начин можете да разберете дали изображението е старо и е циркулирало онлайн и преди, какъв е произходът му, къде и от кого е разпространявано.
Използвайте сайтове и инструменти за проверка на фактите
Някои от социалните медии имат собствени инструменти за проверка на фактите, наети или доброволно участващи в проверка на съдържанието модератори, партниращи организации за проверка на факти от международни мрежи като тази на Института "Пойнтър" и поставят предупредителни етикети, а повече от тях добавиха и откроиха в съдържанието си, генерирано от потребители (user generated content или UGC) специални раздели за популяризиране на официална информация и данни от институционални източници или официалните резултати от провеждащите се в момента избори.
Въпреки това, поради огромния обем публикации, за чието публикуване и разпространение посредничат (и на което не са редактори или издатели, за разлика от медийните издания), подвеждащо видео или публикация може да бъдат видени и прочетени от милиони, преди да бъдат идентифицирани и етикетирани като неверни.
Оглеждайте се за предупреждения за проблемно съдържание в сайтовете на социалните медии, отнасящи се до отделни публикации, преди да публикувате нещо, което може да се окаже подвеждащо. Потърсете конкретни истории, твърдения или изображения в сайтове на издания за проверка на факти като Snopes и PolitiFact.