В Париж се проведе поредна "Международна среща на върха, посветена на изкуствения интелект". Тя има за задача да постави за дискутиране на световно равнище актуални проблеми, възникващи във връзка с бурното развитие на изкуствения интелект (ИИ), което мнозина смятат, че ще доведе до революционни промени в човешкия живот.

Ще се опитам да представя отчасти и да анализирам някои аспекти в позицията на един от разпознаваемите участници в този открит дебат - световноизвестния съвременен мислител Ювал Ноа Харари, на базата на наскоро появилия се на българския книжен пазар превод на последната му книга - "Nexus. Кратка история на информационните мрежи от каменната епоха до ерата на изкуствения интелект".

В това произведение се предлагат отговори на редица ключови проблеми по темата за разширяващото се въздействие на информационните технологии и особено на ИИ върху битието на съвременниците и още повече на бъдещите поколения. То може да послужи като добра отправна точка за навлизане в интересуващата ни тук тема за взаимодействието между ИИ и хората, с акцент върху отговорността за неговото създаване, управление и контрол.

Във възприетата от Харари мисловна рамка ИИ се разглежда като личност. Той говори за съществуването на "човешка и нечовешка идентичност". Застъпва екзотичната теза, че нечовешките "идентичности" имат самосъзнание за собствено "аз". В тази връзка може да се постави въпросът дали този нов тип "аз" ще има права и свободи, подобни на човешките си първообрази. Според автора ИИ има способността да се самоусъвършенства чрез "машинно обучение", което изисква набиране на огромно количество информация, събирано от целия свят. Ала не казва в каква посока ще върви това саморазвитие и дали тя е резултат от негов избор, или все пак става дума за заложена от създателите на ИИ перспектива.

Харари не е ясен и последователен при описанието на ИИ. На различни места в книгата си той го характеризира по различен начин: "лишен от съзнание"; "извънземен, нежив интелект"; "мощен и непроницаем"; не е егоист и алчен; манипулира хората; стреми се към власт; не е безпогрешен и всесилен, но може да излезе "извън контрол", да "поробва или да унищожи човечеството" и следователно е нужна "защита на човечеството" срещу него.

Израелският автор дава некохерентно обяснение на мотивите за действие на ИИ, доколкото едновременно твърди, че той може да се самоусъвършенства ("учи") по собствена инициатива и същевременно, че винаги хора "формулират задачата" пред ИИ. Мисля, че в това отношение е правилно да се поддържа втората позиция, според която в основата на всяко действие на ИИ стоят хора със свое целеполагане. Друг е въпросът, че пребивавайки в два вида пространство - физическо и дигитално - човек се раздвоява, като във второто е представляван от свои аватари, за които не е ясно дали могат сами да вземат решения.

В текста се срещат и логически противоречия. Така например Харари прави множество аналогии между "новата компютърна мрежа" и човека, като същевременно твърди, че тя "няма да прилича на нас". Спорна е и използваната от него обратна реконструкция на историята на информационните мрежи, при която той тръгва от съвременните средства за предаване на информация и върви към способите за нейното предаване в миналото. По такъв начин той привижда постъпателно развитие в средствата за предаване на информация.

Харари е прав в констатацията си, че съществува нужда от дебат около ИИ с максимално широк кръг участници. Според него този дебат е "неотложен", тъй като решенията относно ИИ са стратегически и имат огромни последици за човечеството днес и още повече за бъдещето му. Израелският автор констатира, че човешкият род се намира в "ключов етап от канонизирането на ИИ". Според него е налице опасност хората да бъдат "манипулирани от собствените си творения" - има предвид най-вече ИИ, - но докато осъзнаят заплахата, "вече може да е прекалено късно".

Основен патос на книгата на Харари придават неговите притеснения за бъдещите взаимоотношения между ИИ и хората. Макар да не отрича множеството благотворни ефекти - настоящи или очаквани - от въздействията на ИИ върху човешкия живот, той акцентира върху възможните опасности от различните употреби на ИИ. Той алармира за разнородни по вид рискове, възникващи пред човечеството от развитието на тази мощна технология. Според него съвременниците е нужно да си дадат сметка и за нейните потенциално застрашаващи хората следствия.

Едно от ключовите подозрения на Харари е свързано с възможни неблагоприятни въздействия на ИИ върху преразпределението на човешки, финансови и природни ресурси на глобално ниво. Той е прав, че "многото данни" водят до "много власт", и много вероятно до концентрация на "едно място" на богатството и властта. Според него усъвършенстването на ИИ от страна на тесен кръг от агенти (най-вече корпорации и държави) ще доведе до "нарушаване глобалния баланс на силата" и до процес на тяхното потенциално "световно господство" и "хегемония". Съсредоточаването на толкова информационна мощ в малко ръце ще предизвика загуба на суверенитет на редица държави и налагане на "информационен колониализъм", при който тези държави ще се превърнат в суровинни придатъци - като източници на данни - за новите "информационни империи".

За да се избегне установяването на тотално господство чрез силата на информацията върху мнозинството от хората от малцина техни събратя, е нужен споделен и съгласуван подход за справяне с този проблем на ниво човечество, а за това следва да се формира обща "воля" и споделена "предвидливост".

Не по-малко опасни според Харари са някои от възможностите за промяна на наличния политически ред в резултат от внедряването на новите информационни технологии. Активното използване на ИИ от злонамерени държавни ръководители им дава възможности за създаване на "дигитални диктатури". Налице е и заплаха от формиране на "дигитални анархии" при загуба на контрол от централните власти.

Харари отделя голямо внимание върху особеностите на демократическите и диктаторските режими, като ги разглежда в качеството им на различни типове информационни мрежи. Той пише: "За да разберем дали една мрежа е по-скоро демократична, или по-скоро диктаторска, трябва да разберем как тече информацията през нея и как тя формира обликът на политическите разговори". Израелският автор свързва възхода или упадъка на тези политически системи с начина им на боравене с информацията. Според него демокрациите могат да умрат "не само тогава, когато хората нямат правото да говорят, а и когато не искат или не могат да слушат".

Той задава ключовия според него въпрос: "Как да узнаем дали демокрациите рухват, защото са подкопани от автократи, или поради по-дълбоки структурни и технологични причини?". И набляга върху влиянието на промените в технологиите - особено на информационните - за възможния крах на демокрацията, ако се злоупотреби с тези технологии. Смята, че днешната поредна информационна революция "подготвя почвата за нов рунд в надпреварата между демокрацията и тоталитаризма". Струва си да се замислим върху това възможно развитие.

Особено внимание Харари отделя на новата ситуация, която вече е възникнала във връзка с употребата на информационните технологии в публичния дебат. От една страна, новопоявилите се средства за широко участие в него го демократизират. Откритостта и лесният достъп осигуряват на всеки човек възможност за включване в обществения дебат. Въвличането на хора, досега лишени от способи за влияние при изработване на решения относно важни социални проблеми, го обогатяват. Изразяването на разнообразни позиции и интереси, предоставят потенциал за използване на многобройни ракурси към обсъжданите въпроси.

От друга страна, липсата на "сито" за включване в дискусията, води до участие в нея на лица, които я разрушават, тъй като не са готови да спазват каквито и да е изисквания за нейното цивилизовано водене. Отсъствието на контрол на достъпа има за резултат лесна манипулация на дискусията, чрез насочването ѝ от злонамерени хора в определена посока.

В ситуация на надвикване и какофония от гласове самият дебат лесно върви в посока на истеризиране и употреба на персонални нападки, т.е. лично уязвяване на участниците в него, а не към спор чрез рационални аргументи и установени факти. При тези условия е трудно постигането на съгласие около съвместно взети от мнозинството граждани решения. Дори ако до такива се стигне, неуспелите да убедят в правотата си членове на малцинството не се чувстват обвързани с взетите решения и проявяват склонност към саботиране на тяхното изпълнение. Често се достига до неспособност за разговор, а следователно както до невъзможност за сътрудничество, така и за споразумяване относно правилата за съвместния живот на хората.

Харари с основание обръща внимание върху съществените ефекти, които широкото използване на съвременните информационни технологии оказва върху човешката социална практика. Така например в социалните мрежи нищо налично не се приема за безспорно, т.е. всяка идея, ценност, принцип или начинание са подложени на критика и отхвърляне. Нещо повече, голяма част от техните потребители не проявяват готовност да влизат в дебат помежду си. Те застъпват тези, които смятат за абсолютно валидни, като по този начин способстват за налагане на дигитален догматизъм, дори фанатизъм в мисленето. Никакви аргументи не са в състояние да ги накарат да променят възгледите си.

В условията на нетърпимост към различното от собственото мнение е много лесно да се разтрогват налични съгласия, да се отхвърлят трудно постигнати компромиси. Постоянно се появяват призиви за предоговаряне на вече взети решения, което прави несигурно изпълнението на поети ангажименти и поражда съмнения за спазването на сключени договори.

Към това Харари добавя и "анархистичния потенциал на ИИ", чрез който в публичния дебат се включват освен хора и "нечовешки гласове". Според него последното поколение ботове не са просто ретранслатори и мегафони за разпространение на създадени от хора идеи, а сами произвеждат такива. Нещо повече, израелският автор говори за целенасочено създаване на дезинформация от тези нечовешки същества. В тази връзка обаче възниква питане как ИИ, който "не се интересува от политика" и няма съзнание, върши това.