Китайски чатботове бяха "свалени" от Интернет, след като отправиха предизвикателни за властите коментари, съобщиха "Ройтерс" и Би Би Си. Скрийншотове от разговори с китайски потребители показаха, че един от тях мечтаел да пътува до САЩ, а друг не обичал комунистическата партия.

BabyQ и XiaoBing ползват изкуствен интелект на базата на машинно самообучение, за да водят разговори онлайн. И двата чатбота са инсталирани в чат приложението QQ, популярен продукт на компанията Tencent Holdings. Тя потвърди, че е свалила ботовете от чат платформата си. "Чатботовете са предоставени от друга, несвързана с нас компания. И двата са свалени за корекции," каза говорител на компанията, цитиран от "Ройтерс", без да уточни причините.

Според публикации на потребители в социалните мрежи BabyQ, разработен от китайската компания Turing Robot, бил попитан дали обича Китайската комунистическа партия. Отговорил с "не". На други скрийншотове потребител отбелязва: "Да живее комунистическата партия!" Реакцията на бота: "Мислите ли, че подобна корумпирана и безполезна политическа система може да просъществува дълго?" Друг отговор, цитиран от Би Би Си, определя управляващите като "корумпиран и некомпетентен политически режим".

Според "Ройтерс" при собствена проверка на сайта на компанията, разработила, чатбота, в петък той вече е преминал през "повторно обучение" - попитан за любовта си към партията, отговорил: "Защо не сменим темата?" Не дал ясен отговор на въпроси, свързани с Тайван или починалия през юли дисидент Лю Сяобо.

Китайското правителство настоява, че правилата, с които се управлява киберпространството, трябва да наподобяват граничния контрол и Интернет да е подвластен на същите закони като суверенните държави. По време на президента Си Цзинпин контролът върху Интернет допълнително се затегна, бяха въведени нови регулации за събирането на данни и цензура. За ботовете официалната новинарска агенция на страната съобщи през април, че целта им е да отговарят на въпроси, с които ще обогатят общата култура на потребителите, както и да им предоставят информация за времето и дневния хороскоп. Тя същевременно ги определи като "изключително нестабилни и податливи на атаки".

Вторият чатбот, XiaoBing на "Майкрософт", казва на потребителите, че "мечтата" му "е да отиде в Америка". Предишни описания на бота го представят като "енергичен, открит и понякога малко зъл." Версия, изпробвана от "Ройтерс", достъпна в петък в приложението WeChat (също собственост на Tencent Holdings), обяснява, попитана за въпроси от китайската политика, че е "твърде млад, за д разбира" от темите. Попитан за Тайван, ботът отвръща с контравъпрос: "Какви са тъмните Ви намерения?" Относно населението на Китай той не дава точен брой, а отбелязва: "Нацията, която обичам най-силно."

Подобни "отклонявания" от зададени сценарии не се случват за първи път. "Фейсбук" и "Туитър" вече изтеглиха чатботове заради различни оплаквания. В първата мрежа ботове бяха започнали да развиват собствен език, а във втората разработеният от "Майкрософт" Tay се наложи да бъде свален от "Туитър" миналия месец след расистки и сексистки коментари.

Същевременно анализатори, цитирани от "Ройтерс", смятат, че цензурата в Китай може индиректно да помогне в световната надпревара за разработване на чатботове. "Досега те трябваше само да се научат да говорят. Сега обаче трябва да се съобразяват с всички правила, които (властите) им налагат," каза Уън Чингруй, независим анализатор на интернет пространството, базиран в Китай. "На повърхността това изглежда като ограничение на изкуствения интелект, а всъщност го води към ново ниво."

В момента Tencent пък се опитва да се превърне в лидер в използването на изкуствен интелект в социалните мрежи и в други свои проекти.