В Китай разработват изкуствен интелект с военни цели на базата на модел на "Мета"
Най-добрите китайски изследователски институции, свързани с Народната освободителна армия, са използвали публично достъпния модел Llama на Meta, за да разработят инструмент с изкуствен интелект за потенциални военни приложения според академични статии и анализатори.
В доклад от юни, прегледан от "Ройтерс", шестима китайски изследователи от три институции, включително две от водещия изследователски орган на Народната освободителна армия (НОА), Академията на военните науки, описват подробно как са използвали ранна версия на Ламата на Мета като база за това, което нарича ChatBIT.
Изследователите са използвали по-ранен Llama 2 13B голям езиков модел (LLM), който Meta, включващ техни собствени параметри, за да конструират военно фокусиран инструмент с изкуствен интелект за събиране и обработка на разузнавателна информация и предлагане на точна и надеждна информация за оперативно вземане на решения.
ChatBIT е фино настроен и "оптимизиран за диалог и задачи с отговори на въпроси във военната област", пише вестникът. Установено е, че превъзхожда някои други модели с изкуствен интелект, които са били приблизително 90% толкова способни, колкото мощния ChatGPT-4 на OpenAI. Изследователите не уточниха как са дефинирали производителността или дали моделът на изкуствен интелект е бил пуснат в експлоатация.
"Това е първият път, когато има съществени доказателства, че военните експерти на Народната освободителна армия в Китай систематично проучват и се опитват да използват силата на LLM с отворен код, особено тези на Meta, за военни цели", каза Суни Чюн, сътрудник в Jamestown Foundation, която е специализирана в нововъзникващите технологии с двойна употреба в Китай, включително изкуствен интелект.
Изкуствен интелект е помогнал за откриването на над 150 хил. нови вида вируси
Meta прие отвореното пускане на много от своите модели с изкуствен интелект, включително Llama. Тя налага ограничения върху използването им, включително изискване услугите с повече от 700 млн. потребители да търсят лиценз от компанията.
Условията ѝ също така забраняват използването на моделите за "военни, военни, ядрени индустрии или приложения, шпионаж" и други дейности, които са обект на експортен контрол на отбраната на САЩ, както и за разработване на оръжия и съдържание, предназначени да "подбуждат и насърчават насилие".
Въпреки това, тъй като моделите на Meta са публични, компанията има ограничени начини за прилагане на тези разпоредби.
В отговор на въпроси на "Ройтерс" Meta цитира своята политика за приемлива употреба и каза, че е предприела мерки за предотвратяване на злоупотреба. "Всяко използване на нашите модели от Народната освободителна армия е неразрешено и противоречи на нашата политика за приемлива употреба", каза Моли Монтгомъри, директор на обществената политика на "Мета", в телефонно интервю за "Ройтерс".
"Мета" добави, че Съединените щати трябва да приемат отворените иновации. "Предвид глобалната конкуренция за изкуствения интелект, предполагаемата роля на една-единствена и остаряла версия на американски модел с отворен код е без значение, когато знаем, че Китай вече инвестира над 1 трлн. долара, за да надмине САЩ по отношение на изкуствения интелект", каза говорителят на "Мета" в изявление.
Китайските изследователи включват Гън Гуотонг и Ли Уейуей от Изследователския център за военна научна информация на академията и Националния иновационен институт за отбранителни технологии, както и изследователи от Пекинския технологичен институт и университета "Миндзу".
"В бъдеще чрез технологично усъвършенстване ChatBIT ще се прилага не само за анализ на разузнаването, но също така... ще бъдат проучени стратегическо планиране, симулационно обучение и командно вземане на решения", се казва в документа.
Марио Драги: 800 млрд. евро са необходими на Европа, за да преодолее икономическия спад
Нито Министерството на отбраната на Китай, нито някоя от институциите или изследователите отговори на исканията за коментар.
"Ройтерс" не можа да потвърди възможностите и изчислителната мощност на ChatBIT, въпреки че изследователите отбелязаха, че неговият модел включва само 100 хил. военни диалогови записи, сравнително малък брой в сравнение с други големи езикови модели.
"Това е капка в морето в сравнение с повечето от тези модели (които) са обучени с трилиони токени, така че... наистина ме кара да се запитам какво всъщност постигат тук по отношение на различни възможности", каза Джоел Пино, вицепрезидент за изследванията с изкуствен интелект в "Мета" и професор по компютърни науки в университета Макгил в Канада.
Изследването идва на фона на разгорещен дебат в националната сигурност и технологичните кръгове на САЩ за това дали фирми като "Мета" трябва да направят своите модели публично достъпни.
Президентът на САЩ Джо Байдън подписа през октомври 2023 г. заповед за управление на разработките с изкуствен интелект. Отбеляза, че макар да има значителни ползи от иновациите, има и "съществени рискове за сигурността, като премахването на предпазните мерки в рамките на модела".
"Ерата на изкуствения интелект и нашето човешко бъдеще" (откъс)
Тази седмица Вашингтон заяви, че финализира правилата за ограничаване на инвестициите на САЩ в изкуствен интелект и други технологични сектори в Китай, които биха могли да застрашат националната сигурност.
Говорителят на Пентагона Джон Съпъл каза, че Министерството на отбраната признава, че моделите с отворен код имат както предимства, така и недостатъци и че "ще продължим да наблюдаваме и оценяваме отблизо възможностите на конкурентите".
"Буркан за бисквитки"
Някои наблюдатели казват, че напредъкът на Китай в разработването на местен изкуствен интелект, включително създаването на десетки изследователски лаборатории, вече е затруднил възможността да се ограничи наваксването на Китай спрямо САЩ в технологично отношение.
Сам Олтман: Изкуственият интелект сега е като компютъра от "Стар Трек"
В отделна академична статия, прегледана от "Ройтерс", двама изследователи от Корпорацията на авиационната индустрия на Китай (AVIC) - която Съединените щати са определили като фирма с връзки с НОА - описват използването на Llama 2 за "обучение на стратегии за смущения във въздушна електронна война".
Използването от Китай на разработен от Запада изкуствен интелект се разшири и във вътрешната сигурност. Документ от юни описва как Llama е бил използван за "разузнавателна полиция" за обработка на големи количества данни и подобряване на вземането на полицейски решения.
Държавният PLA Daily публикува коментар през април за това как изкуственият интелект може да помогне за "ускоряване на изследванията и развитието на оръжия и оборудване", да помогне за разработването на бойна симулация и да подобри ефективността на военното обучение".
"Можете ли да ги предпазите (Китай) от буркана с бисквитки? Не, не виждам как можете", каза Уилям Ханас, водещ анализатор в Центъра за сигурност и нововъзникващи технологии (CSET) към университета Джорджтаун, пред "Ройтерс". Документ от 2023 г. на CSET откри 370 китайски институции, чиито изследователи са публикували статии, свързани с универсалния изкуствен интелект - помагайки за насочване на националната стратегия на Китай да поведе света в ИИ до 2030 г.
"Има твърде много сътрудничество между най-добрите учени в Китай и САЩ, за да бъдат изключени от разработките", добави Ханас.
