Преди четирите дни в изгнание на главния изпълнителен директор на OpenAI Сам Олтман няколко изследователи са написали писмо до борда на директорите, предупреждавайки за сериозно откритие на изкуствения интелект, което според тях може да застраши човечеството, казаха двама души, запознати с въпроса, пред "Ройтерс".

Писмото, за което не се съобщаваше по-рано, и алгоритъмът за изкуствен интелект бяха ключово развитие преди отстраняването от борда на Олтман, превърнал се в емблема на генеративния изкуствен интелект, казаха двама източници. Преди триумфалното му завръщане късно във вторник над 700 служители бяха заплашили да напуснат и да се присъединят към поддържащата OpenAI "Майкрософт" (Microsoft) в знак на солидарност с уволнения лидер.

Източниците цитираха писмото като един от факторите сред по-дългия списък с оплаквания от борда, довели до уволнението на Олтман, сред които бяха опасения от комерсиализиране на напредък, преди да се разберат последствията. "Ройтерс" не успя да прегледа копие от писмото. Служителите, които са написали писмото, не са отговорили на исканията за коментар.

След като се свърза с "Ройтерс", OpenAI, която отказа коментар, признала във вътрешно съобщение до служителите за проект, наречен Q*, и писмо до борда преди събитията през уикенда, каза един от хората. Говорител на OpenAI каза, че съобщението, изпратено от дългогодишния изпълнителен директор Мира Мурати, предупреждава персонала за определени медийни истории, без да коментира точността им.

Някои от OpenAI смятат, че Q* (произнася се Q-Star) може да бъде пробив в търсенето в стартъпа на т.нар. универсален изкуствен интелект (AGI), каза един от хората пред "Ройтерс". OpenAI определя AGI като автономни системи, които превъзхождат хората в повечето икономически ценни задачи.

Като се имат предвид огромните изчислителни ресурси, новият модел успя да реши определени математически проблеми, каза човекът при условие за анонимност, тъй като не е упълномощен да говори от името на компанията. Въпреки че се справят с математиката само на ниво ученици в начален клас, успехът в такива тестове направи изследователите много оптимистични за бъдещия успех на Q*, каза източникът. "Ройтерс" не можа независимо да провери възможностите на Q*, заявени от изследователите.

Изследователите смятат, че математиката е преломна граница в развитието на генеративния изкуствен интелект. Понастоящем генеративният изкуствен интелект е добър в писането и езиковия превод чрез статистически прогнозиране на следващата дума и отговорите на един и същ въпрос могат да варират значително. Но овладяването на способността за математика - където има само един правилен отговор - предполага, че изкуственият ще има по-големи способности за разсъждение, наподобяващи човешкия интелект. Това може да се приложи например към нови научни изследвания, смятат изследователите на изкуствен интелект.

За разлика от калкулатора, който може да извършва ограничен брой операции, универсалният изкуствен интелект може да обобщава, учи и разбира. В писмото си до борда изследователите отбелязаха мощта и потенциалната опасност на изкуствения интелект, казаха източниците, без да уточняват конкретните опасения за безопасността, отбелязани в писмото. Сред компютърните учени отдавна текат обсъждания за опасността, която крият високоинтелигентните машини, например ако решат, че унищожаването на човечеството е в техен интерес.

Изследователите също така са отбелязали работата на екип за "учен с изкуствен интелект", чието съществуване е потвърдено от множество източници. Групата, сформирана чрез комбиниране на предишните екипи Code Gen и Math Gen, проучваше как да оптимизира съществуващите модели за изкуствен интелект, за да подобри разсъжденията им и в крайна сметка да извърши научна работа, каза един от хората.

Олтман ръководи усилията да превърне ChatGPT в едно от най-бързо развиващите се софтуерни приложения в историята и привлече инвестиции - и компютърни ресурси - от "Майкрософт", необходими, за да се доближи до AGI.

В допълнение към обявяването на набор от нови инструменти в демонстрация този месец Олтман миналата седмица загатна на среща на върха на световните лидери в Сан Франциско, че смята, че се очертава голям напредък.

Ден по-късно бордът уволни Олтман.