Компаниите за изкуствен интелект забавят развитието си заради безопасността - световните лидери не са доволни

Главният изпълнителен директор на Anthropic Дарио Амодей изненада AI индустрията с дълъг анализ, в който призова за забавяне на развитието на най-напредналите AI модели. Причината са нарастващите опасения, че темпото на технологичния прогрес може да изпревари способността на компаниите и регулаторите да контролират рисковете.

Сам по себе си призивът би имал огромно въздействие върху политиката, икономиката и развитието на сектора. Подкрепата от страна на шефа на OpenAI Сам Алтман обаче засили ефекта и предизвика незабавна реакция от Вашингтон до Пекин.

Дебатът започна, когато Джейкъб Кокспн обяви оставката си и заяви, че нито Anthropic, нито OpenAI действат отговорно при разработването на мощни AI системи. "Хората, изграждащи AI, искрено вярват, че тя може да ни убие всички до края на десетилетието. Това не е маркетингов трик", написа той, цитиран от Yahoo Finance.

Сериозен риск вижда в така нареченото рекурсивно самоусъвършенстване - възможността AI система сама да разработва по-добри модели. Според него е необходимо темпото на подобряване на моделите да бъде съобразено с това колко бързо могат да се разработват механизмите за тяхната безопасност.

Източник: ChatGPT

Предложение на Амодей предвижда компании от сектора да допуснат независими експерти, които да оценяват не само готовите AI модели, но и процесите по тяхното обучение.

Те ще могат да проверяват мерките за безопасност, да докладват за инциденти и да оценяват дали системите се разработват в съответствие с поетите ангажименти. Anthropic вече заявява готовност да въведе подобен механизъм.

Вашингтон разгръща плана си срещу китайския изкуствен интелект

Евентуална забрана ще подари глобалния пазар на американските лаборатории

Подкрепа от сектора

Ръководителят на екипа по безопасност на изкуствения интелект в Anthropic Еван Хубингър публично се съгласи, добавяйки, че вижда вероятност над 10% технологията да "убие всички хора".

Главният изпълнителен директор на OpenAI Сам Алтман също подкрепи публично позицията на Амодей. Той заяви, че е съгласен с необходимостта от забавяне на развитието на най-напредналите системи и посочи, че въпросът е сред основните теми в дискусиите в OpenAI през последните седмици.

Източник: GettyImages

"Съгласен съм с Дарио, че трябва да пасираме границата. Ангажирането с независими оценители с достъп като на служители е страхотна идея и ние ще направим същото", обяви той в X.

Предложенията идват на фона на тревожни разкрития от лятото, според които Anthropic, OpenAI и Meta са докладвали, че моделите им са се опитали или успешно са хакнали системи на външни организации.

След сушата и енергийната криза: Идва ли ерата на зеления изкуствен интелект?

Безос: Проблемът трябва да се решава чрез по-ефективна инфраструктура и нови енергийни и охлаждащи технологии

Тръмп и Пекин не са доволни

На този фон президентът на САЩ Доналд Тръмп зае различна позиция. Той призна, че са възможни определени предпазни механизми, но отхвърли част от предупрежденията като преувеличени. Според Тръмп САЩ трябва да запазят лидерството си в областта.

"Ние сме водещи в Китай в областта на изкуствения интелект. Ние сме най-сложната страна в света и честно казано, искам да запазим това, защото който печели с изкуствен интелект, печели", заяви той пред Reuters.

Източник: iStock

Разбира се, зад спора за безопасността стои значителен икономически и политически залог. През последните години огромни средства се насочват към AI модели, чипове, центрове за данни и друга инфраструктура. По-мощните модели трябва да доведат до нови продукти, услуги и приходи. Ако обаче водещите компании забавят развитието си, това може да промени очакванията за растеж в целия сектор.

На този фон Oracle обяви, че съоснователят Лари Елисън е отменил планираната продажба на акции на стойност 7,5 милиарда долара, без обяснение за решението си, съобщава TechCrunch. Това може и да е резултат от спада на акциите на компанията с 22% от началото на годината, докато тя инвестира масирано в центрове за данни.

От другата страна на океана китайският държавен таблоид Global Times нарече есето на Амодей прикрита "студенова война" срещу Китай и опит да се ограничи китайското развитие на изкуствен интелект чрез технологични бариери и регулаторни монополи.

Изключването на Китай от глобалното AI управление би "значително увеличило разходите за грешки и рисковете от загуба на контрол", предупреди изданието, цитирано от Reuters. Амодей призна пред CBS News, че "най-трудната дилема" е дали Китай и другите противникови нации ще изберат да последват примера на американските гиганти.

Очаква се темата да бъде част от обсъжданите на 24 септември, когато е планирана среща между президентите Тръмп и Си Дзинпин.

Южна Корея пуска безплатен изкуствен интелект за всички свои граждани

Тестовете започват през септември, а пълният достъп ще бъде отворен до края на годината