Изкуственият интелект се развива толкова бързо, че обществото може да загуби контрол върху него - за това предупредиха от водещата AI компания Anthropic в свой анализ. В него се призовава за международна координация, която да позволи евентуално спиране на разработките.
От компанията, оценена на близо 1 трилион долара след последния си инвестиционен рунд, заявяват, че биха подкрепили такова спиране само ако другите водещи лаборатории се присъединят при проверими условия.
"Ако беше възможно ефективно да забавим развитието на тази технология, за да си дадем повече време да се справим с огромните й последици, смятаме, че вероятно би било добро нещо", пишат в доклада съавторите от Anthropic Institute.
Скок на способностите
Компанията подкрепя предупрежденията си с вътрешни данни. Повече от 80% от кода, създаден от Anthropic, вече е написан от нейния AI асистент Claude - при едноцифрени проценти преди февруари 2025 г. Инженерите така пишат осем пъти повече код на тримесечие в сравнение с периода 2021-2025 г.
Успеваемостта на Claude при най-сложните инженерни задачи - тези без ясна спецификация, е скочила с 50 процентни пункта за шест месеца и е достигнала 76% през май 2026 г.
При вътрешно проучване сред 130 изследователи от март 2026 г. средният респондент е преценил, че произвежда около четири пъти повече работа с AI помощ, отколкото без нея.
Какво е "рекурсивното самоусъвършенстване"
Ключовият риск, описан в доклада, е т.нар. рекурсивно самоусъвършенстване - сценарий, при който AI системите стават способни сами да проектират и изграждат своите наследници, без или почти без човешка намеса.
"Пълното рекурсивно самоусъвършенстване може да увеличи рисковете от загуба на човешки контрол върху AI системите", предупреждава компанията.
Anthropic очертава три възможни бъдещи сценария - от спиране на прогреса при сегашните нива до пълно рекурсивно самоусъвършенстване, при което темпото на развитие се определя единствено от наличието на изчислителна мощ.
Какво искат от Anthropic
Смислено спиране би изисквало "множество добре финансирани лаборатории на или близо до технологичната граница, в различни държави, да се съгласят да спрат при едни и същи условия" - и да могат взаимно да проверяват спазването.
Едностранно спиране от страна на единствена компания би имало ограничен ефект и би прехвърлило лидерството към по-малко предпазливи играчи, подчертават от Anthropic.
Изследователското звено на компанията - Anthropic Institute, ще изучава и помага за изграждането на системи, необходими за подобна координация. През следващите месеци Anthropic планира да събере на разговор политици, изследователи, представители на гражданското общество и други AI компании.
Надяваме се това да се случи преди ранните часове на 29 август...
USD
CHF
GBP
