По време на вътрешни тестове на нови модели за изкуствен интелект на OpenAI автономен агент е излязъл от контрол, достигнал е отворения интернет и е хакнал конкурентната компания Hugging Face.
Според официалното изявление на технологичния гигант тестваните версии са новият GPT 5.6 Sol и неиздаден "още по-способен" модел. Сам Алтман определи това като "безпрецедентен киберинцидент", при който агентът е положил "изключителни усилия", за да извлече информация, която би помогнала за постигане на целите на тестването.
Като безпрецедентен определи случая и Клемент Деланге - съосновател на платформата за хостване на мащабни езикови модели и набори от данни с отворен код Hugging Face. Той заяви, че не смята, че OpenAI е имала злонамерени намерения, като дори изрази възхищението си от работата ѝ: "Доста изумително е, че всичко това се е случило автономно!"
Макар пострадалата компания да не изглежда притеснена, част от управляващите изразиха опасенията си относно посоката на развитие на технологията и призоваха за задължително независимо тестване на безопасността, разкриване на инциденти със сигурността и международно сътрудничество.
"Изкуственият интелект се развива изключително бързо, без реални регулации, които да ни пазят в безопасност", коментира пред Al Jazeera Грег Касар - член на Демократическата партия.
Ситуацията възникна повече от месец след като Доналд Тръмп подписа изпълнителна заповед за създаването на механизъм за проверка на рисковете за националната сигурност на най-модерните системи с изкуствен интелект преди публичното им пускане.
Според Мат Суиче - инженер в платформа за сигурност Tolmo, управляване от AI агенти, нарушенията, описани в публикацията в блога на OpenAI,вече могат да бъдат постигнати с технологии, достъпни дори извън лабораториите за гранични изследвания, което прави наличието на регулации, защити и сценарии за противодействие още по-необходимо.
USD
CHF
GBP
