През последните месеци водещи технологични компании, разработващи изкуствен интелект, сигнализираха за няколко единични хакерски атаки, осъществени от най-новите им модели. Засегнати бяха конкурентни фирми, а последният инцидент беше насочен срещу австралийското Министерство на здравеопазването.
Всичко това повдигна множество въпроси за сигурността, етиката, технологиите и политиката, а акциите на някои от компаниите паднаха, след като директорите им обявиха забавяне на новите проекти.
Докато политиците изготвят законова рамка за сектора, секторът не седи на страна.
Един от най-големите производители на чипове, от ключова важност за бъдещето на изкуствения интелект, представи нова платформа за сигурност, предназначена да предотврати злонамерени действия на "нелоялни" агенти.
Според Nvidia Open Agent Safety Platform разполага и със защитен слой Sentry, който чрез специално вградени чипове следи постоянно действията на AI агентите. Ако системата установи, че някой от тях се отклонява от поставената му задача, тя може незабавно да се намеси, посочва компанията.
Според изявлението OpenShell би могла да предотврати бъдещи инциденти, подобни на тези с агентите на OpenAI, които получиха достъп до отворения интернет и автономно хакнаха компанията за изкуствен интелект Hugging Face, предава Associated Press.
Платформата е с отворен код, който може да бъде "разширен", за да работи на конкурентни компютърни системи. Nvidia заяви, че при пускането ѝ на пазара над 100 организации вече използват OpenShell, включително Microsoft, Perplexity, Accenture и JPMorgan Chase.
USD
CHF
GBP
