Авторът на първия Международен доклад за безопасността на изкуствения интелект предупреждава, че неконтролираните инвестиции в изчислителна мощност за AI без сериозен надзор е опасна. Надпреварата в надмощието на изкуствения интелект, предизвикана от скорошната паника около китайския чатбот DeepSeek, рискува да засили екзистенциалните опасности от суперинтелекта, според един от "кръстниците" на AI, предава Sky News.
Канадският пионер в машинното обучение Йошуа Бенгио, който е автор на първия Международен доклад за безопасността на изкуствения интелект, който ще бъде представен на международна среща на върха за AI в Париж следващата седмица, предупреждава, че липсата на адекватен контрол може да бъде пагубна за хората.
"Усилията са насочени към това кой ще спечели състезанието, а не към това как да сме сигурни, че няма да изградим нещо, което може да ни взриви", казва Бенгио.
Източник: GettyImages
Той предупреждава, че военните и икономически надпревари "водят до намаляване на етиката, намаляване на отговорността и безопасността. Експертът работи върху невронни мрежи и машинно обучение, софтуерната архитектура, която е в основата на съвременните модели на AI. Той е в Лондон, заедно с други специалисти в областта на технологията, за да получи наградата на кралица Елизабет за инженерство, която е най-престижната световна награда в тази област.
Инженерът е ентусиазиран относно ползите на AI за обществото, но отклоняването от регулациите от страна на новия американски президент Доналд Тръмп и огромната конкуренция между големите технологични компании за по-мощни модели е признак за тревожна промяна.
"Свръхчовешките системи стават все по-мощни. Машините стават и изключително по-ценни от икономическа гледна точка. И идеята, че всичко това ще донесе много пари на някои, мотивира много хора. И разбира се, когато искате да продавате нови скъпи продукти, не искате да говорите за рисковете."
Организации като новия Институт за безопасност на изкуствения интелект в Обединеното кралство са предназначени да предвидят и предотвратят потенциалните вреди, които AI може да причини. ЕС също наложи регулации. САЩ и Китай обаче не са.
USD
CHF
EUR
GBP
