"AI Кръстникът“ Йошуа Бенджио: "Създаваме чудовища, по-мощни от нас“

Независимо дали мислите, че изкуственият интелект ще спаси света или ще постави неговия край - няма съмнение, че сме в момент на голям ентусиазъм. Изкуственият интелек (AI), както знаем, може би не би съществувал без Йошуа Бенджио. Наричан "кръстникът на изкуствения интелект", 60-годишният Бенджио е канадски компютърен учен, който е посветил изследванията си на невронни мрежи и алгоритми за задълбочено обучение. Неговата пионерска работа проправи пътя за моделите на AI, които използваме днес, като ChatGPT на OpenAI и Клод от Anthropic.

"Интелигентността дава сила и всеки, който контролира тази власт - независимо дали е на човешко ниво или по-високо - ще бъде много, много могъщ", каза Бенджио в интервю за Yahoo Finance. "Технологията като цяло се използва от хора, които искат повече власт: икономическа доминация, военна доминация, политическа доминация. Така че, преди да създадем технология, която може да концентрира властта по опасни начини, трябва да бъдем много внимателни."

През 2018 г. Бенджио и двама негови колеги - бившият вицепрезидент на Google (GOOG) Джефри Хинтън (носител на Нобелова награда за физика за 2024 г.) и главният учен по изкуствен интелект на Meta (META) Ян ЛеКун - спечелиха наградата Turing, известна още като Нобелова награда за компютри. През 2022 г. Бенджио беше най-цитираният компютърен учен в света. А списание Time го обяви за един от 100-те най-влиятелни хора в света.

Въпреки че помогна за изобретяването на технологията, Бенджио сега се превърна в глас на предпазливост в света на изкуствения интелект. Тази предпазливост идва, тъй като инвеститорите продължават да показват голям ентусиазъм за пространството и наддават за дялове от AI залози до нови рекорди тази година.

(Дали) AI ще има ключова роля при следваща световна пандемия

Според специалисти изкуственият интелект дават възможност за прогнозиране и овладяване на подобни събития

Акциите на Nvidia (NVDA) любимец на AI чипове са се повишили със 172% само от началото на годината до момента, например, в сравнение с ръста от 21% за широкия щатски индекс S&P 500 (^GSPC).

Сега компанията се оценява на удивителните 3,25 трилиона долара, изоставайки леко от Apple (AAPL) за титлата на най-ценната компания в света. Вижте още от мнението на Бенджио, дадена в интервю за финансовото издание Yahoo! Finance:

Защо трябва да се тревожим за изкуствения интелект на ниво човек?

" Ако това попадне в неподходящи ръце, каквото и да означава това, това може да бъде много опасно. Тези инструменти биха могли да помогнат на терористите много скоро и могат да помогнат на държавни диктатори, които искат да унищожат нашите демокрации. И тогава има проблемът, който много учени изтъкват, който е начинът, по който ги обучаваме сега - не виждаме ясно как бихме могли да избегнем тези системи да станат автономни и да имат свои собствени цели за опазване, и бихме могли да изгубим контрол над тези системи. Така че ние сме на път може би да създадем чудовища, които могат да бъдат по-мощни от нас."

Източник: iStock

OpenAI, Meta, Google, Amazon - кой голям AI играч се справя правилно?

"Морално бих казал, че компанията, която се държи най-добре, е Anthropic [чиито големи инвеститори включват Amazon (AMZN) и Google (GOOG)]. Но мисля, че всички те имат пристрастия поради икономическата структура, в която оцеляването им зависи от това да бъдат сред водещите компании и в идеалния случай да бъдат първите, достигнали до AGI [изкуствен общ интелект]. А това означава надпревара - надпревара във въоръжаването между корпорации, където обществената безопасност вероятно ще бъде губещата цел.

Как AI застрашава енергийното равновесие в световен мащаб?

Ботовете се нуждаят от все повече ток - а инфраструктурата не е готова да им го даде

Anthropic дава много признаци, че се грижат много за избягването на катастрофални резултати. Те бяха първите, които предложиха политика за безопасност, при която има ангажимент, че ако AI в крайна сметка има способности, които могат да бъдат опасни, тогава те ще спрат това усилие. Те също така са единствените, заедно с Илон Мъск, които подкрепят [законопроекта за регулиране на изкуствения интелект в Калифорния] SB 1047. С други думи, казвайки: "Да, с някои подобрения, ние сме съгласни да имаме повече прозрачност на процедурите и резултатите за безопасност и отговорност, ако причиним голяма вреда."

Мисли за огромното нарастване на акциите на AI, като Nvidia?

"Това, което мисля, че е много сигурно, е дългосрочната траектория. Така че, ако сте в него в дългосрочен план, това е доста сигурен залог. Освен ако не успеем да защитим обществеността, ... [тогава] реакцията може да бъде такава, че всичко да се срине, нали? Или защото има реакция от страна на обществата срещу AI като цяло, или защото се случват наистина катастрофални неща и нашата икономическа структура се разпада.

Така или иначе би било лошо за инвеститорите. Така че мисля, че инвеститорите, ако бяха умни, щяха да разберат, че трябва да действаме предпазливо и да избягваме грешките и катастрофите, които могат да навредят на нашето колективно бъдеще."

Източник: iStock

И други виждат опасност в AI

Основателят на Bridgewater Associates Рей Далио е сред онези, които едновременно виждат голямо обещание и потенциално бедствие във възхода на изкуствения интелект.

В интервю за CNBC титанът на хедж фондовете и милиардерът инвеститор каза, че текущата итерация на генеративния AI "е невероятна технология, която ще създаде огромни сили". Но рискът е свързан с начина, по който хората използват тази технология.

"Ние сме в тази среда, в която може или да произведе огромно количество производителност и да повиши жизнения ни стандарт и наистина да направи нещата много по-добри, или може да се използва... по различни начини, за да се нараним един друг", каза Далио.

Проблемът е, че технологията няма да бъде регулирана или контролирана, което ще допринесе за по-безпорядъчна среда, каза той.

Стартирането на инструмента ChatGPT на OpenAI повиши обществената осведоменост за силата на AI. Нещо като инвестиционна лудост в AI обхвана фондовия пазар последните две години, като залозите свързани с тази технология донесоха огромни печалби за инвеститорите.

Междувременно предупрежденията относно технологията също се разпространиха. И те твърдят, че залозите са доста високи.

"Намаляването на риска от изчезване от ИИ трябва да бъде глобален приоритет наред с други рискове от обществен мащаб като пандемии и ядрена война", предупреди Центърът за безопасност на AI още през лятото на миналата година. Подписалите изявлението включваха Джефри Хинтън, почетен професор от университета в Торонто, който предупреди срещу злоупотреба с AI, заедно с главния изпълнителен директор на OpenAI Сам Алтман и главния изпълнителен директор на Google DeepMind Демис Хасабис.

Изненадваща прогноза: ето колко процента от работните места може да заеме AI до 10 години

Според американски технологичен експерт "манията по изкуствения интелект е прекалена"

Главният изпълнителен директор на Tesla Илон Мъск и съоснователя на Apple Стив Возняк подписаха петиция от Future of Life Institute по-рано миналата година, призоваваща за шестмесечна пауза в разработването на AI.

На изслушване в Сената по-рано през май Алтман от ChatGPT призна чистата сила на AI да стимулира неблагоприятни резултати, но каза, че също така вижда начини правителствата и технолозите да работят заедно.

*Материалът е с аналитичен характер и не е съвет за покупка или продажба на активи на финансовите пазари.