Създателите на ChatGPT и други топ учени: AI е опасен колкото пандемия или ядрена война

22 думи или 1 ред текст - около тази изключително кратка позиция се обединиха някои от водещите имена в сферата на изкуствения интелект: учени, инженери, директори на повечето водещи компании. Те са категорични, че AI може да се превърна в екзистенциална заплаха за човечеството.

В прав текст: "Намаляването на риска от изчезването на човечеството заради AI трябва да бъде глобален приоритет наравно с другите рискове от обществен мащаб като пандемиите и ядрената война", се заявява в позицията.

Заплаха за националната сигурност? САЩ искат да регулират изкуствения интелект

Бързата инвазия на технологиите притесни администрацията на Джо Байдън

Контекст: Големите езикови модели за броени месеци направиха гигантски крачки в своето развитие. От нелогично нахвърляни думи и неугледни композиции с неясни форми той вече стигна до способностите да води разговор по на практика всякакви теми на прилично ниво, да генерира фотореалистични изображения и, което е най-притеснителното, да изпълнява автономно своите задачи (т.нар AI агент).

Какво представлява Законът на ЕС за изкуствения интелект и от какво ще ни пази

Опасни ли са новите технологии?

Потенциалът за създаване на подвеждащо съдържание е огромен, а бясната надпревара между компании като Google и Microsoft за първото място в принципно новата сфера води до създаването на все по-добри и по-добри ботове и модели. Киното и литературата са ни дали множество примери за това какво може да се случи, ако в един момент имаме много мощен AI, който няма механизми за контрол.

Детайли: Сред подписалите писмото са изпълнителните директори на OpenAI и Google DeepMind Сам Алтман и Демис Хасабис, както и знакови лица от екипите им. Подкрепа позицията получава и от Джефри Хинтън и Юшуа Бенджио - двама от тримата AI изследователи, които получиха награда "Тюринг" през 2018 г. Третият - Ян ЛеКун, днес е ръководител на AI звеното в Meta и поне до момента не е подписал.

Сред по-интересните имена в списъка е това на бившата жена на Илон Мъск - певицата Grimes, която е много активна по темата AI.

Изкуственият интелект става все по-обсъждана тема

Ръководители и анализатори споменават все по-често AI

От друга страна: Много от подписалите се лица от научните и корпоративните среди са същите, които по-рано през тази година с по-пространно писмо поискаха 6-месечно "замразяване" на работата по усъвършенствани AI модели - до създаването на международни регулации.

Миналата седмица Мъск искаше другите да спрат AI разработките, сега прави своя

Twitter тихомълком изгражда генеративна платформа с изкуствен интелект

Тази инициатива предизвика смесени реакции, като според някои тонът е бил твърде алармистки. Освен това, на челно място сред подкрепилите спирането на работата по AI беше Илон Мъск, който се оказа, че в същото време разработва своя AI платформа за социалната мрежа Twitter и така подписът му под петицията изглеждаше като опит да спечели време, за да догони конкуренцията.