22 думи или 1 ред текст - около тази изключително кратка позиция се обединиха някои от водещите имена в сферата на изкуствения интелект: учени, инженери, директори на повечето водещи компании. Те са категорични, че AI може да се превърна в екзистенциална заплаха за човечеството.

В прав текст: "Намаляването на риска от изчезването на човечеството заради AI трябва да бъде глобален приоритет наравно с другите рискове от обществен мащаб като пандемиите и ядрената война", се заявява в позицията.

Заплаха за националната сигурност? САЩ искат да регулират изкуствения интелект

Заплаха за националната сигурност? САЩ искат да регулират изкуствения интелект

Бързата инвазия на технологиите притесни администрацията на Джо Байдън

Контекст: Големите езикови модели за броени месеци направиха гигантски крачки в своето развитие. От нелогично нахвърляни думи и неугледни композиции с неясни форми той вече стигна до способностите да води разговор по на практика всякакви теми на прилично ниво, да генерира фотореалистични изображения и, което е най-притеснителното, да изпълнява автономно своите задачи (т.нар AI агент).

Какво представлява Законът на ЕС за изкуствения интелект и от какво ще ни пази

Какво представлява Законът на ЕС за изкуствения интелект и от какво ще ни пази

Опасни ли са новите технологии?

Потенциалът за създаване на подвеждащо съдържание е огромен, а бясната надпревара между компании като Google и Microsoft за първото място в принципно новата сфера води до създаването на все по-добри и по-добри ботове и модели. Киното и литературата са ни дали множество примери за това какво може да се случи, ако в един момент имаме много мощен AI, който няма механизми за контрол.

Детайли: Сред подписалите писмото са изпълнителните директори на OpenAI и Google DeepMind Сам Алтман и Демис Хасабис, както и знакови лица от екипите им. Подкрепа позицията получава и от Джефри Хинтън и Юшуа Бенджио - двама от тримата AI изследователи, които получиха награда "Тюринг" през 2018 г. Третият - Ян ЛеКун, днес е ръководител на AI звеното в Meta и поне до момента не е подписал.

Сред по-интересните имена в списъка е това на бившата жена на Илон Мъск - певицата Grimes, която е много активна по темата AI.

Изкуственият интелект става все по-обсъждана тема

Изкуственият интелект става все по-обсъждана тема

Ръководители и анализатори споменават все по-често AI

От друга страна: Много от подписалите се лица от научните и корпоративните среди са същите, които по-рано през тази година с по-пространно писмо поискаха 6-месечно "замразяване" на работата по усъвършенствани AI модели - до създаването на международни регулации.

Миналата седмица Мъск искаше другите да спрат AI разработките, сега прави своя

Миналата седмица Мъск искаше другите да спрат AI разработките, сега прави своя

Twitter тихомълком изгражда генеративна платформа с изкуствен интелект

Тази инициатива предизвика смесени реакции, като според някои тонът е бил твърде алармистки. Освен това, на челно място сред подкрепилите спирането на работата по AI беше Илон Мъск, който се оказа, че в същото време разработва своя AI платформа за социалната мрежа Twitter и така подписът му под петицията изглеждаше като опит да спечели време, за да догони конкуренцията.