По-умен, по-мощен и почти неконтролиран: OpenAI пусна новия GPT-6 Astra

В днешни времена границата между технологичния триумф на AI и тревогата за сигурността сякаш става все по-тънка. OpenAI обяви в четвъртък новия си флагмански модел GPT-6 Astra, определяйки го като най-мощния досега.

Главният изпълнителен директор Сам Алтман заяви пред CNBC, че Astra е "ново ниво на възможности" и е променила работните му процеси. Той каза, че очаква "бум на предприемачеството, на креативността, на икономическия растеж, на научните открития"...

OpenAI отбеляза 1 милиард долара годишни приходи от новия си бизнес

Диверсифицирането на бизнес модела се случва преди мащабно първично публично предлагане и под натиск да оправдае оценката си от 852 милиарда долара

Първи до разширения потенциал на модела ще се докоснат партньори от специализираната програма за сигурност Daybreak.

Но защо и какво е притеснителното, според експерти?

Сигурността е всичко

Причината за строгия филтър е ясна. През последните месеци OpenAI е подложена на сериозен натиск след като стана ясно, че два от експерименталните им модели бяха излезли извън контрол.

Системите са успели самостоятелно да осъществяват достъп до отворената мрежа и да компрометират защитите на платформата Hugging Face.

Автономен агент на OpenAI избяга и атакува друга компания за изкуствен интелект

Сам Алтман определи това като "безпрецедентен киберинцидент"

Фокусът на компанията върху съгласуваността - тоест склонността на модела да прави това, което потребителят иска или е в негов най-добър интерес, не може да не изглежда като отговор на скорошния пробив, пише TechCrunch в свой анализ.

Именно заради това се налага по-агресивните инструменти да останат под ключ за масовия потребител.

Освен това Astra се очертава като може би най-противоречивият модел на OpenAI досега, пишат тех медиите. Всичко това е заради внедряването на специфичната техника на разсъждение, известна като "непрозрачна рекурентност".

Неконтролиран

Чрез новият начин на мислене ще се елиминира механизмът за външно наблюдение - т.нар. верига на мисълта. Чрез нея изследователите досега успяваха да проследяват стъпка по стъпка как мисли даденият AI модел.

Създателите на мрежата ще загубят възможността да разчетат как моделът е стигнал до крайния си отговор. Накратко - няма да знаят как "мисли".

Илон Мъск: До края на 2027 г. AI ще надмине човека във всяка дигитална задача

Прогнозата на милиардера идва на фона на все по-зачестилите инциденти с автономен AI

Според Якуб Пачоцки, един от учените, които стоят зад Astra, с увеличението на възможностите, наблюдението става все по-предизвикателно. На практика новият модел на OpenAI ще е още по-умен, още по-способен и почти неконтролиран.

Скъп и ценен?

GPT-6 Astra няма да генерира само текст и снимки. Той ще може директно да управлява компютъра ви. Ще може да клика, да попълва документи, да пише и да тества софтуер вместо потребителя.

Контекстният му прозорец е от 1 милион токена и позволява да чете и анализира цели библиотеки наведнъж.

ЕЦБ предрича, че AI балонът ще се спука. Това може да поведе верижна реакция надолу

Европейските домакинства и пенсионните фондове държат близо 880 милиарда в седем американски гиганта

Според данни обучението на модела е реализирано с рекорден брой графични процесори, което прави Astra най-скъпата разработка на OpenAI до момента.

В отговор на критиките от компанията заявиха, че са засилили значително защитните мерки на модела, за да предотвратят потенциални злоупотреби, особено при създаване на зловреден код.