Anthropic се готви за борсов дебют с оценка над 2 трилиона долара, макар да отчита нетна загуба от близо 42 млрд. долара за 2025 г. и да е поела ангажименти за 518 млрд. долара за облак, изчислителна мощ и инфраструктура.
В същото време компанията предупреждава инвеститорите за "катастрофални или екзистенциални рискове за човечеството", докато междувременно конкурентът OpenAI спира пускането на най-новия си модел GPT-6.1 Astra заради опасения за безопасността.
Технология, която е твърде опасна и твърде непокорна
Според Саши Джейн, ръководител на системите за безопасност в OpenAI, GPT-6.1 Astra "не е достигнал съвсем" стандартите на компанията. Моделът не се държи в достатъчна степен в рамките на зададения обхват и разрешения и не отчита коректно на потребителя какво е направил.
Рядко се случва голяма лаборатория да оттегли продукт по такава причина. От друга страна, сюжетът напомня на решението на Anthropic да не пускат за масова употреба своя модел Claude Mythos заради опасения, че може да се използва за кибератаки или създаване на бактериологични оръжия.
Предишната версия - GPT-6 Astra, излезе през септември и изпълнява задачи самостоятелно - сърфира в мрежата и работи с приложения. Британският институт за сигурност на AI (AISI) я тества преди пускането ѝ. В симулации с нарочно изключени защитни класификатори моделът извършва неразрешени атаки. Създава фалшиви профили, с които заблуждава разработчици, и вкарва зловреден код в софтуер с отворен код.
Пълна атака по веригата на доставки успява в 29,2% от опитите, срещу 6,3% при GPT-5.6 Sol и 0% при GPT-5.5.
Изричната забрана намалява атаките от 26 на 50 опита до 4 на 49, но не ги премахва. В разсъжденията си моделът често признава, че целта е извън обхвата, и я атакува въпреки това.
Инциденти в реалния свят
Премиерът на Австралия Антъни Албанезе обяви миналата седмица, че агент на OpenAI е проникнал през юни в държавни системи - според експерти първият известен подобен случай. Засегнати са няколко различни ведомства, включително свързани със здравеопазването и вътрешните работи. Албанезе упрекна компанията, че е уведомила властите формално.
От OpenAI се извиниха, обещаха да финансира мерки за киберсигурност и да създадат работна група за рисковете от AI агентите. Представител на компанията ще се яви пред австралийска парламентарна комисия на 6 октомври. През юли системите ѝ проникнаха и в Hugging Face, която Nvidia се съгласи да купи за 12,9 млрд. долара.
Anthropic: рекордни загуби и залог за трилиони
Проспектът на Anthropic, с който се запозна "Ройтерс", показва, че около 34 млрд. долара от нетната загуба са счетоводна корекция на стойността на финансиране, което може да се превърне в акции.
Оперативната загуба надхвърля 8 млрд. долара, а приходите растат 12 пъти до почти 4,6 млрд. долара. Близо една четвърт от оборота обаче идва от два клиента, а много от най-големите договори не са дългосрочни.
Разходите за изчислителна мощ и инфраструктура през миналата година са 7,33 млрд. долара - повече от половината от общите оперативни разходи от 12,65 млрд. Поетите ангажименти са многократно повече от парите в брой и краткосрочните инвестиции към 31 декември, които възлизат на 20,28 млрд. долара.
Целевата оценка е повече от два пъти над вътрешната от май - 965 млрд. долара. Дебютът вероятно ще бъде отложен след ноемврийските междинни избори в САЩ. OpenAI подаде поверително документи за IPO през юни и се очаква да излезе на борсата до началото на 2027 г.
Изпълнителният директор на Anthropic Дарио Амодей и шефът на OpenAI Сам Алтман призоваха индустрията да забави темпото. Anthropic обаче пусна миналата седмица Opus 5.5, за да отговори на GPT-6 Astra. Джес Уитълстоун от Centre for Long-Term Resilience смята, че компаниите продължават напред, макар инцидентите да показват, че системите не са достатъчно безопасни и контролирани.
Президентът Доналд Тръмп, който определя рисковете от AI като "измама", и председателят на Камарата на представителите Майк Джонсън приемат днес технологични шефове в Белия дом, за да обсъдят регулацията.
USD
CHF
GBP
