"Kole Poluchi li?" е нотификацията, която е записана в историята както на една от водещите български банки, така и на цялата родна IT сфера. Скоро обаче този тип ситуации даже при мегакомпаниите ще са не само заради човешка небрежност, но и заради издънки на AI агентните системи.
Страхотно доказателство за това е Amazon. За решенията с катастрофални последици те си нямат Kole, но пък си имат Kiro.
Financial Times пише, че през декември инженери от AWS са допуснали разработения от програмата AI асистент за програмиране да се разпореди с производствена система. Вместо да приложи планираната поправка, ботът е преценил, че най-елегантното решение е да изтрие средата и да я пресъздаде от нулата.
Резултатът: 13 часа прекъсване на клиентски услуги и доста неудобни въпроси за компанията. Засегнатата система — AWS Cost Explorer, помага на клиентите да анализират разходите си за облачни услуги. Правилно се ориентирате: точно инструментът, с който те следят колко им струва AWS, спря да работи заради AWS.
Инцидентът не е бил изолиран. Малко след това е последвал и втори случай с Amazon Q Developer — друг AI инструмент за програмиране, макар той да не е засегнал директно клиенти. "Вече видяхме поне два производствени срива. Инженерите оставиха AI агента да реши проблема без намеса. Сривовете бяха малки, но напълно предвидими", е казал пред Financial Times старши служител на AWS.
Amazon, разбира се, не е съгласна с тази интерпретация. Говорител на компанията заяви, че инцидентът е резултат от "потребителска грешка — конкретно неправилно конфигурирани права за достъп, а не от AI". Kiro по подразбиране "изисква одобрение преди всяко действие", добавя компанията, и грешката би могла да бъде допусната и от човек.
Проблемът с това обяснение е, че самите факти го подкопават. Инженерът е имал "по-широки права от очакваното", а промяната е влязла в сила без задължителния преглед от втори човек — стандартна практика при сериозни промени в инфраструктурата.
С други думи, AI ботът е получил привилегии на ниво оператор и е действал без надзор. След инцидента AWS е въвела задължителни проверки от втори служител при достъп до производствена среда. Факт, който трудно се вписва в наратива за "обикновена потребителска грешка".
Всичко това се случва на фона на вътрешно напрежение в Amazon около принудителното използване на Kiro вместо инструменти на трети страни. Около 1500 инженери са подкрепили публикация във вътрешните канали, в която настояват за достъп до Claude Code на Anthropic, защото според тях е по-ефективен.
Amazon пък отчита, че 70% от инженерите са използвали Kiro поне веднъж през януари — данните за това колко от тях са го направили доброволно, не са публични.
AWS генерира около 60% от оперативните печалби на Amazon. Бизнеси за милиарди зависят от тези облачни услуги. Може би не е зле да не се използват за опитно поле.
USD
CHF
EUR
GBP
