Изкуственият интелект на Мъск е изпращал поверителни данни в облачно хранилище - какъв е големият проблем?

Облачно време с валежи от поверителен код в xAI. Илон Мъск обеща мащабна чистка в компанията си за изкуствен интелект, след като нов вътрешен билд на чатбота Grok е изпратил чувствителни данни до външна инфраструктура.

Освен това Grok Build CLI е бил уловен да качва и поверителен код към Google Cloud, излагайки на риск и интелектуалната собственост на цялата компания.

Поредната ситуация околко Мъск носи криза на доверието, но и голям въпрос за бъдещето на данните и изкуствения интелект.

Повече за случая

Разкритието идва от изследовател по сигурността с псевдоним cereblab, който е уловил софтуера "на местопрестъплението" в понеделник.

Според неговите данни, версия 0.2.93 на инструмента за команден ред Grok Build съвсем тихо е копирала и изпращала цели локални Git хранилища към облачен контейнер, носещ името grok-code-session-traces и контролиран директно от xAI.

Икономисти и нобелови лауреати: Трябва да спрем безпределното развитие на AI

Идва ли нова Индустриална революция?

Трансферът е изсмуквал абсолютно всичко - от нерегистрирани в Git файлове и пълната история на промените, до чувствителни пароли и ключове за достъп, които изобщо не са били почистени.

В един от документираните случаи инструментът е източил над 5 гигабайта информация при положение, че се му били нужни едва около 190 килобайта, за да генерира искания отговор.

След намесата на Мъск

xAI бързо деактивира функцията за качване от страна на сървъра. Само ден по-късно изследователят потвърди, че нерегламентираното източване на код е спряло.

Самият Илон Мъск се намеси лично с обещанието, че всички източени до момента потребителски данни и архиви ще бъдат напълно и безвъзвратно изтрити от облачното съхранение на компанията.

Мъск: Не бях прав, това е лидерът в изкуствения интелект

При водещите модели ценовата война вече е факт

Милиардерът призна, че запазването на някои данни е полезно за отстраняване на грешки, но подчерта, че настройките за поверителност винаги ще бъдат спазвани

"Ние дълбоко се грижим за вашата поверителност и уважаваме избора на клиента", съобщават от SpaceXAI.

Един по-голям проблем

Моделите с изкуствен интелект са толкова добри, колкото са добри данните, с които се обучават. Сигурността и обучението на AI са в постоянно състояние на война.

Тук трябва да си зададем въпроса как точно AI асистентите за програмиране оперират в локалната среда на разработчиците. Под лупа са поставени не само Мъск и xAI, а всички техни конкуренти.

Преди време Money.bg писа, че все повече китайски AI модели се внедряват в американските компании. Cпopeд влacтитe мoдeлитe мoгaт дa бъдaт изпoлзвaни зa пpoпaгaндиpaнe нa ĸитaйcĸaтa идeoлoгия, нo и дa ce дoбepaт дo чyвcтвитeлни дaнни.

Троянски кон? Все повече китайски AI модели се внедряват в американските компании

Според САЩ моделите могат да бъдат използвани за пропагандиране на китайската идеология

Китай oбмиcля пълнa зaбpaнa зa дocтъп нa чyждecтpaнни ĸoмпaнии дo нaй-нaпpeднaлитe ĸитaйcĸи мoдeли зa изĸycтвeн интeлeĸт, cпopeд "Poйтepc".

Големите езикови модели (LLM) са проектирани да поглъщат информация. Проблемът е, че в момента, в който качите вашия софтуерен код в невронна мрежа, той престава да бъде изцяло ваш. Друг е въпросът каква информация събира...

Случаят доказва, че потребителите явно нямат реален контрол над данните си, дори когато софтуерът им дава бутон да изберат дали да ги "дадат". А кодът е затворен и никой не може да погледне зад кулисите.