Microsoft и Westinghouse Nuclear проучват как изкуственият интелект може да ускори одобрението и изграждането на нови ядрени мощности в САЩ. Но нов анализ на AI Now Institute, цитиран от 404 Media, предупреждава, че подобен подход може да доведе до сериозни рискове за безопасността.

Лицензирането на ядрени съоръжения е сред най-строго регулираните процеси в индустрията, именно за да се минимизира рискът от радиационни инциденти. Въпреки че процедурата е дълга и скъпа, 404 Media отбелязва, че тя е ключов фактор за това САЩ да имат изключително нисък брой аварии в ядрената енергетика.

Растящото потребление на енергия, подхранвано от AI сектора, кара технологични гиганти като Microsoft да търсят начини за ускоряване на процесите. Компанията reportedly планира да обучи голям езиков модел върху съществуващи лицензионни документи и данни за строителни площадки, за да автоматизира създаването на необходимата документация.

Idaho National Laboratory - държавна лаборатория към Министерството на енергетиката - вече използва AI решения на Microsoft, за да "оптимизира" подаването на документи към регулатора. Според институцията системата може да подпомогне създаването на инженерни и безопасностни анализи за строителни разрешителни и оперативни лицензи.

Експерти предупреждават за сериозни пробойни в безопасността

Анализът на AI Now Institute поставя под въпрос идеята ключови елементи от ядрения лицензонен процес да се делегират на LLM модели. Изследователите напомнят, че лицензиране на ядрено съоръжение не е просто генериране на документи, а сложен, многоетапен процес, чиято цел е да идентифицира и предотврати рискове още преди началото на строителството.

Хейди Хлааф, главен AI учен в института, отбелязва, че подобен подход може опасно да опрости процес, който съществува именно за да предотврати катастрофални грешки. Нейната съавторка Мая Гуера подчертава, че безопасността в ядрената енергетика е резултат от години прегледи, ревизии и анализи на минали проблеми - стъпки, които AI системите могат да заобиколят или съкратят.

Паралели с юридическата сфера

Подобни експерименти с AI в други високорискови области вече създадоха проблеми. Американските съдилища на няколко пъти се сблъскаха с правни документи, генерирани от AI, съдържащи несъществуващи прецеденти, грешни факти или измислено съдържание. Изследователите предупреждават, че подобни "халюцинации" биха могли да се прехвърлят и в техническа документация за ядрени съоръжения - със значително по-висока цена на грешката.

Отвъд техническите рискове, докладът повдига и въпроси за сигурността. Обучението на AI модели върху подробни ядрени данни може да увеличи риска от разпространение на чувствителна информация. Според AI Now, Microsoft е поискала достъп до исторически и проектно-специфични набори от данни - нещо, което изследователите тълкуват като опит за акумулиране на критична техническа информация от страна на комерсиални AI доставчици.

Тъй като ядрените технологии са двойно предназначение - приложими както за енергетика, така и за оръжейни разработки - предоставянето на такива материали на големи езикови модели може неволно да улесни злонамерени актьори.