Брюксел обмисля тристепенен подход към регулирането на генеративните модели и системи с изкуствен интелект. Това става ясно от проектопредложение, цитирано от Bloomberg. В него пише, че трите стъпки ще установят правила за различните модели на основата.
Това са системите с изкуствен интелект, които могат да бъдат адаптирани към различни задачи. ЕС ще изисква допълнителни външни тестове за най-мощните технологии.
Европейският съюз вероятно ще е първата западна власт, която ще въведе задължителни правила за изкуствения интелект
Въпросното законодателство се казва "AI Act" и според него системите, които предсказват престъпления или сортират кандидатури за работа, ще трябва да преминат през оценка на риска, наред с много други изисквания. Най-общо категориите са три.
Първата категория включва всички "Foundation models" - модел за машинно самообучение, трениращ с огромен брой данни. Второто ниво на "много способни" системи ще се отличава по количеството изчислителна мощност, използвана за обучение на техните големи езикови модели.
Трета категория, известна като мащабни системи за изкуствен интелект с общо предназначение, ще включва най-популярните инструменти за изкуствен интелект и ще се измерва по общия брой потребители.
Какво включват трите стъпки?
1. Всички основополагащи модели
Разработчиците на изкуствен интелект ще подлежат на изисквания за прозрачност, преди да пуснат какъвто и да е модел на пазара. Те ще трябва да документират модела и процеса на неговото обучение, включително резултатите от вътрешните усилия на "червения екип", когато независими експерти се опитват да подтикнат моделите към лошо поведение. Освен това ще се извършва оценка въз основа на стандартизирани протоколи.
Компаниите ще трябва да включат достатъчно подробно резюме на съдържанието, което са използвали за разработване на моделите си, и как управляват въпросите, свързани с авторските права, включително като гарантират, че притежателите на права могат да се откажат от използването на тяхното съдържание за обучение на модели.
2. "Foundation models" с много големи възможности
Компаниите, които произвеждат такъв калибър технологии, ще се придържат към по-строги правила. Преди да бъдат пуснати на пазара, тези модели ще трябва да преминават през редовен "червен отбор" от външни експерти, които ще бъдат проверявани от новосъздадената Служба за изкуствен интелект на ЕС. Резултатите от тези тестове ще се изпращат на тази агенция.
Комапниите ще трябва да въведат и системи за откриване на системни рискове. След като тези модели бъдат пуснати на пазара, ЕС ще задължи независими одитори и изследователи да извършват проверки за съответствие, включително да проверяват дали компаниите спазват правилата за прозрачност.
3. Системи за изкуствен интелект с общо предназначение
Тези системи ще трябва да бъдат подложени на тест на "червен отбор" от външни експерти, за да се идентифицират уязвимостите, а резултатите ще бъдат изпратени на Службата за изкуствен интелект на Комисията. Дружествата ще трябва да въведат и система за оценка и намаляване на риска.
ЕС ще счита, че всяка система, която има 10 000 регистрирани бизнес потребители или 45 милиона регистрирани крайни потребители, е мащабна GPAI - Global Partnership on Artificial Intelligence.
Компаниите могат да обжалват статута си на мащабна система с изкуствен интелект с общо предназначение и по същия начин ЕС може да накара други системи или модели да се придържат към тези допълнителни правила, дори ако не отговарят на праговете, но могат да породят рискове.
Независимо дали ще бъдат приети точно тези, регулации къми зкуствения интелект в Европа със сигурност ще има. И те няма да са малки. Към днешна дата обаче ЕС все още е изправен пред редица ключови въпроси, свързани с подхода към технологията, включително как точно да регулира генеративния изкуствен интелект и например дали да забрани напълно сканирането на лица на живо в тълпи.
USD
CHF
EUR
GBP
