Изкуственият интелект (ИИ) не е изобретил измамата. Хората винаги са лъгали, представяли са се за други и са експлоатирали доверието за пари. Това, което ИИ променя сякаш неудържимо е скоростта, цената, реализма и мащаба, в които сега може да се създава измама, показва нов анализ, цитиран от RTE.
Днес измамникът може да събере фрагменти от живота на човек от социални медии, уебсайтове на компании и нарушения на данните, профили в LinkedIn, публични публикации или стари снимки. Генеративният ИИ може след това да превърне тези фрагменти в убедителен имейл, фалшив профил, клониран глас, синтетична снимка, реалистично видео или чатбот, който може да поддържа разговора.
Измамникът вече не е необходимо да бъде едновременно умел писател, актьор, дизайнер, психолог и хакер, тъй като ИИ може да помогне с всяка от тези роли.
Как изглежда това на практика? Представете си за момент, че получавате телефонно обаждане от дъщеря си. Тя плаче. Звучи ужасено. Непознат вдига телефона и казва, че е била отвлечена. Имате минути, за да преведете пари. По подобен начин си представете, че се присъединявате към видео разговор на работа. Лицата на авторитетите изглеждат познати. Гласовете звучат правилно, говорят за скорошни събития или проекти с увереност.
След това идва заявка, която е спешна, но правдоподобна: одобрявайте плащане, споделяйте документ, действайте бързо. Ето защо ерата на измамите, задвижвани от изкуствен интелект, трябва да ни тревожи. И в двата случая технологията не е нужно да бъде безупречна. Тя просто трябва да бъде достатъчно убедителна за достатъчно дълго време.
Полезен начин да разберем новия пейзаж на измамите е да помислим за пет неща, които се произвеждат: фалшиви хора, фалшиви гласове, фалшив авторитет, фалшиви съобщения и фалшиви взаимоотношения. Фалшивите хора се създават чрез синтетична измама със самоличност.
Това може да включва генерирани от изкуствен интелект лица, манипулирани документи, правдоподобни биографии, фалшиви истории в социалните медии и професионално изглеждащи профили. Фалшив акаунт в LinkedIn вече може да има изпипана снимка, плавна история на публикуване, правдоподобен трудов стаж и мрежа от връзки.
Това вече има организационни последици. Американските власти предупредиха, че севернокорейски ИТ работници са използвали откраднати и фалшиви самоличности, за да получат дистанционна работа в западни компании.
Министерството на правосъдието на САЩ заяви, че подобни схеми включват севернокорейски граждани, които измамно получават работа в американски компании като дистанционни ИТ работници, използващи откраднати и фалшиви самоличности.
В някои случаи тези работници са генерирали приходи за севернокорейския режим, докато са получавали достъп до фирмени системи. Фалшивите гласове са още по-интимни. Клонирането на глас използва генерирано от изкуствен интелект аудио, за да имитира гласа на истински човек. Най-тревожните примери са измамите за бедствие, при които жертвата получава обаждане от нещо, което звучи като дете, партньор или член на семейството в опасност.
Източник: iStock
Тези измами работят, защото са насочени към един от най-старите ни сигнали за доверие: познатия глас. Не сме обучени да чуем някой, когото обичаме, да плаче, и да питаме дали звукът е синтетичен. Реагираме емоционално, преди да анализираме рационално.
И изобщо не е нужно тези измами да заблуждават някого за седмица, може да е необходимо само да създадат паника за две минути. Европейската парламентарна изследователска служба предупреди, че клонирането на глас, задвижвано от изкуствен интелект, се е превърнало в една от най-убедителните и трудни за откриване форми на социално инженерство.
Фалшивата власт е насочена към доверието в организациите. Най-поразителният пример остава измамата с видеообаждане в Хонконг, включваща инженерната фирма Arup. През 2024 г. служител на Arup е бил подведен да преведе около 24 милиона евро, след като се е присъединил към нещо, което изглежда като видеообаждане с висши служители на компанията.
По-късно е потвърдено, че са използвани фалшиви гласове и изображения и че инцидентът е бил докладван на полицията. Това не е бил просто лошо формулиран имейл, преструващ се, че идва от шеф, а инсценирано изпълнение на корпоративна власт.
Служителят е бил поставен в симулирана организационна среда: лица, гласове, йерархия, спешност и инструкции. Измамата е работила, като е накарала измамното искане да се усеща социално и професионално легитимно. Фалшивите съобщения също стават все по-трудни за отхвърляне. Традиционните фишинг имейли често са били пълни с правописни грешки, странни фрази и неясни поздрави.
Тези грешки са давали на хората полезни предупредителни знаци. Изкуственият интелект премахва много от тях. Измамният имейл вече може да бъде плавен, учтив, контекстуално съобразен и професионално форматиран. Той може да се отнася до действителен проект, да копира тона на мениджър, да пристигне по време на натоварен работен период или да изглежда, че идва от някой с власт.
ФБР вече предупреди, че генераторите на чатове могат бързо да създават официално звучащи имейли, имитиращи изпълнителни директори или други служители на компанията, включително имейли, които съдържат фишинг връзки или инструкции за превод на средства. В него се посочва също, че фирмите са отчели загуби от над 30 милиона долара през 2025 г. заради измами с компрометиране на бизнес имейли, включващи изкуствен интелект.
Фишинг имейлът не е необходимо да побеждава защитна стена, ако може да побеждава уморен служител в 16:55 ч. в петък. И накрая, фалшивите връзки стават все по-лесни за мащабиране. Романтичните измами, инвестиционните измами и измамите, свързани с доверие, зависят от времето, емоционалния натиск и доверието.
Генеративният изкуствен интелект може да помогне за поддържане на разговори, да генерира обичливи отговори, да превежда на различни езици, да се адаптира към отговорите на жертвата и да създава подкрепящи материали като снимки, документи или препоръки.
Някога една романтична измама изискваше човешки престъпник да поддържа дълги разговори с всяка жертва. Изкуственият интелект може да помогне за генерирането на сценариите, емоционалните сигнали и ежедневните реакции. Фалшива инвестиционна възможност може да бъде промотирана от клонирана знаменитост, подкрепена от синтетични препоръки, обяснена от изпипан чатбот и подсилена от професионално изглеждащи документи.
Изкуственият интелект превръща измамата в производствена линия: личните данни са суровината, генеративният изкуствен интелект е машината, а човешкото доверие е целта. Резултатът са пари, пароли, документи за самоличност, достъп до системи и емоционален контрол. Доверието сега се нуждае от втора стъпка.
Семействата трябва да говорят открито за гласовите измами, преди да се случат, и да създават кодови думи за спешни повиквания. Служителите се нуждаят от разрешение да поставят на пауза подозрителни заявки, дори когато изглежда, че идват от висши служители.
Организациите трябва да изискват потвърждение по втори канал за чувствителни заявки. Ако заявката пристигне по имейл, проверете я по телефон или чрез вътрешна система. Ако пристигне по глас, потвърдете я чрез отделен канал. Ако е чрез видеообаждане и включва пари, достъп или поверителна информация, забавете процеса.
Училищата, университетите и работните места трябва да преподават проверката като ежедневен дигитален навик, а не като нишово умение за киберсигурност. Не става въпрос за паника, а за осъзнаване, че инфраструктурата на доверието в ежедневието се променя. Телефоните, имейлите, видеообажданията, приложенията за запознанства, платформите за работа и социалните медии са изградени около предположението, че хората са трудни за убедително имитиране. Изкуственият интелект отслабва това предположение.
Предизвикателството не е да спрем да се доверяваме на всички - това би направило обикновения живот невъзможен. Предизвикателството е да спрем да третираме познатите сигнали като доказателство. Гласът може да бъде копиран. Лицето може да бъде генерирано. Съобщението може да бъде усъвършенствано. Профилът може да бъде произведен.
Познатите сигнали, на които някога разчитахме, вече не са достатъчни сами по себе си. В ерата на мащабируемата измама най-безопасните хора няма да бъдат тези, които не се доверяват на никого. Те ще бъдат тези, които знаят кога да спрат.
USD
CHF
GBP
