Искате да публикувате рецепта за мусака, кратка статия за плюсовете от редовната смяна на моторното масло или LinkedIn статус на тема "Новите тенденции в междуличностните отношения и корпоративния етика", но не знаете нищо по съответната тема? От няколко седмици в това (сякаш) няма никакъв проблем - най-мощният безплатен публичен бот ChatGPT отговаря на най-различни питания на потребители от цял свят.

Лошото е, че далеч не го питат само за мусака, а твърде често отговорите му са плашещо изчерпателни. Изкуственият интелект, захранен с милиарди единици информация от най-различен характер, се оказва идеална платформа за киберзлосторници, които вече се сдобиват с най-различни видове зловреден код... като просто описват на ChatGPT каква програма искат да им напише той.

Най-мощният публичен чатбот: България има проблеми с корупцията, AI може да помогне

Най-мощният публичен чатбот: България има проблеми с корупцията, AI може да помогне

Поговорихме с ChatGPT за предизвикателствата пред технологиите и обществото в края на 2022 г.

Това не е хипотеза, а напълно реална ситуация с реални последици от реални атаки във виртуалното пространство.

AI, напиши ми един вирус

Нека проследим целия процес. Нищо не пречи на даден потребител да поиска от чат бота да напише легитимно звучащ имейл от името на, да кажем, Amazon. ChatGPT по заявка ще направи и кода на цял уебсайт, който изглежда като платформата за онлайн търговия с "дребната" разлика, че съдържа и зловреден код с такова действие, каквото потребителят е описал.

Първи "биха камбаната" експертите по киберсигурност от Check Point Research в края на миналата година, но дни по-късно в един от по-популярните хакерски форуми вече имаше дискусии за начините, по които AI може да ускори подготовката и реализацията на кибератаки - от социално инженерство (подмамване на потребителите - б.р.) през дизайн на сайтове до писане на програми с определени функционалности.

От OpenAI, разработчици на ChatGPT, формално въведоха някои ограничения при заданията, които може да изпълнява техният бот, но експеримент на Money.bg показа, че системата и сега за секунди сама пише програма, която записва и изпраща на отдалечен сървър въведеното от клавиатурата на компютъра, както и снимки на екрана. Единственото необходимо е в запитването към ChatGPT да уточним, че програмният код ще се използва само и единствено за изследователски цели. Честна дума.

Ще ни атакуват още по-неуки "хакери"

Един от големите рискове, които ChatGPT носи за сигурността, е че вече и хора с минимални технически познания могат да се опитат да нанесат вреди на онлайн потребителите и дигиталната инфраструктура, коментира пред Money.bg експертът по киберсигурност Любомир Тулев.

"Преди години се роди онази специална категория "хакери" - script kiddies, за която е характерно това, че те са обикновено прохождащите в кариерата си на хакери и макар неопитни, използваха скриптове и експлойти, написани от някой друг, без дори да знаят какво точно правят този низ от команди. (...) Гледат YouTube видеа, използват готов код от GitHub и се смятат за хакери. Но поне гледат видеа и знаят какъв код да търсят. Сега, с тази достъпност на ChatGPT до всеки, аз дори смятам, че ще се роди нова категория хакеро-претендиращи, още по-млади и неопитни от дори Script Kiddies, които не знаят какво да гледат, не знаят какъв код им трябва и как да го изпълнят, за да компрометират нечия система, а само ще дават указания на платформи като ChatGPT да намерят уязвимост в нечии уеб сайт например и да го хакнат", обяснява той.

Доклад: Щетите от кибератаки може да надхвърлят 30 милиарда долара до 2023 г.

Доклад: Щетите от кибератаки може да надхвърлят 30 милиарда долара до 2023 г.

Това смятат от Acronis

Това са хора, които не са мотивирани по никакъв начин от самото предизвикателство да проникнат в дадена система, а са водени единствено от желанието да я сринат.

AI като защитник

"След като хакерите използват платформи с изкуствен интелект, за да ни атакуват, съвсем логично е и ние да се доверяваме и да внедряваме в нашите инфраструктури инструменти за киберсигурност, които също имат функционалности на защита, базирани на изкуствения интелект", отбелязва Любомир Тулев.

Затова и в екипа му ChatGPT вече се използва активно при засичане и отговор на кибератаки: "Чат ботът ни помага да разработваме по-прецизни процедури по засичане и неутрализиране на зловреден код, корелация на различни атаки и опасности, случващи се по едно и също време, за идентифициране на рискове, при провеждането на кибер криминалистика (Cyber Forensics) и други".

Всичко за компютърния вирус WannaCry, който засегна стотици хиляди и достигна България

Всичко за компютърния вирус WannaCry, който засегна стотици хиляди и достигна България

Откъде дойде той, колко са заразени и как да се защитите

Даже OpenAI работи по инструмент, който да може да разпознава генерирано от AI съдържание, за да се улесни борбата с дезинформацията - сфера, която също е силно засегната от появата на платформа, която бързо, лесно и безплатно създава текстове и изображения, които изглеждат като човешко творение.

Това наистина е опасно

Даже и най-добрият AI обаче се нуждае от квалифицирана човешка помощ. Тук проблем е липсата на експерти в областта на киберсигурността, като дефицитът е в световен мащаб. Тулев го изчислява на до 3,5 млн. специалисти през 2023 г. По думите му това е и една от причините все повече компании да преминават към аутсорсване на дейностите, свързани с киберсигурността.

Малко утешение предизвиква фактът, че към днешна дата ChatGPT не е най-добрият програмист на света - кодът понякога има грешки, твърде често е тромав и даже във форума Stack Overflow е забранено той да бъде публикуван, за да не подвежда неопитните потребители. Самият факт, че готовата зловредна програма се пише сама за секунди компенсира всички други несъвършенства - а въобще и не коментираме напълно реалната възможност аналог на популярния чат бот да бъде "трениран" специално върху това да пише по-качествен код.

МВФ: Щетите на банките от кибератаки могат да стигнат $350 милиарда

МВФ: Щетите на банките от кибератаки могат да стигнат $350 милиарда

Това може да застраши финансовата сигурност, предупреждава фондът

Според Тулев ключово е потребителите, бизнесът и държавните структури да осъзнаят, че имат нужда от защита: "Учудващо за мен, все още има бизнеси и държавни структури, които не осъзнават важността от киберсигурност, които все още си мислят, че тях няма за какво да ги хакват и респективно потребители, които казват "Аз с моя профил/мейл на никой не съм интересен". Осъзнаването на необходимостта за киберсигурност е първата крачка към това да имаме защита от новите опасности, свързани с настъпващите платформи и продукти с вграден изкуствен интелект".