Функционалностите с изкуствен интелект не се задвижват от магия. Те са резултат от изпълнението на вече обучени модели (т.нар inference), а за него трябва инфраструктура, която е мощна, надеждна, но и достъпна.
Без нея декларираните ползи от изкуствения интелект си остават само добро пожелание в практиката и скъп провал във финансовите отчети на компаниите. Това е може би най-важното нещо, което глобалният бизнес осъзна в хода на своята AI трансформация.
В тази сфера скорост набира американска компания с български основател, която предлага на бизнеса мрежа от "AI фабрики". DeepInfra спечели доверието на имена като Nvidia и Samsung в инвестиционен рунд за над 100 милиона долара, а фирмата вече има и български офис с големи амбиции за развитието си у нас.
Съществуващата инфраструктура не е готова
Стартът на DeepInfra е още през 2022 г. - време, в което малцина извън IT средите виждаха трансформативния потенциал на генеративния изкуствен интелект.
Съосновател и изпълнителен директор на компанията е Никола Борисов - бивш член на националния отбор на България по информатика и златен медалист на национално и балканско равнище. Базиран днес в Пало Алто, той вижда предизвикателствата при управлението на интензивни изчислителни натоварвания в периода си като инженерен директор на чат платформата imo, която има над 200 милиона потребители.
"С развитието на AI стана ясно, че съществуващата облачна инфраструктура не е оптимизирана за високопроизводителен и ценово ефективен inference, което доведе и до създаването на DeepInfra. И от самото начало знаехме, че обучението на модели е само междинна стъпка към много по-голям пазар - този на разпределения AI inference", обяснява пред Money.bg Борисов.
Днес DeepInfra обработва в своите "AI фабрики" близо 5 трилиона токена седмично на своята GPU инфраструктура, като поддържа както затворени, така и над 190 open source модела, които позволяват на компаниите да интегрират AI в голям мащаб.
Борисов е категоричен - няма да вървим към пазар, в който шепа много големи компании притежават целия изчислителен капацитет: "Нашият залог, както и развитието на cloud пазара досега, е че ще вървим към по-гъвкав и децентрализиран модел с много участници".
Технологията се развива
Много се пише и говори за обучението и настройването на AI модели - безспорно важна, вълнуваща и изключително скъпа част от целия сюжет, но именно inference носи добавената стойност за клиентите и не е случайно, че вече даже виждаме специализирани чипове, оптимизирани за него. Колкото по-широко е внедряването на новите технологии, толкова по-голямо е и търсенето на услуги като тези, които DeepInfra предлага.
"Ръстът се движи от преминаването към agentic и always-on AI системи, които значително увеличават потреблението на токени и изискват непрекъснат inference с голям обем", посочва изпълнителният директор.
Тук не бива да пропускаме и OpenClaw ефектът - агентните платформи имат огромен потенциал в ролята на "виртуални служители", но изискват и изключително голям изчислителен ресурс, който при премиум моделите може да бъде изключително скъп.
За сметка на това алтернативите с отворен код прогресират бързо и според Борисов вече сме много близо до момента, в който те ще могат да поемат по-голямата част от задачите на бизнеса. Затова и компаниите ги интегрират не само по икономически съображения, но и с цел по-висока гъвкавост и избягване на зависимости от конкретни доставчици.
Голям рунд и планове за родината
Неотдавна DeepInfra набра 107 милиона долара в рамките на Series B рунд на финансиране с участието на Nvidia , Samsung и други имена от света на технологичните инвестиции, включително българския фонд Bright Cap. Привлечените инвеститорски средства до момента са над 130 милиона долара.
Капиталът ще се използва за разширяване на глобалния изчислителен капацитет на компанията, надграждане на GPU инфраструктурата и оптимизиране на платформата, но и бизнес разширение в ЕС, Близкия изток и Азиатско-тихоокеанския регион.
DeepInfra вече е в България с малък екип от опитни инженери, който през следващите 12 месеца ще се увеличи повече от тройно. "Планираме тук да имаме R&D за нашата платформа, като тепърва ще изграждаме и екипи за продажби и поддръжка на европейския пазар", обяснява изпълнителният директор.
Компанията анализира възможността именно у нас да бъде изградена една от бъдещите ѝ AI фабрики, като по думите на Никола Борисов "България може да бъде много ключов пазар в Европейския съюз".
В сферата на AI компания на 4 години е почти със статут на "ветеран", но по всичко изглежда, че DeepInfra са се позиционирали в посока, която тепърва има потенциал за още растеж. Както глобално, така и у нас.

USD
CHF
GBP