Руският технологичен гигант Yandex пусна нов инструмент с отворен код, който помага на AI компаниите да спестят пари и ресурси, когато обучават нови модели.

Това заяви самата компания. В съобщението си Yandex казва, че новият инструмен, наречен YaFSDP може да осигури по-бързо и по-ефективно обучение по голям езиков модел (LLM) и може да помогне за спестяване на до 20% от процеси като GPU. 

Yandex публикува ресурси за изпробване на YaFSDP в GitHub, за да може всеки да гледа и експериментира.

Руският гигант казва в публикацията си, че новият инструмент с отворен код е „най-ефективният публично достъпен инструмент за подобряване на GPU комуникацията и намаляване на използването на паметта в LLM обучението“ и може да предложи до 26% по-високи скорости отколкото FSDP, версията преди YaFSDP.

Руският гигант Yandex International продава бизнеса си в родината в сделка за над $5 милиарда

Най-голямата руска интернет компания продава бизнеса си в родината в сделка за над $5 милиарда

Основателят на технологичния гигант Аркадий Волож бе включен в санкционния списък на Европейския съюз

Компанията изчислява, че използването на YaFSDP за обучение на модел със 70 милиарда параметъра може да спести ресурсите на приблизително 150 графични процесора, което означава около $0,5 до $1,5 милиона (в зависимост от доставчика или платформата на виртуалния графичен процесор) месечни спестявания, ако всичко върви добре. 

YaFSDP не е първият от AI инструменти на руския гигант. Преди това той пусна CatBoost, YTsaurus, AQLM и Petals, всички от тях за различна ниша в развитието на AI.

Редица големи технологични компании също се облягат на изкуствения интелект основополагащ за продуктитв си, като наскоро Apple пусна своите Apple Intelligence услуги като част от предстоящата актуализациян а iOS 18.