Използването на ChatGPT за писане на мотивационни писма, генериране на планове за уроци и преработване на вашия профил за запознанства може да струва на OpenAI до $700 000 на ден. Причината: скъпата технологична инфраструктура, върху която AI работи, пише Business Insider, цитирайки Дилън Пател - главен анализатор в изследователската фирма за полупроводници SemiAnalysis.
Експертът е заявил това в интервю за технологичното издание The Information.
ChatGPT изисква огромни количества изчислителна мощност, за да изчисли отговорите въз основа на потребителски подкани.
"По-голямата част от тези разходи се основават на скъпите сървъри, от които се нуждаят", казва Пател пред техническото издание.
В телефонен разговор с Business Insider Пател допълва, че на този етап вероятно е още по-скъпо, тъй като първоначалната оценка на новата технология се основава на модела GPT-3 на OpenAI.
GPT-4 - най-новият модел на компанията, ще бъде дори по-скъп за работа.
Въпреки че обучението на големите езикови модели на ChatGPT вероятно струва десетки милиони долари, оперативни разходи "далеч надвишават тези за обучение при внедряване на модел във всеки разумен мащаб", твърдят Пател и Афзал Ахмад - друг анализатор в SemiAnalysis, пред Forbes.
"Всъщност разходите за извеждане на ChatGPT надвишават разходите за обучение на седмична база", категорични са те.
Компаниите, използващи езиковите модели на OpenAI, плащат високи цени от години
Ник Уолтън, главен изпълнителен директор на Latitude - стартираща компания зад AI dungeon игра, която използва подкани за генериране на сюжетни линии, каза, че изпълнението на модела, заедно с плащанията към сървърите на Amazon Web Services, струва на компанията $200 000 на месец за AI. Това е така, заради нуждата да отговаря на милиони потребителски запитвания през 2021 година, съобщи CNBC.
Източник: iStock
"Шегувахме се, че имаме човешки служители и имаме служители - изкуствен интелект и сме похарчили приблизително по $100 000 за всеки от тях", казва Уолтън пред CNBC.
"Ние харчим стотици хиляди долари на месец за AI, а не сме голям стартъп, така че това беше наистина много огромен разход."
Microsoft работи върху таен чип?
В опит да намали разходите за изпълнение на генеративни AI модели, Microsoft разработва AI чип, който нарича Athena, съобщава The Information. Проектът, който започна през 2019 година, идва години след като Microsoft сключи сделка за $1 милиард с OpenAI, която изискваше компанията да изпълнява своите модели предимно на облачните сървъри Azure на Microsoft.
"Изпълнителните директори на Microsoft разбраха, че изостават от Google и Amazon в усилията им да създадат свои собствени чипове", твърди анонимен източник пред The Information.
В същото време се съобщава, че Microsoft търси по-евтини алтернативи - нейните AI модели работят върху чипове на Nvidia, известни като графични процесори. Компанията иска да изгради чип, който ще бъде по-евтин.
Близо четири години по-късно над 300 служители на Microsoft вече работят върху чипа, споредизточницците. Чипът може да бъде пуснат за вътрешна употреба от Microsoft и OpenAI още догодина.
USD
CHF
EUR
GBP
