Консумацията на електроенергия от системите с изкуствен интелект се е увеличила неимоверно. Нов доклад разкрива, че годишното количество електроенергия, необходимо за ChatGPT, един от най-големите т.нар. езикови модели, може да зареди 95% от електромобилите в САЩ или да захрани Финландия или Белгия за един цял ден.
От стартирането си преди почти две години ChatGPT на OpenAI бързо привлече вниманието на обществеността, като само за два месеца събра около 100 милиона месечни потребители. Въпреки това, макар че възможностите му – от писане на есета до решаване на сложни математически задачи и писане на код – са впечатляващи, те са свързани с големи разходи за енергия, пише BestBrokers в нов доклад.
Всяко запитване в ChatGPT изразходва около 2,9 Wh електроенергия, което е близо десет пъти повече от стандартното търсене в Google.
Подаването на заявка към модел с изкуствен интелект като ChatGPT е известно като извод. Консумацията на енергия зависи от много променливи, като например дължината на заявката, броя на потребителите и ефективността на работа на модела.
Всяка заявка в ChatGPT струва 0,04 цента
Екипът на фирмата изчисли приблизително общата годишна консумация на електроенергия само за генериране на отговори. ChatGPT консумира 226,8 GWh всяка година за обработката на 78 милиарда запитвания. Според презентацията това е достатъчно за пълното зареждане на около 3,13 млн. електромобила, всеки със среден капацитет на батерията от 72,4 kWh. Това би било 95% от електрическите автомобили по пътищата на САЩ в края на 2023 г.
С други думи, толкова електроенергия, за обработка на заявките, би могла да захрани и 21 602 жилища в страната за цяла година или 0,02% от общото количество. Разходите за годишното потребление възлизат на 29,7 млн. щатски долара или малко под 0,04 цента на запитване.
Всяко запитване в ChatGPT консумира около 2,9 Wh електроенергия, което е почти десет пъти повече от стандартното търсене в Google
Енергията, която ChatGPT изразходва за една година, за да отговаря на въпроси, би могла да зареди 47,9 милиона iPhone 15 всеки ден в продължение на цяла година, всеки с капацитет на батерията от 13 Wh.
Според изчисленията посоченият голям езиков модел използва 621,4 MWh електроенергия всеки ден, за да обработва над 200 милиона потребителски запитвания. В перспектива той консумира повече от 21 хил. пъти дневната енергия на едно средностатистическо домакинство в САЩ.
Годишната консумация на енергия на ChatGPT за обработване на запитвания може да захрани цяла Финландия или Белгия за един ден или да осигури работата на Ирландия за повече от два дни, казват авторите.
За обучението на GPT-3 са били необходими 62,3 GWh.
Обучението на големи езикови модели или LLM също е процес, който изисква много енергия. Моделът на изкуствения интелект се обучава чрез анализиране на големи количества данни и примери. Това може да отнеме от няколко минути до няколко месеца. По време на обучението CPU и GPU, електронните чипове, предназначени за обработка на големи набори от данни, работят без прекъсване, като консумират значителни количества енергия.
Например обучението на GPT-3 на OpenAI с неговите 175 милиарда параметъра е отнело около 34 дни и изразходило приблизително 1,3 GWh електроенергия.
Но тъй като моделите се развиват и стават все по-сложни, тяхното потребление на енергия също се увеличава. Обучението на модела GPT-4 с над трилион параметри отнема около 62,3 GWh електроенергия за 100 дни.
