Ile prądu zużywa ChatGPT? Nowe narzędzie pokazuje to w czasie rzeczywistym

AI a zużycie energii – problem rosnącej skali

Modele sztucznej inteligencji, takie jak ChatGPT, zużywają energię za każdym razem, gdy są używane. Wykorzystywane w tym celu układy GPU i specjalistyczne chipy wymagają dużych zasobów mocy do przetwarzania zapytań na dużą skalę. Choć dokładne określenie zużycia energii przez modele nie jest łatwe, przewiduje się, iż rosnące wykorzystanie AI w najbliższych latach istotnie zwiększy zapotrzebowanie na energię elektryczną.

Rosnące zapotrzebowanie na centra danych związane z pracą AI, skłania niektóre firmy do stosowania nieekologicznych rozwiązań. Zespół Delavande stworzył narzędzie, które ma zwrócić uwagę użytkowników na ten aspekt i pomóc im podejmować bardziej świadome decyzje.

Ever wondered how much energy is used every time you send a message to ChatGPT?

We just built a version of Chat UI that shows how much energy your message consumes — in real time. Should all chatbots display this?

Details below pic.twitter.com/tBL0Pw51PW

Chat UI z pomiarem zużycia energii – jak to działa?

Rozszerzenie zaprojektowano z myślą o Chat UI – otwartym interfejsie użytkownika obsługującym modele takie jak Llama 3.3 70B od Meta czy Gemma 3 od Google. Narzędzie oblicza zużycie energii w czasie rzeczywistym dla każdej wiadomości przesyłanej do modelu i otrzymywanej odpowiedzi. Wyniki prezentowane są w watogodzinach (Wh) lub dżulach (J), a dodatkowo przeliczane na znane użytkownikom czynności domowe, np. użycie mikrofali czy LED-ów.

Dla przykładu, wygenerowanie typowego maila przez model Llama 3.3 70B zużywa około 0,1841 Wh. Jest to równowartość działania mikrofali przez 0,12 sekundy lub tostera przez 0,02 sekundy.

Proste polecenia to niższy ślad energetyczny

Zużycie energii przez modele AI zależy w dużej mierze od złożoności zapytania. Proste komendy, takie jak wygenerowanie krótkiego maila, wymagają stosunkowo niewielkiej mocy obliczeniowej. Jednak bardziej skomplikowane zadania — np. długie analizy danych, złożone obliczenia matematyczne czy generowanie kodu — pochłaniają znacznie więcej energii. Różnica w zużyciu może być wielokrotna.

Szacunki, nie pomiary – ale istotne

Twórcy narzędzia zaznaczają, iż prezentowane dane mają charakter szacunkowy i nie stanowią dokładnego pomiaru rzeczywistego zużycia energii. Jednak choćby przybliżone informacje mają znaczenie – przypominają użytkownikom, iż każde zapytanie, choćby pozornie błahe, ma swój ślad energetyczny.

Przyszłość z energetycznymi etykietami?

Delavande i jego współpracownicy mają nadzieję, iż narzędzia takie jak ich będą początkiem szerszego trendu. Dzięki inicjatywom takim jak AI Energy Score oraz badaniom nad śladem węglowym AI, otwarta społeczność programistów zyskuje nowe narzędzia do promowania przejrzystości. W przyszłości, zużycie energii przez modele AI może stać się tak oczywiste i powszechnie dostępne, jak informacje o wartościach odżywczych na produktach spożywczych.

Zobacz również:

Źródło: Delavande – https://huggingface.co/spaces/jdelavande/chat-ui-energy