Enerad
Porównaj oferty
Reklama
Polenergia Banner Obniżyć rachunki V2

Ile prądu zużywa ChatGPT? Nowe narzędzie pokazuje to w czasie rzeczywistym

Nowy dodatek do Chat UI umożliwia śledzenie zużycia energii przez modele językowe w czasie rzeczywistym. Narzędzie, opracowane przez zespół Delavande, pokazuje szacunkowy pobór energii dla każdej wiadomości i przelicza go na znane użytkownikom aktywności, takie jak ładowanie telefonu czy korzystanie z mikrofali.

Centrum danych AI

AI a zużycie energii – problem rosnącej skali

Modele sztucznej inteligencji, takie jak ChatGPT, zużywają energię za każdym razem, gdy są używane. Wykorzystywane w tym celu układy GPU i specjalistyczne chipy wymagają dużych zasobów mocy do przetwarzania zapytań na dużą skalę. Choć dokładne określenie zużycia energii przez modele nie jest łatwe, przewiduje się, że rosnące wykorzystanie AI w najbliższych latach istotnie zwiększy zapotrzebowanie na energię elektryczną.

Rosnące zapotrzebowanie na centra danych związane z pracą AI, skłania niektóre firmy do stosowania nieekologicznych rozwiązań. Zespół Delavande stworzył narzędzie, które ma zwrócić uwagę użytkowników na ten aspekt i pomóc im podejmować bardziej świadome decyzje.

Chat UI z pomiarem zużycia energii – jak to działa?

Rozszerzenie zaprojektowano z myślą o Chat UI – otwartym interfejsie użytkownika obsługującym modele takie jak Llama 3.3 70B od Meta czy Gemma 3 od Google. Narzędzie oblicza zużycie energii w czasie rzeczywistym dla każdej wiadomości przesyłanej do modelu i otrzymywanej odpowiedzi. Wyniki prezentowane są w watogodzinach (Wh) lub dżulach (J), a dodatkowo przeliczane na znane użytkownikom czynności domowe, np. użycie mikrofali czy LED-ów.

Dla przykładu, wygenerowanie typowego maila przez model Llama 3.3 70B zużywa około 0,1841 Wh. Jest to równowartość działania mikrofali przez 0,12 sekundy lub tostera przez 0,02 sekundy.

Proste polecenia to niższy ślad energetyczny

Zużycie energii przez modele AI zależy w dużej mierze od złożoności zapytania. Proste komendy, takie jak wygenerowanie krótkiego maila, wymagają stosunkowo niewielkiej mocy obliczeniowej. Jednak bardziej skomplikowane zadania — np. długie analizy danych, złożone obliczenia matematyczne czy generowanie kodu — pochłaniają znacznie więcej energii. Różnica w zużyciu może być wielokrotna.

Szacunki, nie pomiary – ale istotne

Twórcy narzędzia zaznaczają, że prezentowane dane mają charakter szacunkowy i nie stanowią dokładnego pomiaru rzeczywistego zużycia energii. Jednak nawet przybliżone informacje mają znaczenie – przypominają użytkownikom, że każde zapytanie, nawet pozornie błahe, ma swój ślad energetyczny.

„Nawet niewielkie oszczędności energii mogą mieć duży wpływ przy milionach zapytań — wybór modelu lub długości odpowiedzi może prowadzić do istotnego wpływu na środowisko” – napisali twórcy narzędzia.

Przyszłość z energetycznymi etykietami?

Delavande i jego współpracownicy mają nadzieję, że narzędzia takie jak ich będą początkiem szerszego trendu. Dzięki inicjatywom takim jak AI Energy Score oraz badaniom nad śladem węglowym AI, otwarta społeczność programistów zyskuje nowe narzędzia do promowania przejrzystości. W przyszłości, zużycie energii przez modele AI może stać się tak oczywiste i powszechnie dostępne, jak informacje o wartościach odżywczych na produktach spożywczych.

Zobacz również:

Źródło: Delavande – https://huggingface.co/spaces/jdelavande/chat-ui-energy

Komentarze

Subskrybuj
Powiadom o
guest
0 komentarzy
najnowszy
najstarszy oceniany
Komentarze w tekście
Zobacz wszystkie komentarze

Lena Ostapkowicz

Pasjonuje mnie rynek energii i transformacja energetyczna. Specjalizuję się w zagadnieniach związanych ze zmianami na rynku energii elektrycznej oraz OZE. W enerad.pl tworzę treści, które pomagają czytelnikom lepiej zrozumieć dynamicznie zmieniający się sektor energetyczny i elektryczny. Mam kilkuletnie doświadczenie w tworzeniu i redakcji treści, zdobyte m.in. w branży energetycznej i finansowej. Znajdziesz mnie na enerad.pl i na LinkedIn.

Może Cię również zainteresować

Strefy Rozwoju Zrównoważonego Przemysłu (SRZP) – rząd szykuje nowe przywileje dla przemysłu energochłonnego

Strefy Rozwoju Zrównoważonego Przemysłu (SRZP) – rząd szykuje nowe przywileje dla przemysłu energochłonnego

Nowelizacja Prawa energetycznego ma otworzyć drogę do tworzenia specjalnych stref z preferencyjnymi warunkami energetycznymi dla przemysłu energochłonnego. W piątek, 16 maja 2025 r., opublikowano projekt ustawy w wykazie prac legislacyjnych rządu.

16.05.2025
Rynek energii i biznes Wiadomości z rynku
Rewolucja w kształceniu zawodowym. W Siedlcach rusza centrum elektroenergetyki

Rewolucja w kształceniu zawodowym. W Siedlcach rusza centrum elektroenergetyki

W Siedlcach otwarto jedno z pierwszych w Polsce Branżowych Centrów Umiejętności branży elektroenergetycznej. Inwestycja powstała w ramach Krajowego Planu Odbudowy. Centrum umożliwi zdobycie nowoczesnych kwalifikacji zawodowych. Udział w uroczystości wzięła wiceminister edukacji Katarzyna Lubnauer.

16.05.2025
Dla instalatorów Wiadomości z rynku
Elektromobilność przyspiesza: w Polsce już ponad 90 tys. aut całkowicie elektrycznych

Elektromobilność przyspiesza: w Polsce już ponad 90 tys. aut całkowicie elektrycznych

Rośnie liczba samochodów elektrycznych w Polsce. Tylko w pierwszych czterech miesiącach 2025 roku przybyło ich o ponad 10,5 tysiąca – to wzrost aż o 36% rok do roku. Na koniec kwietnia flota aut całkowicie elektrycznych (BEV) przekroczyła 90 tysięcy pojazdów – wynika z danych PZPM i PSNM.

16.05.2025
Elektromobilność Wiadomości z rynku
Energa inwestuje w 112 MW zielonej mocy na Dolnym Śląsku. Powstaje PV Serby

Energa inwestuje w 112 MW zielonej mocy na Dolnym Śląsku. Powstaje PV Serby

Energa Green Development przejęła projekt budowy jednej z największych farm fotowoltaicznych w regionie – PV Serby o mocy 112 MW. To kolejny krok spółki w kierunku realizacji celów dekarbonizacyjnych Grupy ORLEN oraz dynamicznego rozwoju lądowych OZE.

16.05.2025
Fotowoltaika Wiadomości z rynku
Photon Energy i Hyperion Renewables realizują farmę PV o mocy 38 MW w Rumunii

Photon Energy i Hyperion Renewables realizują farmę PV o mocy 38 MW w Rumunii

Photon Energy Group i portugalska firma Hyperion Renewables ogłosiły podpisanie kontraktu EPC (Engineering, Procurement and Construction) na realizację farmy fotowoltaicznej o mocy 34 MW w miejscowości Săliște w Rumunii. Trwają także prace nad zwiększeniem jej mocy do 38 MW. To pierwszy projekt z rumuńskiego portfolio Hyperion, który wejdzie w fazę budowy.

16.05.2025
Fotowoltaika Wiadomości z rynku
PGE szacuje wyniki za I kwartał 2025. Zysk netto wyraźnie powyżej oczekiwań

PGE szacuje wyniki za I kwartał 2025. Zysk netto wyraźnie powyżej oczekiwań

PGE zaskakuje pozytywnie inwestorów – wstępne wyniki za pierwszy kwartał 2025 roku pokazują wyraźnie lepszą kondycję finansową spółki, niż zakładał rynkowy konsensus. Grupa osiągnęła 4,33 mld zł EBITDA oraz 2,42 mld zł zysku netto.

16.05.2025
Rynek energii i biznes Wiadomości z rynku
Zobacz pozostałe artykuły