Yapay zeka alanında sohbet botlarıyla başlayan hızlı yükseliş, teknoloji şirketlerinin odağını artık daha otonom çalışan AI ajanlarına çevirdi. Ancak yeni nesil yapay zeka sistemlerinin yaygınlaşması, beraberinde çok daha büyük bir enerji ihtiyacını da gündeme taşıyor.
Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) tarafından yürütülen araştırmaya göre yapay zeka ajanları, standart sohbet botlarına kıyasla sorgu başına 136,5 kata kadar daha fazla enerji tüketebiliyor.
AI AJANLARI NEDEN DAHA FAZLA ELEKTRİK TÜKETİYOR?
Sohbet botları genellikle tek bir istemi işleyerek yanıt üretirken, yapay zeka ajanları kendilerine verilen hedefe ulaşmak için çok sayıda ara adımı bağımsız şekilde planlıyor.
Bir AI ajanı, tatil planlama ya da bütçe düzenleme gibi karmaşık görevlerde yalnızca tek bir cevap üretmekle kalmıyor. İnternette arama yapıyor, farklı kaynaklardan bilgi topluyor, hesaplamalar gerçekleştiriyor, yazılım araçlarını kullanıyor ve bu süreç boyunca temel dil modelini defalarca çalıştırıyor.
Bu döngüsel işlem süreci, enerji tüketiminin katlanarak artmasına sebep oluyor.
TEK BİR KARMAŞIK SORGU 348 WATT-SAAT TÜKETTİ
Araştırmacılar, ticari yapay zeka sistemlerine yakın ölçekteki 70 milyar parametreli büyük dil modeli üzerinde yaptıkları testlerde, tek bir karmaşık ajan sorgusunun ortalama 348,41 watt-saat elektrik tükettiğini belirledi.
Testlerde Meta’nın Llama-3.1-Instruct 70B modeli üzerinde çalışan Reflexion adlı ajan çerçevesinin, standart sohbet botuna göre sorgu başına 136,5 kat daha fazla GPU enerjisi tükettiği görüldü. LATS adlı başka bir ajan sistemi ise bu farkı 62,1 kat seviyesine taşıdı.
GPU’LAR BEKLERKEN DE ELEKTRİK TÜKETİYOR
Araştırma, yapay zeka ajanlarının yalnızca daha fazla işlem yaptığı için değil, aynı zamanda sistem kaynaklarını verimsiz kullandığı için de yüksek enerji tükettiğini gözler önüne serdi.
Buna göre AI ajanlarının cevap üretme süresi, standart sohbet botlarına göre 153,7 kata kadar daha uzun olabiliyor. Bu sürede GPU’lar, çoğu zaman harici internet siteleri veya yazılım araçlarından gelecek yanıtları bekliyor.
Ancak sistem çalışmaya devam ettiği için, hesaplama yapılmayan bekleme anlarında bile elektrik tüketimi sürüyor.
VERİ MERKEZLERİNE 199 GİGAVATLIK BASKI
Araştırmanın en dikkat çekici bölümü ise küresel ölçekli projeksiyon oldu. Yapay zeka ajanlarının günlük kullanımının dünya genelinde yaklaşık 13,7 milyar isteğe ulaşması halinde, veri merkezlerinin toplam güç ihtiyacının yaklaşık 199 gigavata çıkabileceği hesaplandı.
Bu seviyenin, ABD’nin ortalama elektrik tüketiminin yaklaşık yarısına karşılık geldiği ifade ediliyor.
Uzmanlara göre bu tablo, yapay zeka ajanlarının yalnızca teknoloji şirketleri için değil, ülkelerin elektrik altyapıları için de kritik bir başlık haline gelebileceğini gösteriyor.
ÇÖZÜM SADECE YAZILIMDA DEĞİL
Profesör Rhu Min-soo’ya göre bu sorunun yalnızca daha verimli yazılımlar geliştirerek çözülmesi kolay görünmüyor. Araştırmacılar, yapay zeka ajanlarının oluşturacağı yeni iş yükünü karşılamak için yapay zeka modellerinin yanı sıra mikroçiplerin ve veri merkezlerinin elektrik altyapısının da yeniden tasarlanması gerektiğinin altını çiziyor.
