Bir yapay zekâ isteğinin herkese ve her modele uyan sabit bir “bardak su” karşılığı yoktur. Tüketim; modelin büyüklüğüne, yanıtın uzunluğuna, kullanılan donanıma, veri merkezinin konumuna, soğutma yöntemine ve elektriğin nasıl üretildiğine göre değişir. Bu nedenle tek bir sayı yerine, hesaplama enerjisi × su kullanım katsayısı yaklaşımını kullanmak daha doğrudur. Günlük kullanımda yapabileceğiniz en güvenilir çıkarım, gereksiz uzun ve tekrarlı istekleri azaltmak; kesin ölçüm gerekiyorsa hizmet sağlayıcının model ve veri merkezi bazındaki çevresel verilerini istemektir.
Yapay zekâ modeli doğrudan su içmez; modeli çalıştıran veri merkezindeki sunucular ısınır. Bu ısıyı uzaklaştırmak için bazı tesislerde su bazlı soğutma kullanılır. Suyun bir bölümü buharlaşabilir, bir bölümü arıtılıp yeniden kullanılabilir veya tesise geri dönebilir. Hangi yöntemin seçildiği, yerel iklim ve su kaynaklarının durumuyla birlikte değerlendirilir. Google, su soğutmanın bazı yerlerde hava soğutmaya göre enerji kullanımını yaklaşık yüzde 10 azaltabildiğini, Microsoft ise sıvı soğutma ve suyun yeniden kullanımının tüketimi azaltabildiğini belirtiyor.
Bir de dolaylı su tüketimi vardır. Kullanılan elektriği üretmek için bazı enerji santrallerinde su gerekebilir. Bu nedenle yalnızca veri merkezinin fiziksel olarak çektiği suyu saymakla, elektrik üretim zincirini de hesaba katmak aynı sonucu vermez. Raporlarda “su çekimi”, “su tüketimi”, “yenilenen su” ve “operasyonel su kullanımı” gibi farklı ölçüler kullanılabildiğinden, sayıların tanımı okunmadan karşılaştırma yapılmamalıdır.
Kesin veri bulunmadığında kavramsal hesap şu şekilde kurulabilir:
Toplam operasyonel su ≈ hesaplama için kullanılan enerji × veri merkezinin su kullanım katsayısı
Örneğin varsayımsal olarak bir işlem için 0,02 kilovat-saat enerji ve veri merkezi için 0,5 litre/kilovat-saat su katsayısı verilmiş olsun. Hesap 0,02 × 0,5 = 0,01 litre, yani yaklaşık 10 mililitre olur. Bu yalnızca seçilen katsayıların geçerli olduğu sınırlar içinde anlamlıdır; gerçek bir hizmetin ölçülmüş sonucu değildir. Elektrik üretimi, donanım üretimi, suyun geri kazanılması veya aynı sunucunun başka görevlerle paylaşılması hesaba katılmadıysa sonuç eksik kalabilir.
Aşağıdaki tablo, bir sayıyı değerlendirirken hangi bilgileri aramanız gerektiğini gösterir.
Tablonun dışında kalan önemli nokta şudur: Bir şirketin su yenileme projesine yatırım yapması, belirli bir isteğin hiç su tüketmediğini kanıtlamaz. Bu, tüketilen suyun başka bir havzada veya başka bir projeyle telafi edilmesini ifade edebilir. “Sıfır su” ile “kullanılan suyu yenileme” aynı iddia değildir.
Kesin miktarı kendiniz ölçemiyorsanız amacınız tek bir isteği matematiksel olarak sıfırlamak değil, gereksiz hesaplamayı azaltmaktır. İhtiyacınızı baştan açık yazın, aynı soruyu art arda yeniden göndermek yerine eksik noktayı belirtin, gerekmiyorsa çok uzun yanıt istemeyin ve küçük bir görev için daha büyük bir model kullanmayın. Belge, görsel veya kod üretiminde de yalnızca gerçekten gereken kapsamı talep etmek daha verimlidir.
Bir hizmet sağlayıcının çevresel açıklamasını incelerken model adı, işlem türü, enerji ölçüm yöntemi, doğrudan ve dolaylı su kapsamı, veri merkezi konumu ve raporlama dönemi birlikte verilmiş mi diye bakın. Bu bilgiler yoksa sayı, karşılaştırma için yeterince şeffaf olmayabilir. Google, yapay zekâ modellerinin enerji, su ve karbon etkisini ölçmek için bir yöntem yayımladığını; Microsoft da veri merkezlerinde sıvı soğutma, su geri kullanımı ve verimlilik çalışmalarını açıkladığını belirtiyor. Bu açıklamalar, her kullanıcı isteği için aynı sabit tüketim değerinin yayımlandığı anlamına gelmez.
Su tüketimi nereden oluşur?
Yapay zekâ modeli doğrudan su içmez; modeli çalıştıran veri merkezindeki sunucular ısınır. Bu ısıyı uzaklaştırmak için bazı tesislerde su bazlı soğutma kullanılır. Suyun bir bölümü buharlaşabilir, bir bölümü arıtılıp yeniden kullanılabilir veya tesise geri dönebilir. Hangi yöntemin seçildiği, yerel iklim ve su kaynaklarının durumuyla birlikte değerlendirilir. Google, su soğutmanın bazı yerlerde hava soğutmaya göre enerji kullanımını yaklaşık yüzde 10 azaltabildiğini, Microsoft ise sıvı soğutma ve suyun yeniden kullanımının tüketimi azaltabildiğini belirtiyor.
Bir de dolaylı su tüketimi vardır. Kullanılan elektriği üretmek için bazı enerji santrallerinde su gerekebilir. Bu nedenle yalnızca veri merkezinin fiziksel olarak çektiği suyu saymakla, elektrik üretim zincirini de hesaba katmak aynı sonucu vermez. Raporlarda “su çekimi”, “su tüketimi”, “yenilenen su” ve “operasyonel su kullanımı” gibi farklı ölçüler kullanılabildiğinden, sayıların tanımı okunmadan karşılaştırma yapılmamalıdır.
Hesabı en çok değiştiren etkenler
- Model ve donanım: Büyük bir modeli eğitmek, tek bir kısa metin yanıtı üretmekten çok daha fazla hesaplama gerektirir. Aynı görev daha küçük veya daha verimli bir modelle yapılabiliyorsa kaynak kullanımı azalabilir.
- İsteğin uzunluğu ve yanıt boyu: Uzun giriş metinleri, uzun yanıtlar ve çok sayıda yeniden üretme işlemi daha fazla hesaplama süresi doğurabilir. Ancak yalnızca kelime sayısı kesin su miktarını göstermez; modelin ve donanımın çalışma biçimi de önemlidir.
- Eğitim ve kullanım aşaması: Model eğitimi büyük ve tekrarlı bir hesaplama sürecidir. Günlük sohbet, görsel üretimi veya başka bir model kullanımı ise “çıkarım” aşamasıdır. Bu iki aşamanın su ayak izi aynı değildir.
- Veri merkezinin yeri ve iklimi: Sıcaklık, nem, su kıtlığı ve yerel altyapı soğutma kararını etkiler. Aynı model farklı veri merkezlerinde farklı sonuç verebilir.
- Soğutma yöntemi: Hava soğutma, su soğutma, kapalı devre sıvı soğutma ve geri kazanılmış su kullanımı aynı su hesabını üretmez. Su kullanmayan bir soğutma yöntemi de elektrik tarafında daha yüksek tüketim oluşturabilir.
- Elektrik kaynağı ve ölçüm sınırı: Hesap yalnızca tesis içindeki doğrudan suyu mu, yoksa elektrik üretimi ve donanım üretimi gibi dolaylı etkileri de mi kapsıyor, sonuç buna göre değişir.
Basitleştirilmiş hesap nasıl okunur?
Kesin veri bulunmadığında kavramsal hesap şu şekilde kurulabilir:
Toplam operasyonel su ≈ hesaplama için kullanılan enerji × veri merkezinin su kullanım katsayısı
Örneğin varsayımsal olarak bir işlem için 0,02 kilovat-saat enerji ve veri merkezi için 0,5 litre/kilovat-saat su katsayısı verilmiş olsun. Hesap 0,02 × 0,5 = 0,01 litre, yani yaklaşık 10 mililitre olur. Bu yalnızca seçilen katsayıların geçerli olduğu sınırlar içinde anlamlıdır; gerçek bir hizmetin ölçülmüş sonucu değildir. Elektrik üretimi, donanım üretimi, suyun geri kazanılması veya aynı sunucunun başka görevlerle paylaşılması hesaba katılmadıysa sonuç eksik kalabilir.
Aşağıdaki tablo, bir sayıyı değerlendirirken hangi bilgileri aramanız gerektiğini gösterir.
| Kontrol edilecek bilgi | Neden önemlidir? |
|---|---|
| Model ve işlem türü | Eğitim, metin yanıtı, görsel üretimi ve uzun belge işleme aynı hesaplama yüküne sahip değildir. |
| Enerji ölçümü | Tahmini mi, gerçek cihaz ölçümü mü olduğu sonucu değiştirir. |
| Su tanımı | Çekilen su ile tüketilen veya buharlaşan su aynı şey değildir. |
| Veri merkezi ve dönem | İklim, soğutma sistemi ve mevsimsel koşullar değişebilir. |
| Dolaylı etkiler | Elektrik üretimi ve donanım üretimi dahil edilmemiş olabilir. |
Günlük kullanımda ne yapabilirsiniz?
Kesin miktarı kendiniz ölçemiyorsanız amacınız tek bir isteği matematiksel olarak sıfırlamak değil, gereksiz hesaplamayı azaltmaktır. İhtiyacınızı baştan açık yazın, aynı soruyu art arda yeniden göndermek yerine eksik noktayı belirtin, gerekmiyorsa çok uzun yanıt istemeyin ve küçük bir görev için daha büyük bir model kullanmayın. Belge, görsel veya kod üretiminde de yalnızca gerçekten gereken kapsamı talep etmek daha verimlidir.
Bir hizmet sağlayıcının çevresel açıklamasını incelerken model adı, işlem türü, enerji ölçüm yöntemi, doğrudan ve dolaylı su kapsamı, veri merkezi konumu ve raporlama dönemi birlikte verilmiş mi diye bakın. Bu bilgiler yoksa sayı, karşılaştırma için yeterince şeffaf olmayabilir. Google, yapay zekâ modellerinin enerji, su ve karbon etkisini ölçmek için bir yöntem yayımladığını; Microsoft da veri merkezlerinde sıvı soğutma, su geri kullanımı ve verimlilik çalışmalarını açıkladığını belirtiyor. Bu açıklamalar, her kullanıcı isteği için aynı sabit tüketim değerinin yayımlandığı anlamına gelmez.