GPU Nedir? Ekran Kartları Yapay Zekâda Neden Kullanılıyor?

Bilgisayar dünyasında uzun yıllar boyunca ekran kartı denildiğinde akla ilk olarak oyunlar geldi. Daha yüksek çözünürlük, gerçekçi grafikler ve daha yüksek FPS için güçlü ekran kartlarına ihtiyaç duyuluyordu.

Yapay zekânın yükselişi ise GPU’ların kullanım alanını çok daha görünür hale getirdi.

Bugün büyük dil modellerinin eğitilmesinden görüntü ve video üretimine, bilimsel hesaplamalardan otonom araçlara kadar birçok alanda GPU’lardan yararlanılıyor.

Hatta yapay zekâ şirketlerinin kurduğu dev veri merkezlerinde binlerce GPU aynı anda çalışabiliyor.

Peki GPU’ları yapay zekâ açısından bu kadar değerli yapan ne?

GPU NEDİR?

GPU, İngilizce "Graphics Processing Unit" ifadesinin kısaltmasıdır. Türkçede grafik işlem birimi olarak adlandırılır.

GPU’nun temel görevi başlangıçta bilgisayar grafiklerini hızlı biçimde işlemekti.

Bir oyundaki karakterler, ışıklandırmalar, gölgeler, dokular ve milyonlarca pikselin sürekli hesaplanması çok sayıda benzer matematiksel işlemin gerçekleştirilmesini gerektiriyor.

GPU mimarileri bu tür işlemleri paralel biçimde gerçekleştirecek şekilde geliştirildi.

Zaman içerisinde araştırmacılar GPU’ların yalnızca grafik hesaplamalarında değil, büyük miktarda paralel matematiksel işlem gerektiren başka alanlarda da oldukça kullanışlı olduğunu fark etti.

Yapay zekâ bunun en önemli örneklerinden biri oldu.

GPU İLE EKRAN KARTI AYNI ŞEY Mİ?

Günlük kullanımda GPU ve ekran kartı ifadeleri çoğu zaman birbirinin yerine kullanılıyor ancak teknik olarak tamamen aynı şeyi ifade etmiyor.

GPU, hesaplamaları gerçekleştiren işlemci.

Ekran kartı ise GPU’nun yanı sıra VRAM adı verilen video belleği, güç devreleri, soğutma sistemi ve diğer elektronik bileşenleri üzerinde taşıyan donanım kartı.

Yani GPU ekran kartının içerisindeki temel işlem birimi.

Ancak veri merkezlerinde kullanılan yapay zekâ hızlandırıcıları klasik masaüstü ekran kartlarından farklı biçimlerde tasarlanabiliyor.

Bu nedenle yapay zekâ dünyasında "GPU" ifadesi daha geniş bir anlam taşıyor.

CPU NEDİR?

CPU, yani merkezi işlem birimi bilgisayarın genel amaçlı işlemcisidir.

İşletim sisteminin çalıştırılmasından uygulamalardaki çok sayıda göreve kadar bilgisayarın temel işlemlerini gerçekleştirir.

CPU’lar karmaşık ve farklı türdeki görevleri hızlı biçimde yerine getirebilecek güçlü çekirdeklere sahip.

GPU’lar ise farklı bir yaklaşım kullanıyor.

Çok sayıda benzer matematiksel işlemin aynı anda gerçekleştirilmesi gereken görevlerde paralel hesaplama yeteneklerinden yararlanıyorlar.

Yapay zekâ açısından önemli fark da burada ortaya çıkıyor.

CPU İLE GPU ARASINDAKİ FARK NE?

Basitleştirilmiş bir örnek üzerinden düşünelim.

Elimizde milyonlarca sayı bulunduğunu ve bunların üzerinde aynı matematiksel işlemlerin yapılması gerektiğini varsayalım.

CPU az sayıda güçlü çekirdeği kullanarak görevleri hızlı biçimde gerçekleştirebilir.

GPU ise çok sayıda işlemi paralel şekilde gerçekleştirebilecek mimariye sahip olduğu için uygun iş yüklerinde büyük miktarda veriyi aynı anda işleyebilir.

Bu, CPU’nun GPU’dan kötü olduğu anlamına gelmiyor.

İki işlemci türü farklı görevler için optimize edilmiş durumda.

Modern bilgisayarlarda CPU ve GPU çoğu zaman birbirini tamamlıyor.

YAPAY ZEKÂ NEDEN BU KADAR ÇOK MATEMATİK YAPIYOR?

Modern yapay zekâ sistemlerinin temelinde çok büyük matematiksel modeller bulunuyor.

Bir yapay sinir ağı veriyi işlerken matris çarpımları başta olmak üzere çok sayıda matematiksel operasyon gerçekleştiriyor.

Bir model eğitilirken bu işlemler tekrar tekrar yapılıyor.

Modelin tahmini hesaplanıyor, hata ölçülüyor ve model içerisindeki parametreler güncelleniyor.

Büyük yapay zekâ modellerinde milyarlarca parametre bulunabildiği için hesaplama miktarı son derece yüksek seviyelere çıkabiliyor.

GPU’ların paralel işlem kapasitesi tam olarak bu noktada önemli hale geliyor.

GPU'LAR YAPAY ZEKÂ İÇİN NEDEN UYGUN?

Yapay zekâ hesaplamalarının önemli bölümü paralelleştirilebiliyor.

Başka bir ifadeyle birçok matematiksel işlem aynı anda gerçekleştirilebiliyor.

GPU mimarilerinin güçlü olduğu alanlardan biri de bu.

Binlerce işlemin paralel olarak yürütülebilmesi yapay sinir ağlarının eğitimini ve çalıştırılmasını önemli ölçüde hızlandırabiliyor.

Bu nedenle GPU’lar modern derin öğrenmenin gelişmesinde kritik rol oynadı.

GPU'LAR BAŞTAN YAPAY ZEKÂ İÇİN Mİ ÜRETİLDİ?

Hayır.

GPU’ların temel kullanım alanı grafik işlemleriydi.

Ancak grafik oluşturmak için gereken matematiksel hesaplamalarla yapay zekâda kullanılan bazı hesaplama türlerinin paralel işlem açısından benzer özellikler taşıması GPU’ların yeni alanlarda kullanılmasının önünü açtı.

Özellikle 2000’li yıllarda GPU’ların genel amaçlı hesaplamalarda kullanılması yaygınlaşmaya başladı.

NVIDIA’nın 2006 yılında CUDA platformunu duyurması da GPU’ların yalnızca grafik üretmek yerine genel hesaplama görevlerinde programlanmasını kolaylaştıran önemli gelişmelerden biri oldu.

CUDA GPU'LARIN KULLANIMINI NASIL DEĞİŞTİRDİ?

CUDA, NVIDIA’nın GPU’larını genel amaçlı paralel hesaplama görevlerinde kullanmayı kolaylaştıran platform ve programlama modelidir.

Geliştiriciler CUDA sayesinde NVIDIA GPU’larının hesaplama gücünü bilimsel uygulamalardan yapay zekâya kadar farklı alanlarda kullanabiliyor.

Zaman içerisinde CUDA çevresinde büyük bir yazılım ekosistemi oluştu.

Bu durum NVIDIA GPU’larının yapay zekâ araştırmalarında yaygınlaşmasına katkıda bulunan önemli faktörlerden biri haline geldi.

2012 YILI NEDEN ÖNEMLİ?

GPU ve yapay zekâ ilişkisindeki önemli dönüm noktalarından biri 2012 yılında gerçekleşti.

AlexNet adlı derin sinir ağı, ImageNet görüntü sınıflandırma yarışmasındaki performansıyla büyük dikkat çekti.

AlexNet’in eğitiminde GPU’lardan yararlanılması, grafik işlemcilerinin derin öğrenme modellerini eğitmek için ne kadar etkili olabileceğini gösteren önemli örneklerden biri oldu.

Sonraki yıllarda derin öğrenmenin hızla gelişmesiyle GPU talebi de büyüdü.

Bugün gelinen noktada yapay zekâ için özel olarak optimize edilmiş çok daha gelişmiş hızlandırıcılar kullanılıyor.

TENSOR CORE NEDİR?

Modern NVIDIA GPU’larında yapay zekâ açısından önemli donanımlardan biri Tensor Core adı verilen özel işlem birimleri.

Tensor Core’lar makine öğrenmesinde yoğun biçimde kullanılan matris işlemlerini hızlandırmak amacıyla geliştirildi.

Böylece GPU’lar yalnızca geleneksel paralel işlem çekirdekleriyle değil, yapay zekâ hesaplamaları için özel donanımlarla da güçlendirildi.

Benzer biçimde farklı çip üreticileri de yapay zekâ iş yüklerini hızlandırmaya yönelik özel donanımlar geliştiriyor.

YAPAY ZEKÂ MODELİ GPU İLE NASIL EĞİTİLİYOR?

Bir yapay zekâ modeli eğitilirken büyük miktarda veri modele gösteriliyor.

Model bu verilerden tahminler oluşturuyor.

Tahminlerle doğru sonuç arasındaki hata hesaplanıyor ve model içerisindeki parametreler güncelleniyor.

Bu süreç çok sayıda kez tekrarlanıyor.

Her aşamada büyük miktarda matematiksel işlem gerektiği için GPU’lar hesaplamaların önemli bölümünü paralel biçimde gerçekleştiriyor.

Model büyüdükçe tek bir GPU yeterli olmayabiliyor.

NEDEN BİNLERCE GPU KULLANILIYOR?

Günümüzün en büyük yapay zekâ modelleri tek bir bilgisayarın kapasitesinin çok ötesine geçebiliyor.

Bu nedenle eğitim işlemi çok sayıda GPU’ya dağıtılıyor.

Bir GPU hesaplamanın belirli bölümünü gerçekleştirirken diğer GPU’lar farklı bölümleri işleyebiliyor.

Ancak bunun gerçekleşebilmesi için GPU’ların birbirleriyle son derece hızlı iletişim kurması gerekiyor.

Bu nedenle büyük AI veri merkezlerinde yalnızca GPU performansı değil, GPU’ları birbirine bağlayan yüksek hızlı ağ teknolojileri de kritik önem taşıyor.

GPU BELLEĞİ NEDEN ÖNEMLİ?

GPU’larda bulunan yüksek hızlı belleğe genellikle VRAM deniliyor.

Yapay zekâ modellerinin çalıştırılması sırasında modelin ağırlıklarının ve hesaplama sırasında kullanılan verilerin bellekte tutulması gerekiyor.

Model büyüdükçe gereken bellek miktarı da artabiliyor.

Bu nedenle yapay zekâ açısından GPU’nun yalnızca hesaplama performansına bakmak yeterli değil.

Bellek kapasitesi ve bellek bant genişliği de son derece önemli.

Özellikle büyük dil modellerini yerel bilgisayarda çalıştırmak isteyen kullanıcıların karşılaştığı en önemli sınırlamalardan biri VRAM kapasitesi olabiliyor.

8 GB VRAM İLE YAPAY ZEKÂ ÇALIŞTIRILABİLİR Mİ?

Evet, ancak çalıştırılabilecek model ve yapılabilecek işlemler VRAM kapasitesine bağlı.

Daha küçük veya sıkıştırılmış modeller düşük VRAM kapasitesine sahip ekran kartlarında çalıştırılabilirken büyük modeller çok daha fazla belleğe ihtiyaç duyabiliyor.

Modelin parametre sayısı, kullanılan sayısal hassasiyet, bağlam uzunluğu ve uygulamanın kendisi gereken bellek miktarını değiştiriyor.

Bu nedenle "yapay zekâ için kaç GB ekran kartı gerekir?" sorusunun tek bir cevabı bulunmuyor.

YAPAY ZEKÂDA MODEL EĞİTMEK İLE ÇALIŞTIRMAK AYNI ŞEY Mİ?

Hayır.

Model eğitmek genellikle çok daha yoğun hesaplama gerektiren bir süreç.

Eğitim sırasında modelin parametreleri sürekli güncelleniyor.

Model eğitildikten sonra kullanıcıların girdilerine cevap oluşturmasına ise inference, yani çıkarım adı veriliyor.

Bir sohbet botuna soru sormak veya bir görüntü üretim modelinden resim oluşturmasını istemek çıkarım işlemine örnek.

GPU’lar hem eğitim hem de çıkarım süreçlerinde kullanılabiliyor.

FOTOĞRAF ÜRETEN YAPAY ZEKÂ NEDEN GPU KULLANIYOR?

Görüntü üretme modelleri de yoğun matematiksel hesaplamalar gerçekleştiriyor.

Kullanıcı birkaç kelimelik komut yazsa bile model arka planda çok sayıda hesaplama adımı gerçekleştirerek görüntüyü oluşturuyor.

GPU’ların paralel işlem gücü bu sürecin hızlandırılmasına yardımcı oluyor.

Bu nedenle güçlü ekran kartına sahip bilgisayarlarda bazı görüntü üretme modellerini tamamen yerel olarak çalıştırmak mümkün.

YAPAY ZEKÂ VİDEOSU ÜRETMEK NEDEN DAHA ZOR?

Video üretimi görüntü üretimine göre çok daha yoğun hesaplama gerektirebiliyor.

Tek bir görüntü yerine çok sayıda kare oluşturulması gerekiyor.

Üstelik bu kareler arasında karakterlerin, nesnelerin, ışığın, hareketin ve kameranın tutarlı biçimde devam etmesi gerekiyor.

Bu durum hesaplama ve bellek ihtiyacını önemli ölçüde artırabiliyor.

Yapay zekâ video üretiminin gelişmesi güçlü GPU ve veri merkezi talebinin büyümesine katkıda bulunan alanlardan biri.

CHATGPT GPU İLE Mİ ÇALIŞIYOR?

Büyük dil modeli tabanlı yapay zekâ hizmetlerinin arkasında yüksek performanslı hızlandırıcı altyapıları bulunuyor.

Ancak kullanılan donanım sistemden sisteme ve zaman içerisinde değişebiliyor.

Büyük yapay zekâ hizmetlerinde NVIDIA GPU’larının yanı sıra farklı şirketlerin geliştirdiği özel yapay zekâ hızlandırıcıları da kullanılabiliyor.

Dolayısıyla "bütün yapay zekâ yalnızca GPU üzerinde çalışır" demek doğru değil.

GPU bugün son derece önemli olsa da yapay zekâ hesaplamasının tek donanım seçeneği değil.

GPU DIŞINDA YAPAY ZEKÂ ÇİPİ VAR MI?

Evet.

Yapay zekânın büyümesiyle birlikte bu iş yükleri için özel işlemciler geliştirilmeye başlandı.

Bunlar genel olarak AI accelerator yani yapay zekâ hızlandırıcısı olarak adlandırılabiliyor.

Google’ın TPU sistemleri bunun bilinen örneklerinden biri.

Bunun yanında farklı yarı iletken üreticileri ve bulut şirketleri de kendi yapay zekâ hızlandırıcılarını geliştiriyor.

Dolayısıyla gelecekteki yapay zekâ altyapısının yalnızca klasik GPU’lardan oluşması beklenmiyor.

NPU NEDİR?

Son yıllarda kişisel bilgisayar ve telefonlarda sıkça karşılaşılan başka bir terim de NPU.

NPU, Neural Processing Unit yani sinirsel işlem birimi anlamına geliyor.

Bu işlemciler belirli yapay zekâ görevlerini düşük enerji tüketimiyle gerçekleştirmek amacıyla tasarlanıyor.

Örneğin görüntü işleme, arka plan efektleri, ses işlemleri ve cihaz üzerinde çalışan bazı yapay zekâ özellikleri NPU üzerinden gerçekleştirilebiliyor.

GPU yüksek performanslı ve geniş kapsamlı paralel hesaplamalarda güçlü olurken NPU belirli AI görevlerini daha verimli çalıştırmaya odaklanabiliyor.

YAPAY ZEKÂ İÇİN GPU MU NPU MU?

Bu sorunun cevabı yapılacak işe göre değişiyor.

Büyük bir yapay zekâ modelini eğitmek için veri merkezlerindeki güçlü GPU veya özel AI hızlandırıcı sistemleri tercih edilebilir.

Dizüstü bilgisayarda sürekli çalışan daha küçük bir yapay zekâ özelliği için NPU enerji verimliliği açısından daha uygun olabilir.

Geleceğin bilgisayarlarında CPU, GPU ve NPU’nun birlikte çalışması giderek daha yaygın hale geliyor.

Her işlemci kendisine en uygun görevi üstlenebiliyor.

OYUN EKRAN KARTIYLA YAPAY ZEKÂ YAPILABİLİR Mİ?

Evet.

Tüketici sınıfı ekran kartlarıyla birçok yapay zekâ uygulaması çalıştırılabiliyor.

Yerel büyük dil modelleri, görüntü üretme sistemleri, ses işleme araçları ve çeşitli makine öğrenmesi projeleri desteklenen ekran kartlarında çalıştırılabilir.

Ancak profesyonel veri merkezi GPU’larıyla tüketici ekran kartları arasında önemli farklar bulunuyor.

Bellek kapasitesi, bant genişliği, bağlantı teknolojileri, güvenilirlik ve büyük ölçekli sistemlerde kullanılabilme özellikleri bunların başında geliyor.

VERİ MERKEZİ GPU'SU İLE OYUN GPU'SU AYNI MI?

Temel çalışma prensiplerinde benzerlikler olsa da kullanım amaçları farklı.

Oyun ekran kartları oyun, içerik üretimi ve kişisel bilgisayar kullanımına göre tasarlanıyor.

Veri merkezi hızlandırıcıları ise büyük ölçekli yapay zekâ ve yüksek performanslı hesaplama sistemlerinde sürekli çalışacak biçimde geliştiriliyor.

Veri merkezi ürünlerinde yüksek bellek kapasitesi, çoklu GPU bağlantıları ve kurumsal ölçekte çalışmaya yönelik özellikler öne çıkabiliyor.

Bu nedenle profesyonel AI sistemlerinde kullanılan GPU’ların fiyatları tüketici ekran kartlarından çok daha yüksek olabiliyor.

GPU'LAR NEDEN BU KADAR ELEKTRİK TÜKETİYOR?

Yüksek performansın fiziksel bir maliyeti bulunuyor.

Modern GPU’larda milyarlarca transistör bulunuyor ve çok büyük miktarda hesaplama gerçekleştiriliyor.

Yoğun yük altında çalışan yüksek performanslı GPU’lar önemli miktarda elektrik tüketebiliyor.

Üstelik yapay zekâ veri merkezlerinde bunlardan binlercesi aynı anda çalışabiliyor.

Bu nedenle yapay zekânın yükselişi veri merkezlerinin elektrik tüketimini artıran önemli faktörlerden biri haline geldi.

GPU'LAR NEDEN ÇOK ISINIYOR?

Elektrik kullanan elektronik bileşenler ısı üretiyor.

GPU yoğun biçimde çalıştırıldığında ortaya çıkan ısının sistemden uzaklaştırılması gerekiyor.

Kişisel bilgisayarlarda fanlar ve büyük soğutucular kullanılabiliyor.

Veri merkezlerinde ise sorun çok daha büyük.

Binlerce yüksek güçlü hızlandırıcı aynı tesiste çalıştığında ortaya çıkan ısı devasa seviyelere çıkabiliyor.

Bu nedenle yeni nesil yapay zekâ veri merkezlerinde sıvı soğutma sistemleri giderek daha önemli hale geliyor.

GPU TALEBİ NEDEN BU KADAR ARTTI?

Üretken yapay zekânın yaygınlaşması GPU talebinde büyük artışa yol açtı.

Büyük dil modellerinin eğitilmesi, görüntü ve video oluşturma sistemleri, AI ajanları ve milyonlarca kullanıcıya aynı anda hizmet verilmesi büyük miktarda hesaplama kapasitesi gerektiriyor.

Şirketler bu nedenle büyük GPU kümelerinin bulunduğu yeni veri merkezleri kuruyor.

GPU artık yalnızca bilgisayar oyuncularının ilgilendiği bir donanım olmaktan çıkarak küresel yapay zekâ altyapısının stratejik bileşenlerinden biri haline geldi.

GPU NEDEN YAPAY ZEKÂNIN KALBİNDE?

GPU’nun yapay zekâdaki yükselişini tek bir özelliğe bağlamak doğru değil.

Paralel işlem yeteneği, yüksek bellek bant genişliği, yapay zekâya özel işlem birimleri ve yıllar içerisinde oluşan yazılım ekosistemleri birlikte önemli rol oynuyor.

Modern yapay zekâ modelleri büyük miktarda matematiksel işlemi tekrar tekrar gerçekleştirdiği için GPU mimarileri bu iş yüklerine oldukça uygun.

Ancak yapay zekâ donanımındaki yarış devam ediyor.

GPU’ların yanında TPU, NPU ve farklı özel AI hızlandırıcıları geliştiriliyor.

Buna rağmen GPU’lar bugün büyük yapay zekâ modellerinin eğitilmesi ve çalıştırılmasında kullanılan en önemli donanım sınıflarından biri olmayı sürdürüyor.

Bir zamanlar ekrandaki oyun grafiklerini hızlandırmak amacıyla geliştirilen teknoloji, bugün yapay zekâ çağının temel hesaplama motorlarından birine dönüşmüş durumda.