PROGRAMLAMADA YENİ EĞİLİMLER - Deneme Sınavı - 12

Grafik işlemci birimi (Graphical Processing Unit–GPU), merkezi işlemci birimlerinden farklı olarak görüntü işleme komutlarını çalıştırmak üzere özelleşmiş bir elektronik devreler bütünüdür. Bu birimler, içlerinde bulunan hafıza birimlerini oldukça çok hızlı biçimde yönetirler ve bu şekilde görüntülerin oluşturulmasını sağlayan komutların yüksek performansta çalıştırılmalarını sağlarlar. Merkezi işlemci birimleri genel amaçlı komutların çalıştırılmasını sağlarken, grafik işlemci birimleri görüntü işleme komutları için optimize edildiğinden, görüntü arabirimlerine (monitör, mobil cihaz ekranı vb.) çıktı sağlarlar. Grafik işlemci birimleri kişisel bilgisayarlarda, cep telefonlarında, tabletlerde ve oyun konsolları gibi çeşitli sistemlerde kullanılmaktadır. Paralel işlem yapmak üzere özelleşmiş olan bu birimler görüntü işlemede ve bilgisayar grafiğinde etkilidir.

Bu bilgilerden de anlaşıldığı gibi doğru cevap E’dir. Grafik işlemci birimine (Graphical Processing Unit–GPU) ilişkin olarak seçeneklerde yer alan ifadelerin tümü doğrudur.

1980’lerin sonu 1990’ların başlarında, Microsoft Windows ve Mac OS gibi grafik tabanlı işletim sistemlerinin popülerliğinin artmasıyla yeni tip işlemciler pazarlarda yerini almaya başladı. Kullanıcılar, iki boyutlu ekran hızlandırıcıları satın almaya başladılar. Bu ekran hızlandırıcıları, grafiksel işletim sistemlerinin kullanılabilirliğini artırmak amacıyla Bitmap işlemlerinde donanım yardımı sunmaya başlamıştır. Yaklaşık aynı zamanlarda, Silicon Graphics şirketi de üç-boyutlu grafik işlemleri üzerinde çalışmaya başlamıştır. Silicon Graphics üç-boyutlu grafik uygulamalarında kullanılmak üzere standart platformdan bağımsız OpenGL kütüphanesini tasarlamıştır. Günümüzde OpenGL Windows, Linux, Mac OS X ve Solaris gibi birçok işletim sisteminde ve oyun konsollarında iki ve üç boyutlu grafikleri ekrana çizmek için kullanılmaktadır.

Bu bilgilerden de anlaşıldığı gibi doğru cevap E’dir. Grafik işlemci birimi tarihçesine ilişkin olarak seçeneklerde yer alan ifadelerin tümü doğrudur.

1990’ların ortalarında üç boyutlu grafik uygulamaları için müşteri talebi artmaya başlamıştır. Bu grafik uygulamaları da genellikle üç-boyutlu oyunlardır. Bu zamanlarda NVIDIA ve ATI Teknolojileri gibi firmalar uygun fiyatlı ekran kartlarını satışa çıkarmaya başladılar. NVIDIA GeForce 256 ile dönüşüm ve aydınlatma hesaplamaları doğrudan grafik işlemci üzerinden yapılmaya başlandı. Paralel hesaplama açısından bakılacak olursa, NVIDIA’nın GeForce 3 serisiyle birlikte grafik işlemci birimi teknolojisinde önemli bir noktaya gelinmiştir. GeForce 3 serisi DirectX 8.0 standardını uygulayan ilk yonga olmuştur. OpenGL API ve DirectX ile birlikte GPU’lar kabiliyetlerini arttırmaya başlamışlardır. Artık her piksel, ek görüntü dokularını giriş olarak alabilen kısa program tarafından işlenebilir hâle gelmiştir.

1980’lerin sonu 1990’ların başlarında, Microsoft Windows ve Mac OS gibi grafik tabanlı işletim sistemlerinin popülerliğinin artmasıyla yeni tip işlemciler pazarlarda yerini almaya başladı. Kullanıcılar, iki boyutlu ekran hızlandırıcıları satın almaya başladılar. Bu ekran hızlandırıcıları, grafiksel işletim sistemlerinin kullanılabilirliğini artırmak amacıyla Bitmap işlemlerinde donanım yardımı sunmaya başlamıştır.

Yaklaşık aynı zamanlarda, Silicon Graphics şirketi de üç-boyutlu grafik işlemleri üzerinde çalışmaya başlamıştır. Silicon Graphics üç-boyutlu grafik uygulamalarında kullanılmak üzere standart platformdan bağımsız OpenGL kütüphanesini tasarlamıştır. Günümüzde OpenGL Windows, Linux, Mac OS X ve Solaris gibi birçok işletim sisteminde ve oyun konsollarında iki ve üç boyutlu grafikleri ekrana çizmek için kullanılmaktadır.

1990’ların ortalarında üç boyutlu grafik uygulamaları için müşteri talebi artmaya başlamıştır. Bu grafik uygulamaları da genellikle üç-boyutlu oyunlardır. Bu zamanlarda NVIDIA ve ATI Teknolojileri gibi firmalar uygun fiyatlı ekran kartlarını satışa çıkarmaya başladılar. NVIDIA GeForce 256 ile dönüşüm ve aydınlatma hesaplamaları doğrudan grafik işlemci üzerinden yapılmaya başlandı. Paralel hesaplama açısından bakılacak olursa, NVIDIA’nın GeForce 3 serisiyle birlikte grafik işlemci birimi teknolojisinde önemli bir noktaya gelinmiştir. GeForce 3 serisi DirectX 8.0 standardını uygulayan ilk yonga olmuştur. OpenGL API ve DirectX ile birlikte GPU’lar kabiliyetlerini arttırmaya başlamışlardır. Artık her piksel, ek görüntü dokularını giriş olarak alabilen kısa program tarafından işlenebilir hâle gelmiştir.

Bu bilgilerden de anlaşıldığı gibi doğru cevap E’dir. Grafik işlemci birimi tarihçesine ilişkin olarak seçeneklerde yer alan ifadelerin tümü doğrudur.

2000’li yılların başlangıcında, grafik işlemci birimleri programlanabilir aritmetik birimleri kullanarak, her bir piksel için renk üretmek üzere yeniden tasarlanmıştır. Yeni nesil grafik işlemci birimleri her bir pikseli için çeşitli bilgiler kullanarak renk hesaplaması yapmaktadır. Bu bilgiler giriş renkleri, doku koordinatları gibi bilgiler olabilir. Giriş renkleri ve dokular üzerindeki aritmetik işlemlerin tümü programcının kontrolünde yapılmaktadır. Grafik işlemci birimi geliştiren araştırmacılar, bahsedilen iyileştirmeleri tasarlarken, bu giriş değerlerinin sadece renk bilgisi değil, herhangi bir bilgi olabileceğini fark etmişlerdir. Bu sayede grafik işlemci birimleri görüntü işlemenin yanı sıra, başka aritmetik işlemleri de yapabilen ve merkezi işlemci birimlerine destek olabilecek bir yapıya doğru evrilmiştir. Renkten başka herhangi bir sayısal bilgi grafik işlemci birimine girdi olarak sağlanabilirse, bilgisayar programcıları bilgi üzerinde istedikleri hesaplamaları grafik işlemci birimine de yaptırabilirler. Böylece, GPU ile sadece piksellerin renk hesaplaması değil, farklı nümerik hesaplamaların yapılması da mümkün hâle gelmiştir. Böylece grafik işlemci birimlerinin yüksek aritmetik işlem gücünün hesaplama işlemlerinde başarılı olabileceği düşünülmüştür.

Grafik işlemci birimi tarihçesine ilişkin olarak seçeneklerde yer alan ifadelerin tümü doğrudur, dolayısıyla doğru cevap E’dir.

Tabii ki, GPU’lar piksellerin renklerini hesaplamak için tasarlandığından, genel hesaplamalar için kullanılmak istendiğinde bazı kısıtlar vardır. Örneğin, geleneksel işlemci yapısından farklı olarak grafik işlemci birimleri, hafıza değerlerini kolaylıkla değiştirmeye yönelik olarak organize edildiklerinden, yapılan hesaplamaların sonuçlarının hafızaya ne şekilde yazılacağı ve korunacağı bunlardan biridir. Ayrıca ondalıklı sayılarla ilgili hesaplamaların nasıl yapılacağı da üzerinde düşünülmesi gereken konulardan biridir. Diğer bir kısıt ise, programın yanlış sonuçlar yüzünden sonlandırılması gerektiğinde, GPU üzerinde çalışan kodda hata ayıklama yapabilecek bir metodun bulunmamasıdır.

Bahsedilen kısıtlar GPU üzerinde programlamayı zorlaştırmakla birlikte, üstesinden gelinemeyecek denli büyük problemler olmadıklarından, genel amaçlı hesaplamalar için GPU programlamanın kullanılabileceği düşünülmüştür. Ayrıca günümüzde gelişen teknolojiyle bu kısıtlar da azalmıştır. GPU ile iletişimi sağlayan OpenGL ve DirectX kütüphanelerinin yapısının öğrenilmesi, GPU programlama yapabilmek için oldukça önemlidir.

2000’li yılların başlangıcında, grafik işlemci birimleri programlanabilir aritmetik birimleri kullanarak, her bir piksel için renk üretmek üzere yeniden tasarlanmıştır. Yeni nesil grafik işlemci birimleri her bir pikseli için çeşitli bilgiler kullanarak renk hesaplaması yapmaktadır. Bu bilgiler giriş renkleri, doku koordinatları gibi bilgiler olabilir. Giriş renkleri ve dokular üzerindeki aritmetik işlemlerin tümü programcının kontrolünde yapılmaktadır. Grafik işlemci birimi geliştiren araştırmacılar, bahsedilen iyileştirmeleri tasarlarken, bu giriş değerlerinin sadece renk bilgisi değil, herhangi bir bilgi olabileceğini fark etmişlerdir. Bu sayede grafik işlemci birimleri görüntü işlemenin yanı sıra, başka aritmetik işlemleri de yapabilen ve merkezi işlemci birimlerine destek olabilecek bir yapıya doğru evrilmiştir. Renkten başka herhangi bir sayısal bilgi grafik işlemci birimine girdi olarak sağlanabilirse, bilgisayar programcıları bilgi üzerinde istedikleri hesaplamaları grafik işlemci birimine de yaptırabilirler. Böylece, GPU ile sadece piksellerin renk hesaplaması değil, farklı nümerik hesaplamaların yapılması da mümkün hâle gelmiştir. Böylece grafik işlemci birimlerinin yüksek aritmetik işlem gücünün hesaplama işlemlerinde başarılı olabileceği düşünülmüştür. Tabii ki, GPU’lar piksellerin renklerini hesaplamak için tasarlandığından, genel hesaplamalar için kullanılmak istendiğinde bazı kısıtlar vardır. Örneğin, geleneksel işlemci yapısından farklı olarak grafik işlemci birimleri, hafıza değerlerini kolaylıkla değiştirmeye yönelik olarak organize edildiklerinden, yapılan hesaplamaların sonuçlarının hafızaya ne şekilde yazılacağı ve korunacağı bunlardan biridir. Ayrıca ondalıklı sayılarla ilgili hesaplamaların nasıl yapılacağı da üzerinde düşünülmesi gereken konulardan biridir. Diğer bir kısıt ise, programın yanlış sonuçlar yüzünden sonlandırılması gerektiğinde, GPU üzerinde çalışan kodda hata ayıklama yapabilecek bir metodun bulunmamasıdır.

Bahsedilen kısıtlar GPU üzerinde programlamayı zorlaştırmakla birlikte, üstesinden gelinemeyecek denli büyük problemler olmadıklarından, genel amaçlı hesaplamalar için GPU programlamanın kullanılabileceği düşünülmüştür.

Bu bilgilerden de anlaşıldığı gibi, GPU’lar piksellerin renklerini hesaplamak için tasarlandığından, genel hesaplamalar için kullanılmak istendiğinde söz konusu olan kısıtlara ilişkin olarak seçeneklerde yer alan ifadelerin tümü doğrudur, dolayısıyla doğru cevap E’dir. Ayrıca günümüzde gelişen teknolojiyle bu kısıtlar da azalmıştır. GPU ile iletişimi sağlayan OpenGL ve DirectX kütüphanelerinin yapısının öğrenilmesi, GPU programlama yapabilmek için oldukça önemlidir.

CPU ve GPU ile programlama arasındaki farkları anlamak için yapılması gereken ilk şey, ikisinin işleyiş yapısını karşılaştırmaktır. CPU genellikle seri olarak işlem yapmak için tasarlanmış birkaç çekirdekten oluşmaktadır. GPU ise birden fazla görevi bir arada paralel olarak yapabilmek için tasarlanmış yüzlerce çekirdekten oluşmaktadır. (Bkz. Sayfa 132’de, Şekil 6.4’de CPU ve GPU işlemcilerinin yapısı gösterilmektedir.) Günümüzde GPU hesaplamanın sıklıkla kullanılmaya başlaması, artık CPU programlamanın yerine GPU programlama kullanmanın daha iyi olacağı anlamına gelmemektedir. Her iki yaklaşımın da farklı uygulamalar için avantajları ve dezavantajları vardır.

Bu bilgilerden de anlaşıldığı gibi doğru cevap E’dir. CPU ve GPU ile programlama arasındaki farklara ilişkin olarak seçeneklerde yer alan ifadelerin tümü doğrudur.

CPU programlama genellikle sınırlı sayıda kuyrukların çalışacağı uygulamalar için optimize edilmiştir. GPU ise farklı bir spektrumda programlamayı amaçlamaktadır. GPU’lar uzun hesaplama komutlarının hâkim olduğu çoklu kuyruklu uygulamalarda kullanılmaktadır. Günümüzde GPU’lar kuyruk işleme, veri önbelleği, sanal bellek yönetimi gibi konularda gelişmeye devam etmektedir. GPU’lar genel olarak görüntü işleme operasyonlarını yürütmek için tasarlanmıştır. Görüntü işlemede aynı tür hesaplamalar birçok piksel için tekrar edilmektedir. Bu nedenle GPU’lar işlemler arasındaki geçişi hızlı bir şekilde yapabilmektedirler. GPU’larda aritmetik işlem yapan birimler, CPU’lara göre daha fazla sayıda bulunmaktadır. Bu nedenle çok fazla aritmetik işlem gerektiren operasyonları GPU’lar daha hızlı yapabilmektedir. Ayrıca, GPU’lar ile ondalıklı sayı işlemleri günümüzde CPU’lardan 20 kat kadar daha hızlı yapılabilmektedir.

CPU ve GPU ile programlama arasındaki farkları anlamak için yapılması gereken ilk şey, ikisinin işleyiş yapısını karşılaştırmaktır. CPU genellikle seri olarak işlem yapmak için tasarlanmış birkaç çekirdekten oluşmaktadır. GPU ise birden fazla görevi bir arada paralel olarak yapabilmek için tasarlanmış yüzlerce çekirdekten oluşmaktadır. (Bkz. Sayfa 132’de, Şekil 6.4’de CPU ve GPU işlemcilerinin yapısı gösterilmektedir.) Günümüzde GPU hesaplamanın sıklıkla kullanılmaya başlaması, artık CPU programlamanın yerine GPU programlama kullanmanın daha iyi olacağı anlamına gelmemektedir. Her iki yaklaşımın da farklı uygulamalar için avantajları ve dezavantajları vardır.

CPU programlama genellikle sınırlı sayıda kuyrukların çalışacağı uygulamalar için optimize edilmiştir. GPU ise farklı bir spektrumda programlamayı amaçlamaktadır. GPU’lar uzun hesaplama komutlarının hâkim olduğu çoklu kuyruklu uygulamalarda kullanılmaktadır. Günümüzde GPU’lar kuyruk işleme, veri önbelleği, sanal bellek yönetimi gibi konularda gelişmeye devam etmektedir. GPU’lar genel olarak görüntü işleme operasyonlarını yürütmek için tasarlanmıştır. Görüntü işlemede aynı tür hesaplamalar birçok piksel için tekrar edilmektedir. Bu nedenle GPU’lar işlemler arasındaki geçişi hızlı bir şekilde yapabilmektedirler. GPU’larda aritmetik işlem yapan birimler, CPU’lara göre daha fazla sayıda bulunmaktadır. Bu nedenle çok fazla aritmetik işlem gerektiren operasyonları GPU’lar daha hızlı yapabilmektedir. Ayrıca, GPU’lar ile ondalıklı sayı işlemleri günümüzde CPU’lardan 20 kat kadar daha hızlı yapılabilmektedir.

Bu bilgilerden de anlaşıldığı gibi doğru cevap E’dir. CPU ve GPU ile programlama arasındaki farklara ilişkin olarak seçeneklerde yer alan ifadelerin tümü doğrudur.

CUDA (Compute Unified Device Architecture), GPU programlama için NVIDIA firmasının sunduğu C, C++, Fortran gibi programlama dilleriyle birlikte kullanılabilen mimari ve teknolojidir. CUDA, DirectX ya da OpenGL’e göre paralel kullanım erişilebilirliğini kolaylaştırmıştır. CUDA’nın genel amaçlı GPU programlamada sunduğu çeşitli avantajları vardır. Bunlardan ilki, hafızadan rastgele seçilen bir adresin CUDA kodu ile okunabilmesidir. Bir diğeri ise bit seviyesinde işlemler ile tam sayı ve ondalıklı sayı işlemler için tam destek sağlamasıdır. GPU ile veri okuma işlemleri çok hızlı bir şekilde yapılabilmektedir. Ayrıca paralel hesaplamalarda kuyrukların veri paylaşımı için kullanabilecek hızlı bir ortak hafıza alanı sunulmaktadır.

CUDA’ya (Compute Unified Device Architecture) ilişkin olarak seçeneklerde yer alan ifadelerin tümü doğrudur, dolayısıyla doğru cevap E’dir.

CUDA’nın avantajları olduğu gibi bazı kısıtları da vardır. Bunlardan en önemlisi standart C kütüphanelerini tamamen desteklememesidir. Standart C’de derlenebilen bazı kodlar, CUDA C’de derlenememektedir. Ayrıca gerçekleme (rendering) dillerinden OpenGL ile çalışabilirliği tek yönlüdür. Yani, OpenGL kayıtlı CUDA hafızasına ulaşabilirken, CUDA OpenGL hafızasına erişememektedir.

Bu bilgilerden de anlaşıldığı gibi, doğru cevap E’dir. CUDA’nın kısıtlarına ilişkin olarak seçeneklerde yer alan ifadelerin tümü doğrudur.

CPU ve GPU’nun birlikte kullanıldığı hesaplama ortamlarına heterojen hesaplama ortamı denilmektedir. Heterojen hesaplama terminolojisinde sunucu (host) ve cihaz (device) olmak üzere iki temel terim vardır. Sunucu, CPU ve sunucunun belleğinden oluşmaktadır. Cihaz ise GPU ve cihaz belleğinden oluşmaktadır. CPU ve GPU’nun birlikte kullanıldığı hesaplama ortamlarına ilişkin olarak seçeneklerde yer alan ifadelerin tümü doğrudur, dolayısıyla doğru cevap E’dir.

Paralel programlama çeşitli amaçlarla kullanılabilir. Ancak en belirgin amaç, bir problemin daha hızlı biçimde çözülmesini sağlamaktır. Herhangi bir hesaplama probleminin paralel şekilde çözülmesi hemen her zaman seri şekilde çözülmesinden çok daha hızlı tamamlanacaktır. Bu da önemli ölçüde zaman tasarrufu yapmayı sağlayacaktır. İkincil amaç, arka planda yatan motivasyon hala zaman kazanmak olsa da çok büyük problemlerin çözülebilmesine olanak sağlamasıdır. Bazen hesaplanması gereken öyle büyük problemler oluşur ki (örneğin, milyonlarca yıldız ve gök cisimlerinden oluşan bir galaksinin kütle çekim yasasına göre modellenmesi), ne kadar güçlü olursa olsun, tek bir işlemci ile ilgili problemin çözümü yıllarca sürebilir. Bu problemi paralel bir şekilde çözmek, problemin çözümüne daha makul zaman aralıklarında ulaşmayı sağlar. Dolayısıyla asıl motivasyon yine problemin çözümü için gerekecek zaman aralığını kısaltmak olsa da paralel programlama sayesinde, çözümüne ulaşılması mümkün görünmeyen problemler çözülebilir olurlar. Paralel programlamanın bir başka faydası ise sınırlı hesaplama kaynaklarının, birden fazla kişi tarafından ortak biçimde kullanılmasını sağlamaktır. Bu sayede sınırlı sayıdaki işlem birimi daha fazla kişi tarafından verimli biçimde kullanılabilir.

Örneğin, 3 GHz frekansa sahip bir işlemci saniyede 3×10⁹ saat vuruşuna sahiptir.

Tabii ki, GPU’lar piksellerin renklerini hesaplamak için tasarlandığından,
genel hesaplamalar için kullanılmak istendiğinde bazı kısıtlar vardır. Örneğin, geleneksel işlemci yapısından farklı olarak grafik işlemci birimleri, hafıza değerlerini kolaylıkla değiştirmeye yönelik olarak organize edildiklerinden, yapılan hesaplamaların sonuçlarının hafızaya ne şekilde yazılacağı ve korunacağı bunlardan biridir. Ayrıca ondalıklı sayılarla ilgili hesaplamaların nasıl yapılacağı da üzerinde düşünülmesi gereken konulardan biridir. Diğer bir kısıt ise, programın yanlış sonuçlar yüzünden sonlandırılması gerektiğinde, GPU üzerinde çalışan kodda hata ayıklama yapabilecek bir metodun bulunmamasıdır.

Grafik işlemci birimi (Graphical Processing Unit–GPU), merkezi işlemci birimlerinden farklı olarak görüntü işleme komutlarını çalıştırmak üzere özelleşmiş bir elektronik devreler bütünüdür. Bu birimler, içlerinde bulunan hafıza birimlerini oldukça çok hızlı biçimde yönetirler ve bu şekilde görüntülerin oluşturulmasını sağlayan komutların yüksek performansta çalıştırılmalarını sağlarlar. Merkezi işlemci birimleri genel amaçlı komutların çalıştırılmasını sağlarken, grafik işlemci birimleri görüntü işleme komutları için optimize edildiğinden, görüntü arabirimlerine (monitör, mobil cihaz ekranı vb.) çıktı sağlarlar. Bir bilgisayarda görüntü işlemci birimi, diğer bir deyişle ekran kartı bulunmuyorsa ya da sürücüsü henüz kurulmamışsa, monitördeki görüntünün merkezi işlemci birimi tarafından işlenerek sunulduğu ve kesik kesik olduğu görülecektir. Ekran kartının sisteme katılmasıyla grafikler çok daha hızlı biçimde işlenmeye başlayacak ve görüntü netleşecektir. Grafik işlemci birimleri kişisel bilgisayarlarda, cep telefonlarında, tabletlerde ve oyun konsolları gibi çeşitli sistemlerde kullanılmaktadır. Paralel işlem yapmak üzere özelleşmiş olan bu birimler görüntü işlemede ve bilgisayar grafiğinde etkilidir.

CPU ile GPU Programlama Karşılaştırması

CPU ve GPU ile programlama arasındaki farkları anlamak için yapılması gereken ilk şey, ikisinin işleyiş yapısını karşılaştırmaktır. CPU genellikle seri olarak işlem yapmak için tasarlanmış birkaç çekirdekten oluşmaktadır. GPU ise birden fazla görevi bir arada paralel olarak yapabilmek için tasarlanmış yüzlerce çekirdekten oluşmaktadır. 

Günümüzde GPU hesaplamanın sıklıkla kullanılmaya başlaması, artık CPU programlamanın yerine GPU programlama kullanmanın daha iyi olacağı anlamına gelmemektedir. Her iki yaklaşımın da farklı uygulamalar için avantajları ve dezavantajları vardır.

CPU programlama genellikle sınırlı sayıda kuyrukların çalışacağı uygulamalar için
optimize edilmiştir. GPU ise farklı bir spektrumda programlamayı amaçlamaktadır.
GPU’lar uzun hesaplama komutlarının hâkim olduğu çoklu kuyruklu uygulamalarda kullanılmaktadır. Günümüzde GPU’lar kuyruk işleme, veri önbelleği, sanal bellek yönetimi gibi konularda gelişmeye devam etmektedir. GPU’lar genel olarak görüntü işleme operasyonlarını yürütmek için tasarlanmıştır.

GPU ise birden fazla görevi bir arada paralel olarak yapabilmek için tasarlanmış yüzlerce çekirdekten oluşmaktadır. GPU’lar işlemler arasındaki geçişi hızlı bir şekilde yapabilmektedirler. GPU’larda aritmetik işlem yapan birimler, CPU’lara göre daha fazla sayıda bulunmaktadır. Bu nedenle çok fazla aritmetik işlem gerektiren operasyonları GPU’lar daha hızlı yapabilmektedir. Ayrıca, GPU’lar ile ondalıklı sayı işlemleri günümüzde CPU’lardan 20 kat kadar daha hızlı yapılabilmektedir.

Merkezi işlemci birimleri (Central Processing Unit–CPU), aritmetik ve mantıksal operasyonları gerçekleştiren bir elektronik devreler bütünüdür. İlk işlemciler büyük ve yüksek maliyetli işlemcilerdi ve işlem yapma kapasiteleri düşüktü. Geçmişten günümüze yaşanan teknolojik gelişmeler ile işlemcilerin boyutları küçülmüş, maliyetleri azalmış ve hızları da artmıştır. Günümüz işlemcilerinin ilk işlemcilere göre binlerce kez daha hızlı olduğu söylenebilir. Hatta günümüz mobil cihaz işlemcileri dahi, yalnızca 10 yıl önceki kişisel bilgisayarların işlemcilerinden birkaç kat daha hızlıdır. İşlemcilerin hızlarının artması, birim zamanda yapabildiği iş miktarının, dolayısıyla da hesaplama performanslarının artması anlamına gelmektedir.

İşlemcilerin içindeki elektronik devreler, bir tür saat vuruşu mekanizması ile hareket ederler. Saat vuruşu, dijital bir elektrik sinyalinin 1’den 0’a inişi ya da 0’dan 1’e çıkışı ile tanımlanır. Bir saniye içerisinde bu saat vuruşlarından kaç tane olduğu, o işlemcinin frekansını belirler. Her saat vuruşu yeni bir komut çalıştırılması anlamına geldiğinden, bir işlemcinin frekansı ne kadar yüksekse, birim zamanda çalıştırabildiği komut sayısı da o kadar yüksektir denebilir. Örneğin, 3 GHz frekansa sahip bir işlemci saniyede 3×10⁹ saat vuruşuna sahiptir. Bir komutun işletilmesi birden fazla saat vuruşunda tamamlanabilir. Ancak frekans değeri işlemcinin hızı hakkında fikir vermektedir. Ayrıca günümüzde işlemciler çok çekirdekli olarak üretilmektedir. Çok çekirdekli bilgisayarlar, tek çekirdekli olanlara göre çok daha hızlı çalışmaktadırlar. Daha önce bahsedildiği üzere çok çekirdekli işlemcilere sahip bilgisayarlarda paralel hesaplama teknikleri kullanılarak, iş yükü birden fazla işlemcinin üzerine paylaştırılabilir ve çözüm daha kısa sürede elde edilebilir.

CUDA’nın avantajları olduğu gibi bazı kısıtları da vardır. Bunlardan en önemlisi standart C kütüphanelerini tamamen desteklememesidir. Standart C’de derlenebilen bazı kodlar, CUDA C’de derlenememektedir. Ayrıca gerçekleme (rendering) dillerinden OpenGL ile çalışabilirliği tek yönlüdür. Yani, OpenGL kayıtlı CUDA hafızasına ulaşabilirken, CUDA OpenGL hafızasına erişememektedir.

GPU’lar grafikler üzerinde yüksek performanslı paralel işlem yapabildiği için videolar için de çeşitli kullanım alanları vardır. Bunlar video düzenleme, efekt ekleme, dijital animasyon, gerçekleme gibi işlemlerdir. Günümüzde Adobe gibi birçok firma animasyon ve simülasyonlar için çoklu GPU programlamayı kullanmaya başlamıştır.

CUDA (Compute Unified Device Architecture), GPU programlama için NVIDIA firmasının sunduğu C, C++, Fortran gibi programlama dilleriyle birlikte kullanılabilen mimari ve teknolojidir.