NVIDIA 5 trilyon dolarla dalga yaratıyor! CUDA kalesi, dünya çapında AI şirketlerinin kaçmasına izin vermiyor.

30 Ekim'de, Nvidia'nın piyasa değeri 5 trilyon doları aştı ve bu, dünyada bu kilometre taşına ulaşan tek şirket oldu. Ancak şok edici bir durumun yanı sıra, büyük bir kafa karışıklığı da ortaya çıktı: AI çipleri bu kadar kazançlı bir sektörse, neden sadece Nvidia'nın para kazandığını görebiliyoruz? Cevap, Nvidia'nın yaklaşık 20 yıl süren bir süreçte inşa ettiği koruma kalkanında - CUDA'da; bu birleştirilmiş hesaplama mimarisi, dünya çapında 4.5 milyondan fazla geliştiriciyi kendine bağlıyor.

NVIDIA'nın rakipleri hepsi üst düzey ustalar, neden hala kimse onlara karşı koyamıyor

NVIDIA'nın gerçekten bir rakibi var mı? Evet. Çok fazla. Ayrıca, her biri son derece yetenekli. Gözlerimizi çevirdiğimizde, en az üç ağır “rakip” sayabiliriz. Örneğin, AMD. O, NVIDIA'nın yarı iletken alanındaki onlarca yıllık rakibidir. Teknoloji ve deneyim açısından, kesinlikle NVIDIA ile mücadele edecek en nitelikli oyunculardan biridir. Örneğin, Intel. O, bir zamanların "çip egemeni"dir. Üretim kapasitesi güçlü, müşteri tabanı büyük. Örneğin, Google. Neredeyse sonsuz kaynaklara sahip ve dünyanın en iyi AI ekiplerinden birine sahip. Ayrıca, kendi özel AI çipini geliştiriyor.

Görüyorsun, bu üç devden hangisinin ismi dünya çapında duyulmuyor ki? Ancak bu, sorunu daha da keskinleştiriyor: masada kesinlikle hepsi usta, ama bahisler, sanki tek bir oyuncunun elinde. Peki bu neden böyle?

Önce cevabı söyleyeyim, çünkü Nvidia bir sistem kullanarak, son derece yüksek “göç maliyeti” ile müşteri tabanını sıkı bir şekilde elinde tutuyor. Belki de Nvidia'nın çipleri en hızlısıdır, en iyisidir diyeceksiniz. Ama aslında bu cevap yeterince titiz değil. Şöyle bir senaryo hayal edin: AMD'nin CEO'su Lisa Su, OpenAI'nin ofisine giriyor ve CEO Sam Altman'a çok cazip bir teklif sunuyor. AMD'nin tamamen yeni GPU çipleri, Nvidia'nın B200'ünden %30 daha yüksek performansa sahip ve fiyatı da yarı yarıya daha ucuz.

Eğer şimdi Sam Altman isen, bu "sipariş"i imzalarsın mı, yoksa imzalamaz mısın? Tahmin etmeme izin ver, büyük ihtimalle Sam Altman imzalamayacak. En azından çok çok tereddüt edecek. Neden mi? Karşısında daha ucuz ve daha verimli bir seçenek olmasına rağmen onu heyecanlandırmıyor mu? Çünkü fiyat, tüm sürecin sadece küçük bir parçasıdır. Ticari teknoloji yatırımlarında, TCO çerçevesinden (toplam sahip olma maliyeti) bakmak gerekir. Bu sadece en doğrudan etiket fiyatını değil, aynı zamanda çeşitli dolaylı ve gizli maliyetleri de içerir.

Milyarlarca dolara ulaşan gömülü tuzakların taşınma maliyeti

Eğer OpenAI gerçekten NVIDIA'dan AMD'ye geçerse, ne olur? Doğrudan sonucu söylemek gerekirse, en önemli insan gücü maliyetleri, kod taşınma maliyetleri, işletme maliyetleri ve fırsat maliyetleri büyük ölçüde artacaktır. Ve bu değişikliklerden herhangi biri doğrudan hayatiyetimizi belirleyebilir.

Düşün, platform değiştiği zaman o binlerce üst düzey mühendis ne olacak? Onların on yılı aşkın tecrübeleri bir gecede sıfırlanıp yeniden mi öğrenmeleri gerekecek? Bu ne kadar büyük bir eğitim maliyeti demek? Ve o milyonlarca satırlık kod ne olacak? Bu basit bir “kopyala-yapıştır” değil. Bu, güneydeki lychee'leri kuzeye dikmek gibi. Sadece söküp almakla olmuyor, bunun için çok fazla araştırma, test yapman gerekiyor ve çok fazla zaman harcaman lazım. AI tam olarak böyle, sonunda başarılı olup olmayacağı henüz kesin değil.

Ayrıca, platform değişikliği sırasında, iki tamamen farklı platformu aynı anda işletip bakımını yapmak anlamına geliyor. İçindeki maliyet, muhtemelen iki katına çıkacak. En büyük sorun ve en büyük risk ise, fırsat maliyetinin çok yüksek olması. AI bu yarışta, saniyeler bile önemli. Eğer yalnızca bir platform değiştirmek için araştırma ve geliştirme geri kalırsa veya model birkaç ay gecikmeli yayınlanırsa, muhtemelen endüstri liderinden takipçiye dönüşür.

OpenAI'nin platform değiştirme gizli maliyetleri listesi

İnsan Gücü Maliyeti: Bin mühendis yeniden eğitilecek, deneyim sıfırlanacak, zaman maliyeti yıllar alacak.

Kod Göçü: Milyonlarca satır CUDA kodunun yeniden yazılması, test ve doğrulama zaman alıcı ve zahmetli.

İki Platform Bakımı: Taşınma süresince iki sistem aynı anda çalışacak, maliyet iki katına çıkacak.

Fırsat Maliyeti: Ar-Ge sürecinin rakiplerin gerisinde kalması, liderden takipçiye dönüşme riskini taşımaktadır.

Risk Maliyeti: Göç başarısızlığı, model performansının düşmesine neden olabilir, ticari etkileri ölçmek zordur.

Bu nedenle, çeşitli doğrudan maliyetler ve dolaylı maliyetler toplandığında, “tedarikçiyi kilitleme” sonucuna ulaşılmış olur. Açıkça söylemek gerekirse, yazılımdan donanıma kadar her şeyi sana sıkı bir şekilde bağlıyorum. Uzun vadede, bu aslında AI şirketlerinin en iyi çözümü, çünkü gelecekteki sözleşme süresi içinde donanım için endişelenmek zorunda kalmıyorlar. Şimdi, geri dönüp AMD'nin “performansı %30 daha yüksek, yarı fiyatına” siparişine bakınca, hâlâ cazip geliyor mu? Cevap hayır. Donanımda tasarruf edilen milyonlarca dolar, muhtemel on milyarlarca dolarlık göç maliyeti ve potansiyel stratejik riskle kıyaslandığında önemsiz.

CUDA ekosistemi AI çağının Windows'u

(Kaynak: X)

Buraya geldiğinizde, Nvidia'nın gerçekten müşterilerini kilitlediğini fark etmiş olmalısınız; bu, donanımı değil. Görünmeyen ve dokunulamayan bir “tuzağı”. Buna “Nvidia kalesi” olarak adlandırılan CUDA denir. CUDA'nın tam adı Compute Unified Device Architecture (Birleşik Hesaplama Cihazı Mimarisi). Kısacası, bu, programcıların Nvidia GPU'larını daha iyi kullanabilmeleri için bir programlama aracıdır.

Eğer NVIDIA'nın GPU'ları AI çağının “bilgisayar ana üssü” ise, o zaman CUDA da AI çağının "Windows sistemi"dir. Düşünün ki, neden on yıllardır teknik olarak daha üstün ve ücretsiz olan Linux, kişisel masaüstü pazarında Windows'un egemenliğini asla sarsamadı? Cevap, sistemin kendisi değil, ekosistemdir.

Çünkü Windows üzerindeki o büyük uygulama ekosistemi çok güçlü. Microsoft'un ofisinden, Adobe'ye, çeşitli endüstri spesifik yazılımlara kadar hepsi bütün ekosistemle ayrılmaz bir şekilde bağlı. Düşünün ki, birçok profesyonel yazılıma ihtiyaç duyan bir şirket, Windows lisansı almak ile çalışanları yeniden eğitme maliyeti arasında nasıl bir seçim yapar? Cevap, söze gerek yok.

CUDA, işte böyle, muazzam bir uygulama ekosistemine sahip. Birçok işletme ve birey için bu, zorunlu bir seçenek. Şu ana kadar yapılan istatistiklere göre, dünya genelinde 450 binden fazla geliştirici CUDA kullanarak geliştirme yapıyor. 2020 yılında bu rakam 180 bindi. CUDA araç setinin aylık indirme sayısı, yüz binlerce kez oluyor.

20 yıllık kumar, kimsenin ummadığı noktadan, vazgeçilmez hale geldi

2006 yılında, CUDA piyasaya sürüldüğünde, kimse umursamadı, Silikon Vadisi ve Wall Street pek umutlu değildi. 2008 yılına gelindiğinde, finansal krizin etkisiyle, NVIDIA'nın hisseleri bir ara %80'den fazla düştü, piyasa değeri yaklaşık 4 milyar dolardı. Hatta NVIDIA içinde bile, CUDA'nın geleceği konusunda görüş ayrılıkları vardı. Aynı zamanda, CUDA'yı geliştirmek için harcanan maliyet de oldukça yüksekti. NVIDIA'nın CUDA'yı destekleyen ilk GPU'su G80'dir. Bu çipi geliştirmek için NVIDIA tam 4 yıl harcadı, maliyet 475 milyon dolara ulaştı ve bu, o 4 yıl içindeki toplam araştırma ve geliştirme bütçesinin üçte birine tekabül ediyordu.

O zamanlar, gerçekten de yaşam ve ölüm meselesiydi. Ne yapmalı? Huang Renxun bir çözüm düşündü: Para harcamak. Öncelikle okullara ve araştırma kurumlarına para harcamak. Para bağışları ve ekipman bağışları yoluyla CUDA'yı üniversitelere sokarak, eğitim ve araştırma alanındaki kullanıcıları yetiştirmeye başladı. Ayrıca, dünya genelinde çeşitli CUDA Ar-Ge merkezleri, eğitim merkezleri kurarak ve eğitim kursları açarak da destek sağladı. O zamanlar, her yıl CUDA'ya harcanan Ar-Ge maliyeti 500 milyon doları buluyordu.

Her ne kadar çokça emek, malzeme ve finans harcansa da, CUDA uzun bir süre boyunca pek umut verici görülmedi. 2013 yılı başında, birçok yatırım analisti, yalnızca CUDA'dan vazgeçip PC oyunlarının ana işine geri dönülmesi durumunda Nvidia'nın hisse fiyatının yükselebileceğini düşündü. Hatta bazıları, Jensen Huang'ın bu CEO'luk görevini sürdürebilip sürdüremeyeceğini sorguladı. Şu anda baktığımızda, Nvidia'nın CUDA'sı bir kumardı. Üstelik, doğru bir kumardı.

CUDA'nın neden kimsenin dikkatini çekmediğinden, popüler bir hale geldiğine? Çünkü CUDA öğrenen mezunlar teknoloji şirketlerine girdi, CUDA'nın topluluk kaynakları ve kod kütüphanesi giderek zenginleşti. 2015 yılı itibarıyla, dünya genelinde 800'den fazla üniversite CUDA dersleri vermeye başladı. Zamanla, CUDA'nın kullanım alanları üniversitelerden sağlık, ticaret gibi daha fazla alana yayıldı. Yapay zeka alanıyla “el ele” olmasına gelince, bunu tamamen bir “tesadüf” olarak söyleyebiliriz.

2012 yılında Stanford Üniversitesi tarafından başlatılan küresel bir AI görüntü tanıma yarışmasında, Toronto Üniversitesi'nden oluşan üç kişilik bir ekip, AlexNet adında bir AI sinir ağı sundu ve birinciliği kazandı. Ayrıca, başarı oranı ikinci sıradakinden %41 daha yüksekti. Bunu nasıl başardılar? Ekip, 2 adet NVIDIA GTX 580 GPU kullandıklarını ve yarışmadaki tek CUDA ile sinir ağı eğitimi yapan ekip olduklarını belirtti.

O zamanlar, Google da bu ekibe dikkat etti. AlexNet'in daha önce sadece iki adet GPU ekran kartı kullanarak elde ettiği sonuçların, Google'ın 16000 CPU ile eğittiği sonuçlarla neredeyse aynı olduğunu keşfettiler. Kısa süre içinde, tüm sektör GPU'nun AI'yi desteklemek için en iyi donanım olduğunu fark etti. Ve NVIDIA, muhtemelen AI gelişiminin anahtarı haline gelecektir.

Rakiplerin Mücadelesi: AMD Açık Kaynak, Intel Segmente, Google Kendi Geliştiriyor

CUDA'yı anladıktan sonra, NVIDIA'nın rakiplerine baktığınızda, her adımının NVIDIA tarafından sıkı bir şekilde sınırlandırıldığını göreceksiniz. Örneğin AMD, açık kaynak seçimini yaptı. ROCm adında bir açık kaynak platformu geliştirdi, amacı CUDA'nın yerini almak. Ancak, bu “AI döneminin Linux'u” gibi, ücretsiz, açık kaynak, teknik potansiyele sahip, daha ucuz. Ama kullanıcılar için geçiş maliyeti çok yüksek.

Örneğin Intel, niş pazarları seçiyor. Intel akıllı bir şekilde, Nvidia'nın AI yüksek pazarında çok önde olduğunu kabul ediyor. Bu nedenle, Intel Gaudi serisi çiplerini kurumsal düzeyde çıkarım ve küçük ile orta ölçekli model eğitimleri gibi niş pazarlara konumlandırıyor. Ancak bu, Intel'in AI çip pazarındaki en karlı kısımdan vazgeçtiği anlamına geliyor.

Örneğin Google, doğrudan mücadele etmeyi seçti. Investopedia'nın haberine göre, Nvidia'nın GPU satışlarındaki brüt kar marjı yaklaşık %80, sektörde buna “Nvidia vergisi” deniyor. Yüksek prim ödememek için Google, 2015 yılından itibaren kendi araştırma ve geliştirmesini yapmaya başladı ve iç kullanım için TPU adında bir hesaplama ekosistemi geliştirdi. Buna karşın, TPU Google'ın iç platformuna derinlemesine bağlı olduğundan, Nvidia'nın konumunu etkilemiyor.

Yani görüyorsun, o dev rakipler sadece performanslarını karşılaştırmıyor, aynı zamanda strateji de geliştiriyor. Hepsi CUDA'dan ve NVIDIA'dan kaçmanın yollarını arıyor. Ancak en azından şu anda, kimse sarsılamıyor. Tüm rakipler dağ etrafında dolaşıyor, bu kendisi, bu tırmanması zor dağa en yüksek saygıyı ifade ediyor.

Girişimcilere İlham: Savunma Duvarı Eşsizdir

NVIDIA, kimsenin ummadığı bir noktadan, bugün herkesin dikkatini çeken bir konuma geldi. Bu yolculuk gerçekten insanı son derece etkiliyor. İnternette bazı kişiler endişelerini dile getiriyor: NVIDIA bu kadar yükseğe çıktı, bu çok abartılı, bir balon mu? İkinci bir Cisco mu olacak? 2000 yılındaki internet balonu döneminde, o zamanın Cisco'su internet donanım tedarikçisiydi, en yüksek değerlemesi gelecekteki fiyat/kazanç oranının 150 katını geçti. Ancak balon patladıktan sonra, birdenbire düşüş yaşadı.

Aslında, aralarında köklü farklılıklar var. Cisco, “bir kerelik” inşaat pazarlarıyla karşı karşıya. Erken dönem interneti “boruları döşediğinde”, Cisco'nun büyümesi doğal olarak durdu. Ancak NVIDIA, sürekli büyüyen bir pazarla karşılaşıyor. En azından şu anda, AI hala büyümekte, bu nedenle bu “silahlanma yarışı” henüz bir son görmüyor. Daha da önemlisi, NVIDIA'nın müşterileri, Microsoft, Google, Meta gibi dünyadaki en zengin devlerdir. Onlar için, NVIDIA'nın çiplerini satın almak bir seçim değil, AI çağında hayatta kalmanın bir gerekliliğidir.

Elbette, gelecekte ne olacağını kimse tahmin edemez. Belki bir gün, aniden yeni bir algoritma ortaya çıkar ve bu da GPU'ların önemini azaltarak tüm oyun kurallarını değiştirebilir. Ama en azından şu anda, Nvidia'dan çok önemli bir ders alabiliriz. Sizin koruma hendekleriniz nedir? Rakiplerimden daha iyi, daha hızlı veya daha ucuz bir ürün mü üretmekle ilgili değil; asıl soru şu: “Ürünümün, müşterilerin terk edemeyeceği bir ekosistemi var mı?”

Aslında, Nvidia'nın 5 trilyon dolarlık piyasa değeri, bu sorunun en çarpıcı cevabıdır. Bu, ticaret dünyasında en basit ve en önemli temel mantığı kanıtlar. En derin koruma hendeği, fiyat ve performansla oluşturulmaz, seni vazgeçilmez kılmakla ilgilidir.