Satya Nadella'dan Yapay Zeka Alanında Kritik Uyarılar
- Microsoft CEO'su Satya Nadella, yapay zeka (YZ) modellerini kullanan şirketleri 'çift ödeme' yapmakla uyardı.
- Nadella'ya göre şirketler, YZ hizmetleri için para öderken aynı zamanda değerli iş bilgilerini de YZ sağlayıcılarıyla paylaşarak dolaylı bir ödeme yapıyor.
- Bu durumun, şirketlerin rekabet avantajlarını kaybetme riskini artırdığı belirtildi.
Satya Nadella, Yapay Zeka Sektöründe Yeni Bir Tartışma Başlattı
Yapay zeka teknolojilerinin potansiyel risklerine dair süregelen tartışmalar arasında, Silikon Vadisi'ndeki YZ meraklıları arasında en çok endişe yaratan konulardan biri, büyük YZ laboratuvarlarının özel modellerini satarken birer Truva atı gibi hareket etme olasılığı. Bu endişe, startup'lar ve kurumsal firmalar OpenAI ve Anthropic gibi laboratuvarlardan YZ modellerini kullandıkça, bu laboratuvarların müşterilerinin en hassas iş bilgilerine giderek daha fazla erişim kazanabileceği ve bu bilgileri kendi çıkarları için kullanabileceği yönünde. Bu uyarıları dile getirenler arasında yatırımcılar Jason Calacanis ve Palantir CEO'su Alex Karp gibi isimler de bulunuyor. Şimdi ise Pazartesi günü yayınlanan şaşırtıcı bir blog yazısıyla Microsoft CEO'su Satya Nadella da bu kervana katıldı. Nadella, YZ kullanıcılarını (kendi deyimiyle 'alıcıları') iki kez ödeme yapmakla uyararak, YZ token kullanımı için bilerek para harcadıklarını ancak aynı zamanda farkında olmadan değerli verilerini de sunduklarını belirtti. Nadella, "Zekayı aslında iki kez ödüyorsunuz, birincisi para ile, ikincisi ise daha da değerli bir şeyle: zekayı kullanışlı kılmak için açıklamak zorunda kaldığınız özel bilgilerle. Modelin performansını ne kadar iyi isterseniz, o kadar çok bilgiyi beslemeniz gerekiyor!" ifadelerini kullandı.
Kurumsal Verilerin YZ Modellerini Eğitmedeki Rolü
Nadella, en tehlikeli bulduğu noktanın, işletmelerin modelleri kendi işlerinin incelikleri hakkında doğrudan eğittiğini savunması olduğunu belirtti. Modellerin, insanların yazdığı komutlar ('exhaust'), ajanların kullandığı araçlar ve özellikle model yanlış yaptığında yapılan düzeltmelerden öğrendiğini ifade eden Nadella, "Her düzeltme kurumsal bilgi birikimine damıtılır" dedi. Bu durumun, "bir rakibin asla satın alamayacağı türden bir bilgi" olduğunu ancak işletmelerin bunu isteyerek sunduğunu vurguladı.
Model Üreticilerine Karşı Adil Kullanım Hakkı Talebi
Nadella, YZ şirketlerinin interneti serbestçe tarayarak modellerini eğitmelerine izin verilirse, işletmelerin de bu modelleri inceleyerek veya "damıtarak" geri bildirimde bulunmalarının adil olacağını savundu. "Damıtma" (distillation), bir modelin kendi çıktılarını kullanarak onun nasıl çalıştığını öğrenme ve bu bilgilerle yeni, genellikle daha ucuz bir model eğitme pratiğidir. Şubat ayında Anthropic, Çin'in açık kaynaklı modellerini kendi modellerini iyileştirmek amacıyla Claude'a milyonlarca komut göndermekle suçlamış ve ABD hükümetinden ihracat kontrollerini sıkılaştırmasını istemişti. Nadella'nın temel argümanı, model üreticilerinin iki farklı standart uygulayamayacağı yönünde. Dünya verileri üzerinde serbestçe eğitim yaparken, başkalarının kendi modellerini incelemesini kısıtlamalarının ikiyüzlülük olduğunu belirtti. Microsoft CEO'su, "Model sağlayıcılarının halka açık veriler üzerinde model eğitmek için adil kullanım haklarına sahip olmasından gelen büyük yenilikler gerekirken, damıtma üzerinde kısıtlayıcı şartlar dayatılmasının statükosunu ironik buluyorum" diye yazdı. Nadella, özellikle model üreticilerinin "müşteri kullanım ve etkileşim verilerinden öğrenme hakkını saklı tutmaları" durumundan endişe duyuyor.
Microsoft Azure ve Açık Kaynak Modellerin Yükselişi
Nadella'nın çözüm önerisi, büyük bir bulut sağlayıcısının CEO'sundan beklenecek türden bir yaklaşım sergiliyor. Şirketlerin, komutlar ve geri bildirimler dahil olmak üzere verilerinin "sahipliğini elinde tutmalarını" istediğini, bu nedenle kendi "özel öğrenme ortamlarını" bulutta inşa etmelerini önerdiğini belirtti. Bu durum, verilerinin muhtemelen zaten orada depolandığı ve Microsoft'un bulutu Azure'u işaret edebileceği anlamına geliyor. Ayrıca şirketlerin, farklı sağlayıcılardan YZ modelleri arasında geçiş yapmayı kolaylaştıran ve onları tek bir sağlayıcıya kilitlemeyen "orkestrasyon katmanları" oluşturmalarını da istiyor. Şirketlerin tam olarak bunu yapmalarını sağlayan YZ "ağ geçitleri" gibi araçlar giderek daha popüler hale geldi. Nadella, "açık kaynak" kelimesini sahipliği koruma yöntemi olarak hiç kullanmasa da, bu durumun bariz bir alt metni olduğu görülüyor. Ancak başka bir alt metin daha var: Kendi veri merkezlerinin bir kısmına sahip olmaya devam eden birçok büyük şirket, bulutu kullanmanın yanı sıra, kendi tesislerinde ("on-prem") kurulu açık kaynak modellere yöneliyor. Solo.io'nun kurucusu ve CEO'su Idit Levine, kurumsal müşterileriyle tam olarak bu değişimi gördüğünü söylüyor. Özel model üreticileriyle deneyimler yaşadıktan sonra, "Açık kaynaklı bir modeli alıp kendi tesislerimde çalıştırabilir miyim? Büyüklerin yaptığı işlerin neredeyse %90'ını yapacaktır. Çok daha ucuza mal olacak" diye soruyorlar. Levine, şirketlerin bunu anladıklarını ve kontrol edebildiklerini belirtiyor. Solo.io'nun teknolojisi geçen yıl Linux Foundation'ın Agentgateway projesini destekleyen teknoloji olarak seçildi. Şirketin T-Mobile, ADP ve SAP gibi kurumsal müşterileri bulunuyor. Levine, şirketlerin giderek artan sayıda şirket içi açık kaynak modelleri kurduğunu ve bunu kurumsal YZ kullanımında bir sonraki büyük dalga olarak gördüğünü ifade ediyor. Bu yalnız değil. Vercel - web siteleri oluşturma ve barındırma platformu olarak biliniyor ve yakın zamanda YZ model değiştirme araçları ekledi - ve OpenRouter, geliştiricilerin farklı YZ modelleri arasında istekleri yönlendirmelerine yardımcı olan bir şirket - her ikisi de açık kaynak modellere olan trafiğin arttığını görüyor. Hatta açık modeller, geçen ay Vercel'in ağ geçidinden yönlendirilen tüm trafiğin %29'unu oluşturdu.
Satya Nadella'nın Çift Ödeme Uyarısının Sektörel Etkileri
Microsoft CEO'su Satya Nadella'nın yapay zeka kullanıcılarına yönelik "çift ödeme" uyarısı, sektörde önemli yankı uyandırdı. Bu gelişme, kurumsal firmaların yapay zeka stratejilerini yeniden gözden geçirmelerine neden olabilir. Şirketler, sadece YZ hizmetleri için ödeme yapmakla kalmayıp, aynı zamanda rekabet avantajlarını korumak adına veri gizliliğine ve güvenliğine daha fazla odaklanmak zorunda kalacaklar. Açık kaynaklı YZ modellerinin ve şirket içi (on-premise) çözümlerin popülerliğinin artması bekleniyor. Bu durum, bulut sağlayıcıları ve YZ modeli geliştiricileri arasında yeni bir rekabet dinamizmi yaratabilir. Kurumsal firmalar, veri sahipliğini koruma ve YZ modellerini daha stratejik kullanma yönünde adımlar atarken, YZ sağlayıcılarının da daha şeffaf ve adil kullanım politikaları benimsemesi gerekecek.
Anlık Nokta Editoryal Değerlendirmesi:Satya Nadella'nın yapay zeka modellerinin kullanımına ilişkin getirdiği "çift ödeme" eleştirisi, sektördeki mevcut dengeleri sorgulatıyor. Şirketlerin, YZ'nin sunduğu potansiyelden faydalanırken, veri gizliliği ve rekabet avantajlarını koruma arasındaki hassas dengeyi kurmaları kritik önem taşıyor. Bu durum, gelecekte YZ teknolojilerinin geliştirilmesi ve kullanımında daha şeffaf ve güvenli modellere olan ihtiyacı artıracaktır.
Nadella'ya göre şirketler, yapay zeka modellerini kullanmak için para öderken, aynı zamanda modelleri eğitmek için paylaştıkları değerli iş bilgilerini de dolaylı olarak ödemiş oluyorlar. Bu durum, onların rekabet gücünü zayıflatabilir.
Bu uyarı, özellikle OpenAI ve Anthropic gibi büyük yapay zeka modellerini kullanan startup'lar ve kurumsal firmalar için geçerlidir. Bu firmalar, hassas iş bilgilerini YZ sağlayıcılarıyla paylaşma riski altındadır.
Nadella, şirketlerin verilerinin sahipliğini ellerinde tutmalarını ve kendi özel öğrenme ortamlarını bulutta inşa etmelerini öneriyor. Ayrıca, farklı YZ modelleri arasında kolayca geçiş yapmayı sağlayan "orkestrasyon katmanları" oluşturulmasını tavsiye ediyor.
Nadella'nın önerileri, açık kaynaklı YZ modellerinin ve şirket içi (on-premise) çözümlerin kullanımını teşvik ediyor. Bu, şirketlere veri üzerinde daha fazla kontrol imkanı sunuyor ve maliyetleri düşürebiliyor.
Nadella'nın uyarısı, YZ sağlayıcılarının daha şeffaf politikalar izlemesi ve kurumsal firmaların veri güvenliği ile model seçimlerine daha stratejik yaklaşması gerektiği yönünde bir baskı oluşturabilir. Açık kaynak modellere olan ilgi artabilir.
