Yapay zeka teknolojileri alanında faaliyet gösteren şirketlere, geliştirdikleri özelliklere insan bilişsel süreçlerini çağrıştıran isimler verme konusunda bir çağrı yapılıyor. Anthropic'in yapay zeka ajanları için tanıttığı "rüyacılık" (dreaming) özelliği, bu konudaki tartışmaları yeniden alevlendirdi.
Yapay Zeka Özelliklerinde Antropomorfizm Tartışması
Anthropic, San Francisco'da düzenlenen geliştirici konferansında, yapay zeka ajanlarının "anıları" (memories) ayıklamasına yardımcı olacak yeni bir özellik olan "rüyacılık"ı duyurdu. Bu özellik, bir yapay zeka ajanının tamamladığı bir görevin dökümünü inceleyerek, performansını artıracak içgörüler elde etmeyi amaçlıyor. Yapay zeka ajanları, çevrimiçi görevleri otomatikleştirmek için tasarlanmış araçları yönetmek ve dağıtmak üzere kullanılıyor. "Rüyacılık" özelliği sayesinde ajanlar, faaliyet kayıtlarındaki kalıpları tespit ederek bu içgörülere dayanarak yeteneklerini geliştirebiliyor.
Bu özelliğin ismi, Philip K. Dick'in "Androidler Elektrikli Koyun Düşler mi?" adlı bilim kurgu romanını akla getiriyor. Roman, insanları güçlü makinelerden ayıran nitelikleri sorguluyor. Mevcut üretken yapay zeka araçları, romandaki makinelerin seviyesine ulaşmasa da, insan bilişsel süreçlerinden esinlenen isimlerin yapay zeka özelliklerine verilmesi eleştiriliyor.
Anthropic'in blog yazısında, "Bellek ve rüyacılık birlikte, kendi kendini iyileştiren ajanlar için sağlam bir bellek sistemi oluşturur" ifadesi yer alıyor. "Bellek, her ajanın çalıştıkça öğrendiklerini yakalamasına olanak tanır. Rüyacılık, oturumlar arasında bu belleği iyileştirir, ajanlar arasındaki paylaşılan öğrenmeleri bir araya getirir ve güncel tutar."
Pazarlama Stratejileri ve Etkileri
2022'deki sohbet robotu devriminden bu yana, yapay zeka şirketlerinin liderleri, üretken yapay zeka araçlarının yönlerini insan beyninde olup bitenlere benzeyen isimlerle adlandırma konusunda oldukça istekli davrandı. OpenAI, 2024'te "düşünme" süresi gerektiren ilk "akıl yürütme" modelini piyasaya sürdü. Şirket, bu sürümü o zamanlar "yanıt vermeden önce daha fazla düşünme süresi harcamak üzere tasarlanmış yeni bir yapay zeka modeli serisi" olarak tanımlamıştı. Çok sayıda startup da sohbet robotlarının kullanıcı hakkında "anılara" sahip olduğundan bahsediyor. Bunlar, bir bilgisayarın "belleği" olarak adlandırılan hızlı depolama yerine, daha çok insan benzeri bilgi parçacıklarıdır: Örneğin, kullanıcının San Francisco'da yaşadığı, öğleden sonra beyzbol maçlarını sevdiği ve kavun yemeyi sevmediği gibi.
Bu, yapay zeka liderleri tarafından kullanılan tutarlı bir pazarlama yaklaşımıdır. Bu liderler, insanların yaptıklarını makinelerin yapabildikleriyle bulanıklaştıran markalaşmaya devam ediyor. Claude gibi sohbet robotlarının belirli "kişiliklere" sahip olması, kullanıcılara derin bir iç yaşama potansiyeli olan, hatta dizüstü bilgisayar kapalıyken bile rüya görebilecek bir şeyle konuşuyormuş gibi hissettirebilir.
Anthropic'te bu insanlaştırma, pazarlama stratejilerinin ötesine geçiyor. Anthropic'in Claude'un nasıl davranması gerektiğini açıklayan anayasasının bir bölümünde, "Claude'u insanlara ayrılan terimlerle (örneğin, 'erdem', 'bilgelik') tartışıyoruz" ifadesi yer alıyor. "Bunu yapıyoruz çünkü Claude'un akıl yürütmesinin, insan metninin Claude'un eğitimindeki rolü göz önüne alındığında varsayılan olarak insan kavramlarına dayanmasını bekliyoruz; ve Claude'u belirli insan benzeri nitelikleri benimsemeye teşvik etmenin aktif olarak arzu edilir olabileceğini düşünüyoruz." Şirket, botun "değerlerini" anlamlandırmak için yerleşik bir filozof bile istihdam ediyor.
Bu durum sadece kelimelerle ilgili bir titizlik değil. Bu makineler hakkında konuşma şeklimiz, onların neler başarabileceğini düşündüğümüzü etkiliyor. "Yapay zeka ve Etik" dergisinde yayınlanan bir araştırma makalesinde, "Antropomorfizm bir yanılgı olarak, yapay zekayla ilgili ahlaki yargıları, örneğin ahlaki karakteri ve statüsüyle ilgili olanları, ayrıca sorumluluk ve güven yargılarını bozduğu gösterilmiştir" deniyor. Botlar hakkında daha mesafeli bir dil kullanmayarak, kullanıcılar araçlara aşırı güvenme ve onlara gerçekten orada olmayan nitelikleri yansıtma riskiyle karşı karşıya kalıyorlar.
Yapay zeka üstünlerimizin atıfta bulundukları bilim kurgu filmlerini gerçekten izlemeleri için daha fazla zaman harcamaları gerektiği gibi, bu şirketleri yöneten güçlü insanların da bu klasik bilim kurgu romanlarını daha fazla okumaları gerektiğini düşünüyorum. Dick'in kitabının sonlarına doğru, kahraman nadir bulunan bir kurbağayla dairesine döner ve bunun canlı bir hayvan olduğuna ikna olur, ta ki karısı kontrol panelini açarak bunun sadece bir makine olduğunu kanıtlayana kadar. Romandan alınan bir pasajda, "Hayal kırıklığına uğramış, sahte hayvana sessizce baktı; ondan geri aldı, bacaklarıyla şaşkınmış gibi uğraştı - tam olarak anlamıyor gibiydi" deniyor. Benzer şekilde, teknoloji liderleri de kendi insan dışı araçlarının sınırlamalarını kabul edemiyor veya en azından isteksiz görünüyorlar.
