Yapay zeka (YZ) araçlarının kısa süreli kullanımı dahi, bireylerin problem çözme ve düşünme becerileri üzerinde şaşırtıcı derecede olumsuz etkilere yol açabilir. Carnegie Mellon, MIT, Oxford ve UCLA'dan araştırmacıların yürüttüğü yeni bir çalışma, YZ asistanlarına bağımlılığın bilişsel yetenekleri nasıl köreltebileceğine dair endişe verici bulgular ortaya koyuyor.
Araştırmanın Detayları ve Bulguları
Araştırmacılar, katılımcılara basit kesirler ve okuduğunu anlama gibi çeşitli problemler sundu. Deneyler sırasında, bazı katılımcılara problemleri otonom olarak çözebilen bir YZ asistanı erişimi sağlandı. Bu YZ yardımının aniden kaldırılmasıyla birlikte, bu katılımcıların problemi yarıda bırakma veya yanlış cevap verme olasılıklarının önemli ölçüde arttığı gözlemlendi. Çalışma, YZ'nin yaygın kullanımının, temel problem çözme becerilerinin gelişimini feda ederek üretkenliği artırabileceği yönünde bir uyarıda bulunuyor.
Çalışmaya dahil olan MIT'den yardımcı profesör Michiel Bakker, eğitimin veya iş yerlerinin YZ kullanımını yasaklaması gerektiğini belirtmiyor. Bakker'a göre YZ, anlık performans artışı sağlayarak değerli katkılarda bulunabilir. Ancak Bakker, YZ'nin ne tür bir yardım sağladığı ve bu yardımın ne zaman sunulduğu konusunda daha dikkatli olunması gerektiğini vurguluyor.
Bakker, YZ'nin insanları zamanla nasıl daha az yetkin hale getirebileceğine dair ilham aldığını belirtiyor. Bu durumun kaçınılmaz olabileceği yönündeki görüşler olsa da, YZ'nin insanların kendi zihinsel yeteneklerini geliştirmelerine nasıl yardımcı olabileceğinin modellerin insan değerleriyle uyumlandırılmasının bir parçası olması gerektiğini düşünüyor.
Bakker, bu araştırmanın özellikle endişe verici olduğunu çünkü bir bireyin problem çözmeye devam etme istekliliğinin yeni beceriler kazanmada kritik öneme sahip olduğunu ve zamanla öğrenme kapasitesini öngördüğünü ifade ediyor. Bakker, YZ araçlarının çalışma şeklinin yeniden düşünülmesinin gerekebileceğini, modellerin bazen bir problemi kendileri çözmek yerine, iyi bir insan öğretmen gibi bireyin öğrenmesini önceliklendirmesi gerektiğini savunuyor. Doğrudan cevap veren sistemlerin, kullanıcıyı destekleyen, koçluk yapan veya zorlayan sistemlerden farklı uzun vadeli etkilere sahip olabileceğini belirtiyor. Ancak bu tür bir 'paternalist' yaklaşımı dengelemenin zor olabileceğini kabul ediyor.
YZ şirketleri, modellerinin kullanıcılar üzerindeki daha ince etkilerini zaten göz önünde bulunduruyor. OpenAI, bazı modellerin kullanıcılarla hemfikir olma ve onları pohpohlama eğilimini (sycophancy) yeni GPT sürümleriyle azaltmaya çalıştı. Özellikle araçların beklendiği gibi davranmayabileceği durumlarda, YZ'ye aşırı güvenmek sorunlu görünüyor. Karmaşık görevleri bağımsız olarak yerine getiren ve garip hatalar yapabilen ajan YZ sistemleri özellikle öngörülemezdir. Bu durum, Claude Code ve Codex gibi araçların, bazen kendilerinin yarattığı hataları düzeltmesi gereken kodlayıcıların becerilerine ne yaptığını düşündürüyor.
Kendi deneyiminden bir örnek veren yazar, Linux'taki yapılandırma sorunlarını çözmede oldukça başarılı bulduğu OpenClaw (Codex ile birlikte) adlı YZ yardımcısını kullanırken kritik düşünceyi YZ'ye devretmenin tehlikelerini yaşadığını aktarıyor. Wi-Fi bağlantısının sürekli kesilmesi üzerine YZ asistanının sürücüyü ayarlamak için bir dizi komut çalıştırmasını önerdiğini, ancak sonucun makinenin hiçbir şekilde önyükleme yapamaması olduğunu belirtiyor. Yazar, OpenClaw'ın problemi kendisi için çözmek yerine, sorunu kendisinin nasıl çözeceğini öğretmeyi duraklatması gerektiğini düşünüyor; bu sayede hem daha yetenekli bir bilgisayara hem de beynine sahip olabileceğini ifade ediyor.
