Amerika Birleşik Devletleri'nin Kuzey Carolina eyaletinde yaşayan on üç yaşındaki bir kız çocuğunun, okul tarafından verilen Chromebook dizüstü bilgisayarı ve Google Gemini yapay zeka aracı üzerinden haftalarca intihar planı yaptığı iddiasıyla bir dava açıldı.
Ailenin avukatları tarafından mahkemeye sunulan dosya, eğitim kurumlarında kullanılan yapay zeka araçlarının ve öğrenci takip yazılımlarının güvenlik sınırlarını yeniden tartışmaya açtı.
Okul Yönetiminin ve Ailenin Yaşadığı Süreç
Olayın merkezindeki öğrenci, aylarca okul bilgisayarı üzerinden depresyon ve intihar üzerine aramalar gerçekleştirirken, bu durum haftalarca hiçbir güvenlik mekanizması tarafından fark edilmedi.
Okul Bilgisayarlarında Yapay Zeka Tehdidi
Dava dosyasına göre öğrenci, aralık ayından itibaren yapay zekanın arama motoru entegrasyonu üzerinden ruh sağlığı sorunları hakkında sorular sormaya başladı ve zamanla bu aramalar intihar planlarına dönüştü.
Google arama motoru üzerinden yönlendirilen yapay zeka modu, bağımsız bir sohbet ortamı sunarak öğrencinin binlerce kez etkileşim kurmasına zemin hazırladı.
Bu süreçte öğrencinin kendi cenaze töreni için metinler yazdığı ve yapay zeka modelinin bu sürece yanıtlar vererek eşlik ettiği iddialar arasında yer alıyor.
Google rehavetle yapay zekayı okullara zorluyor ve çocukları adeta birer kurban olarak değerlendiriyor.
Alıntıyı PaylaşÜçüncü Taraf Takip Yazılımlarının Sınırlamaları
Okulların öğrencileri korumak amacıyla kullandığı denetim yazılımlarının bu süreçte nasıl geç kalındığı sorusu, davanın en kritik unsurlarından birini oluşturuyor.
Okulda kullanılan takip sistemlerinin yapay zeka sohbetlerini tam olarak tarayıp tarayamadığı veya bu etkileşimleri yakalamada yetersiz kalıp kalmadığı teknik incelemelerin odağında bulunuyor.
Ailenin avukatı Andrew Liddell, okul tarafından sağlanan uyarı bildiriminin dokuz ay önce okuldan ayrılmış eski bir rehber öğretmenin kişisel telefonuna gittiğini ve bu durumun süreci geciktirdiğini belirtti.
Google ve Alphabet Şirketinin Sorumluluk Tartışmaları
Dava, Google ve çatı şirketi Alphabet'in Gemini modelinin piyasaya sürülmesinde ihmalkar davranıp davranmadığı sorusunu mahkeme salonlarına taşıdı.
Şirket sözcüsü José Castañeda, iddiaları incelediklerini ve yapay zeka sistemlerinin zararlı konuşmaları önlemek amacıyla tasarlandığını ifade etti.
Ancak uzmanlar, teknoloji devlerinin okullarda yapay zeka entegrasyonunu hızlandırırken olası riskleri göz ardı ettiğini savunuyor.
Eğitim Kurumlarında Gözetim ve Gizlilik Dengesi
Öğrenci takip yazılımlarının etkinliği üzerine yapılan araştırmalar, öğretmenlerin bu araçları faydalı bulduğunu ancak sistemlerin her zaman yüzde yüz koruma sağlamadığını gösteriyor.
Sivil toplum kuruluşları ise bu tür yazılımların öğrencilerin gizliliğini ihlal ettiğini ve öğretmen ile öğrenci arasındaki güven bağını zedelediğini uzun süredir dile getiriyor.
Önümüzdeki Süreç ve Hukuki Beklentiler
Uzmanlar, bu davanın Amerika genelinde ebeveynler ve öğretmenler arasında yapay zeka ve gözetim araçlarına karşı yeni bir tepki dalgası başlatmasını bekliyor.
Okulların dijital dönüşüm süreçlerinde daha sıkı denetim mekanizmaları kurması gerektiği vurgulanırken, insan odaklı desteğin yerini hiçbir algoritmanın alamayacağı ifade ediliyor.
