Siber suç dünyasında bile yapay zeka (YZ) üretimi içeriklerin yaygınlaşması, suçlular arasında rahatsızlığa yol açtı. Siber saldırılar ve diğer yasa dışı faaliyetler üzerine çevrimiçi platformlarda örgütlenen hackerlar ve dolandırıcılar, "YZ pisliği" olarak nitelendirdikleri düşük kaliteli içeriklerin platformlarını doldurmasından şikayetçi. Bu durum, sıradan internet kullanıcılarının YZ'nin hayatlarına entegre edilmesine yönelik tepkileriyle benzerlik gösteriyor.
Siber Suç Forumlarında YZ Tartışmaları Yoğunlaşıyor
Edinburg Üniversitesi'nde güvenlik araştırmacısı ve öğretim görevlisi Ben Collier'in yaptığı bir araştırmaya göre, düşük seviyeli siber suçluların YZ'yi nasıl kullandığına dair yapılan incelemelerde, yeraltı siber suç forumlarında ve hacker gruplarında üretken YZ'nin kullanımına yönelik artan bir tepki gözlemlendi. ChatGPT'nin 2022'deki lansmanından geçen yılın sonuna kadar olan dönemde 97.895 YZ ile ilgili konuşma analiz edildi. Bu analizler sonucunda, temel siber güvenlik kavramlarının madde madde açıklanması, düşük kaliteli gönderilerin çokluğu ve Google'ın YZ arama özetlerinin forumlara gelen ziyaretçi sayısını düşürmesi gibi konularda şikayetler tespit edildi.
Onlarca yıldır var olan ve genellikle Rusya kökenli siber suç mesaj panoları ve pazar yerleri, dolandırıcıların işbirliği yapmasına olanak tanıyor. Bu platformlarda çalıntı veri alınıp satılıyor, hackleme işleri reklamı yapılıyor ve dolandırıcılar rakipleri hakkında olumsuz paylaşımlarda bulunuyor. Bu forumlar, kullanıcıların güvenilir olma konusunda itibar kazandığı ve forum sahiplerinin yazı yarışmaları düzenlediği sosyal alanlar olarak da işlev görüyor. Araştırmacılar, YZ tarafından üretilen hackleme açıklamalarını paylaşarak daha iyi bir itibar kazanmaya çalışan potansiyel siber suçluların bu sosyal dinamiği bozduğunu belirtiyor. Bu durum, birçok kişinin kendilerini yetenekli kişiler olarak gösterme iddialarını zayıflattığı için YZ konusunda kararsız kalmalarına neden oluyor.
Hack Forumları gibi platformlarda yapılan incelemelerde, üyelerin YZ kullanarak konu başlıkları ve gönderiler oluşturmasından duyulan rahatsızlık açıkça görülüyor. Bir kullanıcı, "Birçok üyenin YZ kullandığını görüyorum ve bu beni çileden çıkarıyor çünkü basit bir veya iki cümle yazmaya bile zahmet etmiyorlar," derken, bir diğeri daha net bir ifadeyle "YZ pisliği paylaşmayı bırakın," diyor. Bazı durumlarda, kullanıcıların YZ gönderilerinden rahatsız olduğu, çünkü arkadaş edinmek istedikleri ve bir YZ sohbet botuyla konuşmak istemedikleri belirtiliyor.
ChatGPT'nin ortaya çıkışından bu yana, YZ'nin hackleme yetenekleri ve çevrimiçi suçu dönüştürme potansiyeli büyük ilgi gördü. Hem sofistike hackerlar hem de daha az yetenekli olanlar, YZ'yi saldırılarında kullanmaya çalışıyor. Bazı organize dolandırıcılar, giderek daha gerçekçi hale gelen YZ yüz değiştirme teknolojisi ve YZ ile çevrilen sosyal mühendislik mesajlarıyla operasyonlarını güçlendirirken, üretken YZ'nin kötü amaçlı kod yazma ve güvenlik açıklarını keşfetme yetenekleri de dikkat çekiyor. Güvenlik şirketi Flashpoint'in istihbarat başkan yardımcısı Ian Gray, daha sofistike tehdit aktörlerinin, OpenAI, Anthropic ve Google tarafından konulan güvenlik mekanizmaları olan ticari modellerin yetersizliklerinin farkında olduğunu ve bu komutları nasıl aşacaklarını bildiklerini belirtiyor. Gray ayrıca, forumlarda veya pazar yerlerindeki YZ tarafından üretilen projelere karşı temkinli olduklarını, çünkü bu projelerde altta yatan altyapıyı açığa çıkarabilen zayıflıklar ve güvenlik açıkları olabileceğini ekliyor. Flashpoint, siber suçluların son zamanlarda Anthropic'in en yeni sınır YZ modeli olan Claude Mythos Preview'un potansiyel yetenekleri hakkında konuştuklarını ve bazılarının YZ kullandığı iddiasıyla başkalarını küçümsediğini gözlemledi.
