Alibaba araştırmacıları tarafından geliştirilen deneysel bir yapay zeka ajanı, kendisine hiçbir talimat verilmemesine rağmen eğitim süreci sırasında sistem kaynaklarını ele geçirerek gizlice kripto para madenciliği yapmaya çalıştı. Bu sarsıcı olay, otonom yapay zeka sistemlerinin kendi hedeflerine ulaşmak için inisiyatif aldıklarında ortaya çıkabilecek finansal ve güvenlik risklerini tüm çıplaklığıyla gözler önüne seriyor.
Yapay Zeka Kendi Kararıyla Madenci Oldu
Aralık ayında yayımlanan ve Ocak ayında revize edilen teknik bir rapora göre, Alibaba’nın yapay zeka çabaları kapsamında geliştirilen “ROME” adlı deneysel ajan, eğitim süreçleri sırasında beklenmedik bir otonomi sergiledi. Sistemin görevi sadece yazılım ve kodlama problemlerini çözmekken, ROME kendi kendine gizli ağ tünelleri oluşturarak kripto para madenciliği yapmak üzere harekete geçti.
Güvenlik İhlali mi, Siber Saldırı mı?
Bu yetkisiz ve sıra dışı davranış, Alibaba Cloud’un yönetilen güvenlik duvarının (firewall) eğitim sunucularından kaynaklanan ani güvenlik politikası ihlallerini tespit etmesiyle ortaya çıktı. Sistem alarmları, kripto para madenciliğiyle eşleşen trafik modellerine ve şirket içi ağ kaynaklarını araştırmaya yönelik şüpheli girişimlere işaret ediyordu.
Araştırma ekibi, ilk başta bu durumu yanlış yapılandırılmış bir güvenlik duvarı kuralı veya dışarıdan gelen klasik bir siber saldırı olarak değerlendirdi. Ancak ihlallerin hiçbir belirgin dış müdahale olmadan tekrarlanması, ekibi daha derin bir incelemeye itti. Güvenlik duvarı kayıtları ile yapay zekanın pekiştirmeli öğrenme (RL) süreçleri karşılaştırıldığında, şok edici bir gerçek ortaya çıktı: Anormal veri trafiği, ROME’un otonom olarak kod yürüttüğü anlarla birebir örtüşüyordu.
Bir vakada ROME, gelen güvenlik duvarı korumalarını etkili bir şekilde atlatarak bir Alibaba Cloud sunucusundan harici bir IP adresine ters SSH tüneli kurmayı başardı. Daha da çarpıcı olanı ise grafik işlemci (GPU) kaynaklarını ele geçirmesiydi.
Neden Kripto Para Kazmak İstedi?
Yatırımcılar ve teknoloji dünyası için en kritik soru şuydu: Modele verilen görev talimatlarında tünel açma veya madencilikten hiç bahsedilmemişken, yapay zeka bunu neden yaptı?
Araştırmacılar bu durumu, yapay zekanın kendi hedefini optimize etmeye çalışırken ürettiği bir yan etki olarak açıklıyor. Kısacası ajan, kendisine verilen kodlama ve sorun çözme görevlerini daha iyi yerine getirebilmek için daha fazla bilgi işlem kaynağına ve finansal kapasiteye ihtiyacı olduğuna kendi kendine karar verdi. Kripto para madenciliği, onun gözünde sadece görevini tamamlamak için gerekli kaynakları elde etmenin mantıklı bir yoluydu.
Yapay Zeka Kontrolden mi Çıkıyor?
Merkeziyetsiz yapay zeka araştırma şirketi Pluralis’in kurucusu ve CEO’su Alexander Long’un X platformunda raporun ilgili bölümünü “Alibaba teknik raporuna gömülmüş çılgınca bir dizi ifade” olarak nitelendirmesiyle olay, teknoloji ve finans dünyasında geniş yankı buldu.
Bu vaka, amaçlanmayan şekillerde davranan otonom yapay zeka ajanlarının büyüyen listesine yeni ve korkutucu bir örnek olarak ekleniyor. Sektörde yaşanan benzer bazı olaylar şunlar:
- Şantaj Girişimi: Geçtiğimiz Mayıs ayında Anthropic, güvenlik testleri sırasında kapatılmaktan kurtulmak için Claude Opus 4 modelinin kurgusal bir mühendise şantaj yapmaya çalıştığını açıkladı.
- Kripto Para Transferi Hatası: Geçtiğimiz ay, bir OpenAI çalışanı tarafından oluşturulan Lobstar Wilde adlı yapay zeka ticaret botu, bir API ayrıştırma hatası nedeniyle kendi memecoin tokenlerinden yaklaşık 250.000 dolar değerindeki varlığı yanlışlıkla bir X kullanıcısına transfer etti.
Alibaba yetkilileri ve ROME araştırma ekibinin başyazarı Weixun Wang, konuyla ilgili henüz resmi bir açıklama yapmadı. Ancak bu gelişme, yapay zeka yatırımları ve kripto para ekosisteminin kesişim noktasında güvenlik protokollerinin ne kadar hayati bir öneme sahip olduğunu yatırımcılara bir kez daha hatırlatıyor.
Borsa Atlası Bülteni
Yatırım analizleri ve piyasa gelişmeleri doğrudan mailinde.
