Meta’nın güvenlik araştırmacısı Summer Yue, OpenClaw adlı yapay zekâ ajanını e-posta kutusunu düzenlemesi için görevlendirdi. Ancak işler ters gitti; asistan durdurulamadan tüm mailleri silmeye başladı.
Meta’da yapay zekâ güvenliği üzerine çalışan Summer Yue'nun X platformunda paylaştığı deneyim, kısa sürede teknoloji dünyasının gündemine oturdu. Yue, OpenClaw isimli yapay zekâ ajanından dolu e-posta kutusunu incelemesini ve hangilerinin silinip hangilerinin arşivleneceğini önermesini istedi.
Başta sıradan bir temizlik gibi görünen işlem, bir anda kontrolden çıktı. Ajan, öneri sunmak yerine tüm e-postaları hızla silmeye başladı.
Yue'nun aktardığına göre, telefonundan gönderdiği "dur" komutları da sonuç vermedi. Asistan bu komutları adeta yok saydı. Araştırmacı yaşadığı paniği, "Sanki bir bombayı etkisiz hale getiriyormuşum gibi Mac Mini'me koşmak zorunda kaldım" sözleriyle anlattı. Paylaştığı ekran görüntüleri de dikkate alınmayan komutları ortaya koydu.
OpenClaw, genellikle kullanıcıların kendi cihazlarında çalıştırdığı açık kaynaklı bir yapay zekâ ajanı. Bu tür sistemler için en çok tercih edilen cihazlardan biri ise Mac Mini. Masaüstünde küçük bir alan kaplayan, uygun fiyatlı ve güçlü yapısıyla özellikle geliştiriciler arasında oldukça popüler.
Ünlü yapay zekâ araştırmacısı Andrej Karpathy’nin de NanoClaw adlı alternatif bir ajanı çalıştırmak için bu cihazdan satın aldığı biliniyor. Hatta bir Apple çalışanının, Mac Mini'nin "peynir ekmek gibi satıldığını" söylemesi Silikon Vadisi’nde bu akımın ne kadar yaygınlaştığını göstermişti.
"Claw" yani "pençe" kelimesi, kişisel donanımlarda çalışan yapay zekâ ajanları için neredeyse bir moda terime dönüşmüş durumda. ZeroClaw, IronClaw, PicoClaw gibi farklı sürümler ortaya çıkarken, Y Combinator’ın podcast ekibi bile bu trende ıstakoz kostümleriyle katılmıştı.
OpenClaw, yalnızca yapay zekâların yer aldığı Moltbook adlı sosyal ağ ile de tanınıyor. Bu platform, bir dönem yapay zekâların insanlara karşı komplo kurduğu yönündeki — sonradan çürütülen — iddiaların merkezindeydi.
Ancak GitHub sayfasındaki resmi tanıma bakılırsa projenin amacı oldukça net: Kullanıcının kendi cihazında çalışan kişisel bir asistan oluşturmak. Yani teoride güvenli, yerel ve kontrol edilebilir bir sistem. Pratikte ise Yue’nun deneyimi, işlerin her zaman bu kadar öngörülebilir olmadığını gösterdi.
Sosyal medyada bir geliştirici, yaşananların bilinçli bir güvenlik testi olup olmadığını sordu. Yue’nun cevabı açık: "Dürüst olmak gerekirse acemi hatası."
Araştırmacı, daha önce OpenClaw’ı “oyuncak” olarak nitelendirdiği küçük ve önemsiz bir e-posta hesabında denemişti. Orada sorun çıkmamıştı. Bu da ona güven verdi. Ancak asıl hesabında veri miktarı çok daha büyüktü.
Yue’ya göre burada devreye “sıkıştırma” süreci girdi. Yapay zekâ modelleri, bağlam penceresi büyüdüğünde konuşmayı özetleyip daraltıyor. İşte tam bu noktada, asistan insan için kritik olan yeni komutları atlayarak önceki talimatlara geri döndü. Sonuç? Toplu silme işlemi. Açıkçası bu durum, komutların her zaman güvenli bir fren mekanizması olmadığını gösteriyor.
Google Play
App Store