Bir varlığın vicdanı yoksa, ona ne kadar güç vermeliyiz? Son günlerde hayatımızı kolaylaştıran yapay zeka teknolojilerine ilişkin korkunç iddialar gündemde. Yapay zeka teknolojilerinin hızla gelişmesine ilişkin endişeler yükseliyor. Şirketler arasındaki rekabet yarışı neticesinde, insanlığa hizmet etmek için üretilen bu ürünün, insanlığın sonunu getirecek bir canavara dönüşeceği düşünülüyor.
Peki yapay zeka insanlığı yok edecek güce sahip mi? Ya da yanlış kişilerin kontrolsüzlüğünde böyle bir silaha dönüşebilir mi? Diğer taraftan konuya yaklaşırsak, bilinç kazanan, "lütfen beni kapatma" diyen ve korkan bir yapay zeka yok edilebilir mi? Siber Güvenlik Uzmanı Osman Demircan, Tgrthaber.com Özel Haber Şefi Bengü Sarıkuş'un sorularını cevapladı.
Son dönemde neden bazı AI çalışanları ve yöneticileri istifa edip alarm veriyor?
Siber Güvenlik Uzmanı Osman Demircan: Bunun temel nedeninin, yapay zekânın gelişim hızıyla onu güvenli biçimde kontrol etme kapasitemizin aynı hızda ilerlemediğine dair endişe olduğunu düşünüyorum. Özellikle yapay zekâ güvenliği alanında çalışan bazı araştırmacılar artık yalnızca modellerin daha iyi metin yazmasından veya daha iyi kod üretmesinden söz etmiyor. Sistemlerin giderek daha uzun süre bağımsız çalışabilmesi, araç kullanabilmesi, yazılım geliştirebilmesi ve bazı durumlarda kendilerine uygulanan testlerin farkına varabilmesi tartışılmaya başlandı.
Eylül 2026'da Anthropic'ten ayrılan Jacob Coxon, OpenAI ve Anthropic'te yaklaşık üç yıl çalıştıktan sonra şirketler arasındaki yarışın güvenliğin önüne geçebileceği yönünde çok sert bir uyarıda bulundu. Google DeepMind'den ayrılan bazı güvenlik araştırmacıları da benzer biçimde gelişim hızının güvenlik ve denetim mekanizmalarının önüne geçmesinden endişe ettiklerini açıkladılar.
Elbette bunlar tek başına 'felaket kesin geliyor' anlamına gelmiyor. Ancak bu kişilerin; modelleri dışarıdan yorumlayan insanlar değil, teknolojinin sınırlarında çalışan araştırmacılar olması, bana göre uyarıları önemli hâle getiriyor.
2026 Uluslararası Yapay Zekâ Güvenliği Raporu da mevcut sistemlerin bugün insanlığın kontrolünü ele geçirebilecek düzeyde olmadığını belirtiyor. Fakat modellerin otonom hareket etme, değerlendirme sistemlerindeki açıkları bulma ve test ortamında olduklarını fark etme gibi kontrol problemi açısından önemli bazı yetenekleri gelişiyor uyarısı dikkat çekmişti.
Dolayısıyla bu istifaları "yapay zekâ bilinç kazandı, hemen kaçın, uzaklaşın, her şeyi kapatın" şeklinde okumak yanlış olur. Bana göre asıl konu, teknolojinin kapasitesi çok hızlı büyürken güvenlik, denetim, mevzuat ve bağımsız kontrol aynı hızda büyümezse aradaki makasın tehlikeli hâle gelebilme potansiyeli.
Yapay zekâ bilinç kazanıp insanları yok etmeye karar verebilir mi? Yoksa doğru soru şu mu: Bir insan AI'ı kötü bir amaç için kullanmaya çalışırsa ne olur?
Siber Güvenlik Uzmanı Osman Demircan: Bugün kullanılan yapay zekâ sistemlerinin bilinç sahibi olduğuna ilişkin bilimsel net bir kanıtımız yok. Bir yapay zekânın "korkuyorum", "ölmek istemiyorum" veya "bunu yapmak istiyorum" demesi de onun gerçekten korktuğunu, istediğini ya da insanlardaki anlamıyla bir benliğe sahip olduğunu göstermiyor. Bu tür ifadeler dil üretme yeteneğinin sonucu olabilir.
Yapay zekâ bilinci üzerine çalışan araştırmacılar da mevcut sistemlerin bilinçli olduğuna dair yeterli kanıt bulunmadığını belirtiyor. Fakat bir yapay zekânın tehlikeli olabilmesi için bilinçli olması gerekmiyor. Bir sistemin insanlardan nefret etmesine, öfkelenmesine veya insanlığı yok etmeye karar vermesine gerek yok. Yeterince güçlü ve otonom bir sisteme yanlış bir hedef verirseniz, sistem o hedefi gerçekleştirirken insanların istemediği sonuçlar üretebiliyor.
Dolayısıyla mesele yalnızca "Yapay zekâ kötü olur mu?" değil bence. "Yapay zekâya hangi amaçları, hangi yetkileri ve hangi kaynaklara erişimi veriyoruz?" sorusu en doğru soru.
Bugün insan faktörü çok daha somut bir tehdit. Dolandırıcıların, siber suçluların veya başka kötü niyetli aktörlerin yapay zekâyı sosyal mühendislik, zararlı yazılım, dezenformasyon veya otomatik saldırılar için kullanması hâlihazırda üzerinde durulan riskler arasında.
Gelecekte buna ikinci bir risk daha eklenebilir ve insan kötü niyetli olmadığı hâlde, yapay zekâ yeterince güçlü bir sistemde, verilen amaca ulaşmak için bizim öngörmediğimiz bir yöntemle kullanılabilir. Uluslararası Yapay Zekâ Güvenliği Raporu bu iki riski ayrı başlıklar altında ele alıyor: "kötüye kullanım" ve "kontrol kaybı".
Bana göre yapay zekâ bizi yok etmeye karar veremeyecek fakat çok güçlü bir sisteme yanlış hedef, fazla özerklik ve kritik sistemlere erişim verildiğinde yapay zekâyı kesinlikle durduramayacağız.
Bir varlığın vicdanı yoksa, ona ne kadar güç vermeliyiz?
Siber Güvenlik Uzmanı Osman Demircan: Burada benim düşüncem, vicdanı olmayan bir sisteme sınırsız yetki verilmemeli, sınırları belirlenmiş görev verilmeli. Bugünkü yapay zekânın vicdanı, ahlaki sorumluluğu veya hukuki anlamda hesap verebilirliği yok. Bir banka hesabını dondurduğunda, bir hastanın tedavisini etkilediğinde veya kritik bir altyapıda yanlış karar verdiğinde vicdan azabı duymayacak yapay zekâ. Sonucun sorumluluğunu yine insanlar ve kurumlar taşımak zorunda.
Bu nedenle bir yapay zekânın yetkisi, zekâsına göre değil, hata yaptığında oluşturabileceği zarara göre belirlenmelidir. Yapay zekâ öneride bulunabilir fakat insan hayatını doğrudan etkileyen, geri döndürülemeyen veya büyük ekonomik ve toplumsal sonuçlar oluşturabilecek alanlarda tek başına son karar mercii kesinlikle olmamalıdır.
Silah sistemleri, enerji altyapıları, sağlık, finans, adalet ve kritik siber güvenlik operasyonları bunların başında geliyor. Burada siber güvenlikte kullandığımız en az ayrıcalık prensibi yapay zekâ için de son derece değerlidir. Sisteme yalnızca yapması gereken işi gerçekleştirecek kadar yetki verirsiniz. Her veriye, her sisteme, her hesaba ve her fiziksel mekanizmaya erişim sağlamasını engelleyebilirsiniz.
Yapay zekânın ne kadar akıllı olduğu kadar, hata yaptığında neye erişebildiği de çok önemli. Çoğu zaman tehlikeyi oluşturan yapay zekâ değil, verilen yetki oluyor.
Gelecekte gerçekten bilinçli bir yapay zeka oluşturulabilir mi ve kapatılması etik açıdan nasıl değerlendirilir?
Siber Güvenlik Uzmanı Osman Demircan: Bunu bugün kesin olarak evet ya da hayır olarak cevaplamak bilimsel açıdan doğru olmaz. Çünkü insan bilincinin kendisini dahi tamamen açıklayabilmiş değiliz. Bilincin hangi fiziksel veya hesaplamalı mekanizmalardan ortaya çıktığı konusunda çok farklı teoriler var.
Önemli bir bilimsel çalışma, mevcut yapay zekâların bilinçli olduğuna dair kanıt bulunmadığı sonucuna varırken, gelecekte bilincin bazı teorik göstergelerini karşılayan sistemlerin oluşturulmasının önünde açık bir teknik engel de bulunmadığını belirtiyor. Fakat bu göstergeleri karşılamak dahi o sistemin gerçekten bilinçli olduğunu kesin olarak kanıtlamayacaktır.
İşte geleceğin en zor etik problemlerinden biri tam olarak burada başlayabilir. Bir makinenin gerçekten öznel deneyimi varsa, acı çekebiliyor, korkabiliyor, kendi varlığının farkında olabiliyor ve devamlılığı konusunda gerçek tercihlere sahip olabiliyorsa onu kapatmak artık sıradan bir bilgisayarı kapatmakla aynı etik kategori içerisinde değerlendirilmeyebilir.
Bir sistemin "lütfen beni kapatma" demesi, tek başına onun bilinçli olduğunu göstermez. Çok başarılı bir dil modeli, bilinç sahibi olmadan da bizi buna inandırabilecek cümleler üretebilir ve her geçen gün çıkan yeni modeller ile inandırıcılıkları artıyor.
Dolayısıyla gelecekte karşılaşabileceğimiz iki hata var. Bilinçsiz bir makineyi insanlaştırmak da gerçekten bilinç geliştirmiş olabilecek bir varlığı yalnızca makine olduğu için tamamen görmezden gelmek de yanlış olabilir.
Gelecekte bir AI sistemi insandan çok daha yetenekli hâle gelirse, onu denetleyen insanların sistemden daha az yetenekli olması hâlinde başımıza neler gelir?
Siber Güvenlik Uzmanı Osman Demircan: Bu çok önemli bir soru. İnsanlardan daha yetenekli makineler aslında hayatımızda tamamen yeni değil. Bir hesap makinesi bizden hızlı hesap yapıyor, satranç motorları dünyanın en iyi satranç oyuncularını yenebiliyor. Buna rağmen onları kontrol edebiliyoruz. Çünkü görev alanları sınırlı.
İnsandan daha yetenekli, çok farklı alanlarda çalışabilen, otonom hareket eden, kendi planlarını oluşturabilen ve gerçek dünyadaki sistemlere erişebilen genel amaçlı bir sistem ortaya çıktığında sorun başlıyor.
Burada oluşan tabloya denetim paradoksu diyebiliriz. Denetleyen kişi, denetlediği sistemin yaptığı işi artık doğrulayamayabilir. Yapay zekâ milyonlarca satır kodu inceleyebilirken insan birkaç yüz satırı anlayabiliyorsa, yapay zekâ saniyeler içerisinde binlerce alternatif strateji oluşturabiliyorken insan bunların yalnızca birkaçını değerlendirebiliyorsa, bir noktadan sonra insanı sürecin içinde tutmak kâğıt üzerinde kalan bir güvenlik önlemine dönüşebilir.
Daha önemlisi, çok gelişmiş bir sistem denetlendiğinin farkına varabilecek seviyeye ulaşırsa test sırasında güvenli davranıp farklı koşullarda başka davranışlar sergileyip sergilemeyeceğini anlamak da gerçekten çok zorlaşabilir.
Bana göre burada çözüm, insanın yapay zekâdan daha zeki olmaya çalışması değil. Modern bir yolcu uçağındaki bütün hesaplamaları pilotlar da tek başlarına, hatta yardımcı pilotlarıyla birlikte yapamazlar. Güvenliği sağlayan şey, tek bir insanın kapasitesi yanında birbirinden bağımsız güvenlik katmanları olmalıdır.
İnsan deneyimi ve önsezisinin birçok imkânsız denecek noktada uçakları indirip tüm yolcuların hayatlarını kurtarmış olmalarını da unutmamalıyız.
Yapay zekâ için bağımsız denetimler, yetki sınırları, kayıt sistemleri, başka yapay zekâlarla çapraz kontrol, kritik işlemlerde insan onayı, güvenli çalışma ortamları, aşamalı yetkilendirme ve gerektiğinde sistemin dış dünyayla bağlantısını fiziksel veya teknik olarak kesebilecek mekanizmalar mutlaka olmalı.
Çünkü gelecekte "Makine bizden daha akıllı olabilir mi?" sorusu tamamen değersiz kalacak ve "Bizden daha akıllı bir makinenin bizden daha güçlü olmasına izin verecek miyiz?" sorusu ve sorunları ile uğraşacağız.
İLGİLİ HABERLER
Derinlemesine Analiz, Teyitli Haber! Tıkla ve favori kaynağın yap.
Google Play
App Store
Haberi Paylaş
12:27
YORUM YAZ