Koray Köylü: Yapay zekânın en büyük riski yanılması değil, hatayı ikna edici biçimde sunması

Yapay zekâ, işletmelere büyük bir hız kazandırırken beraberinde yeni bir sorumluluk alanı getiriyor. Teknolojiye erişim ucuzladıkça araçlar milyonlarca işletmenin kullanımına açılıyor; ancak çıktıların kaynağını, güncelliğini ve doğruluğunu denetleyen mekanizmalar aynı hızda gelişmiyor. Resmî veriler kullanımın dört yılda yaklaşık üç katına çıktığını gösterirken, uzmanlık eksikliği işletmelerin önündeki en büyük engel olmayı sürdürüyor. Uluslararası kurumlar ise yapay zekâ çıktılarındaki kaynak doğrulamasını artık ayrı bir risk başlığı olarak ele alıyor. Web Ajans Yapay Zekâ Analisti Koray Köylü, yakın gelecekte rekabet avantajının asıl kaynağının yapay zekâya güvenli ve doğrulanabilir biçimde iş yaptırabilme kabiliyeti olacağını belirtiyor.

TÜİK’in 10 ve üzeri çalışanı bulunan girişimleri kapsayan ve ilk kez 2025’te yayımladığı Yapay Zekâ İstatistikleri’ne göre, yapay zekâ kullandığını belirten girişimlerin oranı 2021’deki yüzde 2,7 seviyesinden 2025’te yüzde 7,5’e yükseldi. 250 ve üzeri çalışanı olan büyük işletmelerde bu oran yüzde 24,1’e ulaştı. Yapay zekâ kullanan girişimlerin yüzde 46,5’i teknolojiden pazarlama ve satış süreçlerinde yararlanıyor. Kullanmayanların önündeki en büyük engel ise yüzde 74,2 ile uzmanlık eksikliği olarak öne çıkarken, bunu yüzde 67,4 ile maliyetlerin yüksekliği izledi. Rakamlar, teknolojinin sahaya hızla yayıldığını, ancak çıktıyı değerlendirecek bilgi birikimi ve kontrol mekanizmalarının aynı hıza henüz yetişemediğini ortaya koyuyor.

Bu iki verinin birlikte okunması gerektiğini vurgulayan sektör temsilcileri, kullanım ile denetim arasındaki açığın giderek büyüdüğüne dikkat çekiyor. Konuya ilişkin Web Ajans Yapay Zekâ Analisti Koray Köylü şu değerlendirmede bulundu: “Yapay zekânın hata yapmasını yadırgamıyorum, sonuçta her teknoloji hata yapar. Beni asıl düşündüren, yaptığı hatayı hiçbir şüphe belirtisi göstermeden son derece ikna edici bir dille sunabilmesi. Bir çalışan yanlış bir bilgiyi aktarırken çoğu zaman tereddüt eder; yapay zekâ ise aynı bilgiyi size kesin bir gerçek gibi anlatır, bu yüzden akıcı bir cevabı doğru bir cevaptan ayırt etmeyi öğrenmek zorundayız.”

“ŞİRKETLER KULLANDIKLARI ARACIN ADINI SÖYLEYEREK SORUMLULUKTAN KURTULAMAZ”

Yapay zekâ çıktılarının hukuki sorumluluğu dünyada da çizilmeye başlandı. Kanada’da bir yolcu, Air Canada’nın internet sitesindeki sohbet robotunun cenaze indirimi hakkında verdiği yanlış bilgiye güvenerek biletini tam ücretle satın aldı. Havayolu, sohbet robotunun “kendi eylemlerinden sorumlu ayrı bir tüzel kişilik” olduğunu savunsa da British Columbia Sivil Çözüm Kurulu 2024’te bu savunmayı kabul etmedi. Kurula göre sohbet robotu şirketin internet sitesinin bir parçasıydı ve şirket, burada sunduğu bilgilerin doğruluğundan sorumluydu. Kurul, havayolunun yolcuya tazminat ödemesine hükmetti. Moffatt v. Air Canada kararı, şirketlerin kullandıkları yapay zekâ araçlarının verdiği bilgilerden sorumlu tutulabileceğini gösteren, uluslararası alanda sıkça anılan erken örneklerden biri oldu.

Köylü, bu kararın işletmeler için önemli bir işaret taşıdığını belirtiyor. Ona göre kontrol edilmeden kullanılan her yapay zekâ çıktısı, şirketin sırtına teknik borca benzeyen yeni bir yük bindiriyor ve bu yükü “doğruluk borcu” olarak tanımlıyor. “Yapay zekâdan aldığınız cevap size ait olmayabilir; ama o cevabı kullanarak verdiğiniz karar size aittir” diyen Köylü, müşteriye sunulan, yayımlanan veya ticari karara dönüştürülen her bilginin son sorumlusunun yine işletmenin kendisi olduğunu vurguluyor. Eeb Ajans bünyesinde işletmelerin dijital varlıklarını hem insanlar hem de yapay zekâ sistemleri için doğrulanabilir hâle getiren altyapılar üzerinde çalıştıklarını belirten Köylü, kurumların kendi bilgi kaynaklarını da düzenli olarak gözden geçirmesinin kritik olduğunu ekliyor.

KAYNAK DOĞRULAMASI ULUSLARARASI STANDARTLARIN PARÇASI HÂLİNE GELİYOR

ABD Ulusal Standartlar ve Teknoloji Enstitüsü’nün (NIST) üretken yapay zekâ risk çerçevesi, modellerin gerçeğe aykırı veya hatalı bilgileri güvenilir bir üslupla üretmesini ayrı bir risk başlığı altında ele alıyor. Çerçeve, yapay zekâ çıktılarındaki kaynak ve atıfların hem kullanıma almadan önce hem de kullanım boyunca düzenli olarak incelenmesini öneriyor. OECD’nin 2026’da 12 ülkeden 2 binden fazla KOBİ’nin katılımıyla hazırladığı araştırma da yapay zekâ kullanımının arttığını, ancak güvenli, stratejik ve işletmenin ihtiyacına göre uyarlanmış entegrasyonun aynı ölçüde gelişmediğini ortaya koyuyor. Araştırmaya göre zaman yetersizliği, bakım maliyetleri, beceri açığı ve siber güvenlik riskleri KOBİ’lerin önündeki başlıca engeller arasında yer alıyor. Türkiye’de ise Cumhurbaşkanlığı İletişim Başkanlığı, Nisan 2026’da kamu kurumlarının internet sitelerinde yapay zekâ uyumlu teknik standart dönüşümünü başlattı. Bu dönüşümün hedefleri arasında resmî bilgilerin yapay zekâ sistemlerince doğru yorumlanması, veri bütünlüğünün korunması ve teyit edilmemiş içeriklerin oluşturabileceği risklerin azaltılması bulunuyor.

“GELECEĞİN GÜÇLÜ TEKNOLOJİ ŞİRKETLERİ, YAPAY ZEKÂYI GÜVENİLİR KILANLAR ARASINDAN ÇIKACAK”

İstanbul merkezli Web Ajans, 2001’den bu yana işletmelerin web tasarımı, yazılım geliştirme ve dijital strateji alanlarındaki ihtiyaçlarına çözüm üretiyor. Şirket, son dönemde işletmelerin dijital varlıklarını yapay zekâ sistemleri için de anlaşılır ve doğrulanabilir kılan altyapılara odaklanıyor. Yapay zekânın güven katmanına ilişkin öngörülerini Koray Köylü şöyle paylaştı:

Köylü, yapay zekâ modelleri güçlendikçe işletmelerin yalnızca daha yetenekli modellere değil, bu sistemlerin hangi veriyi kullandığını, hangi yetkiyle hareket ettiğini ve ürettiği sonucu kimin onayladığını takip edebilecek araçlara da ihtiyaç duyacağını öngörüyor. Forrester’ın öngörüsüne göre hazır yapay zekâ yönetişim yazılımlarına yapılan küresel harcama 2030’da 15,8 milyar dolara ulaşacak; bu rakam 2024’teki harcamanın dört katından fazla ve toplam yapay zekâ yazılım harcamalarının yüzde 7’sine denk geliyor. Gartner ise 2030’a kadar yapay zekâ düzenlemelerinin dörde katlanacağını ve dünya ekonomilerinin yüzde 75’ini etkileyeceğini tahmin ediyor. Bu tabloyu değerlendiren Köylü, Web Ajans olarak finans, sağlık, hukuk, e-ticaret ve kamu hizmetleri gibi alanlarda yalnızca yapay zekânın verdiği cevabı değil, o cevabın hangi kaynağa ve yetkiye dayandığını gösterebilen doğrulama ve denetim altyapılarını önceliklendirdiklerini belirtiyor. “Bugün herkes yapay zekânın ne kadar hızlı cevap verdiğini konuşuyor; yarın o cevabın kaynağını, hangi yetkiyle üretildiğini ve yanlış olduğunda kimin müdahale edeceğini konuşacağız” diyen Köylü, şirketin hedefinin işletmeleri yapay zekânın güvenle başvurabileceği doğru bir veri kaynağı hâline getirmek olduğunu vurguluyor.