Etken Yapay Zeka (Agentic AI) Dönemi: Sorumluluk ve Denetim Kimde?
Yapay zeka sistemleri, başlangıçta sadece önceden tanımlanmış ve tekrarlayan görevleri yerine getiren yapılar iken, günümüzde belirli hedeflere ulaşmak için çevresini algılayan ve otonom eylemler başlatabilen “Etken YZ” (Agentic AI) sistemlerine evrilmiştir. Kişisel Verileri Koruma Kurumu (Kurum), 12 Mart 2026 tarihinde yayımladığı doküman ile bu sistemlerin sunduğu potansiyeli ve beraberinde getirdiği karmaşık riskleri mercek altına almıştır. 25 yıllık bilişim hukuku vizyonumuzla, bu yeni nesil teknolojinin sadece teknik bir gelişim değil, hukuki sorumluluk rejiminde köklü bir değişim olduğunu vurgulamak gerekir.
Yapay Zeka Aracılarından Çoklu Sistemlere: Yeni Bir Mimari
Etken YZ sistemleri, karar alma süreçlerini “Yapay Zekâ Aracıları” (AI Agents) vasıtasıyla yürütür. Kurum, bu ilişkiyi bir restoranın baş şefi (Etken YZ sistemi) ile aşçıları (AI Agents) arasındaki koordinasyona benzetmektedir. Baş şef tüm işleyişi planlarken, aşçılar kendilerine verilen özel ve dar kapsamlı görevleri yerine getirir.
Hukuki Tanım: Etken Yapay Zeka (Agentic AI) “Belirli hedeflere ulaşmak amacıyla çevresel koşulları değerlendirebilen, değişen durumlara uyum sağlayabilen ve farklı düzeylerde otonom biçimde eylem başlatabilen bütünleşik yapılardır.”
Hukuk Danışmanları İçin Kritik Risk Analizi
700’den fazla bilirkişi raporu ve “Yatırımcı Avukat” perspektifimizle, Etken YZ sistemlerinin kişisel verilerin korunması noktasında yarattığı temel riskleri şöyle özetleyebiliriz:
- Otonomi ve Kontrol Kaybı: Sistemlerin insan müdahalesi olmaksızın eylem başlatabilmesi, çıktıların öngörülebilirliğini ve denetimini zorlaştırır.
- Amaçla Sınırlılık İlkesinin Aşınması: Etken sistemler süreç içinde başlangıçta öngörülmeyen veri kümelerini sürece dahil ederek veri işleme kapsamını genişletebilir.
- Sorumluluk Dağılımı Belirsizliği: Çok adımlı ve dağıtık yapı, bir ihlal durumunda hangi aracının veya aktörün sorumlu olduğunun tespitini güçleştirir.
- Yeniden Tanımlama Riski: Farklı veri kaynaklarını ilişkilendirme kapasitesi, anonim verilerin tekrar kişisel veriyle ilişkilendirilmesine yol açabilir.
Yatırımcı Avukat Gözüyle: Etken yapay zeka, operasyonel verimlilikte bir “Oyun Değiştirici” olsa da, hukuki denetimden yoksun bir otonomi, telafisi güç tazminat yükümlülükleri doğurabilir. Şirketlerin, bu sistemleri devreye alırken “tasarımdan itibaren mahremiyet” ilkesini merkeze alması hayati önemdedir.
SORU – CEVAP
1. Etken Yapay Zeka’yı diğer yapay zeka sistemlerinden ayıran temel fark nedir? Geleneksel sistemler sadece sorulara yanıt verirken veya veri sınıflandırırken; Etken YZ, belirlenen bir hedefe ulaşmak için kendi başına planlama yapabilir, araçlar kullanabilir ve çevresel değişimlere göre eylem başlatabilir.
2. “Halüsinasyon” riski Etken YZ sistemlerinde neden daha tehlikelidir? Üretken modellerin ürettiği hatalı ama ikna edici çıktılar (halüsinasyonlar), Etken YZ tarafından sonraki aşamalarda gerçek birer girdi olarak kabul edilip yanlış kararların veya hatalı eylemlerin tetiklenmesine yol açabilir.
3. Çoklu YZ Aracısı (Multi-Agent) sistemleri ne anlama gelir? Karmaşık hedeflerin daha küçük parçalara bölünerek birden fazla yapay zeka aracısının koordineli ve verimli bir şekilde çalıştığı sistem mimarisidir.
4. Kurum, bu sistemlerde “insan gözetimi” için ne önermektedir? Sistemlerin otonomi düzeyi ne olursa olsun; etik ilkeler, hedefler ve toplumsal beklentilerle uyumu sağlamak adına anlamlı bir insan katılımı ve gözetim mekanizmasının kurulması gerektiğini vurgulamaktadır.
5. Bir hukuk danışmanı olarak bu sistemlerin kurulumunda ilk adımınız ne olmalıdır? 25 yıllık tecrübemle tavsiyem; sistemin yaşam döngüsü boyunca ortaya çıkabilecek riskleri belirlemek için bir “Veri Koruma Etki Değerlendirmesi” (DPIA) yaptırmak ve geliştiriciler ile işletmeciler arasındaki sorumluluk paylaşımını netleştirmektir.
KAYNAKLAR
- Kişisel Verileri Koruma Kurumu (KVKK) – Etken Yapay Zekâ (Agentic AI) Dokümanı
- Kişisel Verileri Koruma Kanunu (6698 Sayılı Kanun)
- European Data Protection Board (EDPB) – AI and Data Protection Guidelines
- Resmi Gazete – Kişisel Verilerin Korunması ile İlgili Tebliğ ve Kararlar
- Ankara Barosu – Bilişim Hukuku ve Yapay Zeka Çalışmaları
ETİKETLER
EtkenYapayZeka, AgenticAI, AIAgents, KVKK, BilişimHukuku, ÖzgürEralp, HukukDanışmanı, OtonomSistemler, VeriGüvenliği, YapayZekaEtiği
Avukat-Hukuk Danışmanı,
Dijital İçerik oluşturucu,
Kitle fonlama girişimci ve yatırımcısı,
ODTÜ Felsefe Öğrencisi:)
AÖF Yönetim Bilişim Sistemleri Öğrencisi:),