Etken yapay zekâ sistemleri; belirlenen amaçlara ulaşmak üzere çevre koşullarını değerlendirebilen, planlama kabiliyetine sahip ve değişen durumlara uyum sağlayarak belirli ölçüde otonom adımlar atabilen bütünleşik yazılımsal yapılar olarak tanımlanmaktadır. Bu mimariler ekseriyetle çevreyi algılayıp hedefler doğrultusunda karar oluşturabilen ve icra yeteneği bulunan yapay zekâ aracıları vasıtasıyla işlemektedir. Kişisel Verileri Koruma Kurumu söz konusu sistemleri salt komutlara karşılık veren veya içerik üreten araçlar olarak değil; çok adımlı süreçleri yürüten, farklı veri kaynaklarını koordine edebilen ve veri işleme sınırlarını süreç içinde genişletebilen yapılar olarak değerlendirmektedir.
Kullanım Alanları ve İşleyiş Riskleri
Ar-Ge süreçleri, müşteri destek operasyonları, finansal analizler, sağlık alanındaki karar destek mekanizmaları ve olay müdahale süreçleri bu sistemlerin potansiyel uygulama alanları arasında yer almaktadır. Bununla birlikte sistemlerin hedef odaklı ve çok adımlı çalışma tarzı; öngörülebilirlik, şeffaflık ve açıklanabilirlik yönünden riskler barındırabilmekte, üretilen hatalı veya taraflı çıktılar ise birbirini takip eden zincirleme tesirler meydana getirebilmektedir.
Veri Koruma İlkeleri ve Sorumluluk Dağılımı
Kişisel verilerin farklı veri kaynaklarından toplanması ve birden fazla aşamada işlenmesi; veri minimizasyonu, amaçla sınırlılık ve veri güvenliği ilkeleri yönünden ek riskler meydana getirmektedir. Başlangıçta sınırlı nitelikte görünen veri unsurlarının başka veri kümeleriyle birleştirilmesi ve ilişkilendirilmesi neticesinde ilgili kişiler hakkında daha kapsamlı ve hassas çıkarımlar veya profiller türetilebilmektedir. Ayrıca birden fazla yapay zekâ aracısının birlikte çalıştığı karmaşık yapılarda veri akışının, karar noktalarının ve geliştiriciler, sağlayıcılar ile sistemi kullanan kuruluşlar arasındaki sorumluluk dağılımının tespiti güçleşebilmektedir.
Önerilen Mahremiyet ve Yönetişim Tedbirleri
Etken yapay zekâ sistemlerinin işleyişinde insan gözetiminin sağlanması, açıklanabilirlik mekanizmalarının geliştirilmesi, veri doğruluğunun gözetilmesi ve taraflar arasındaki kurumsal rollerin açıkça belirlenmesi önerilmektedir. Bunun yanı sıra Kişisel Verileri Koruma Kurumu tarafından, sistemlerin planlama ve uygulama aşamalarında tasarımdan itibaren mahremiyet ilkesi ile varsayılan olarak mahremiyet ilkesinin birlikte gözetilmesi gerektiği vurgulanmaktadır.
Etken yapay zekâ sistemleri hangi alanlarda kullanılır?
Bu sistemler Ar-Ge faaliyetleri, müşteri destek hizmetleri, finansal analizler, sağlık karar destek mekanizmaları ve olay müdahalesi gibi süreçlerde kullanım potansiyeli taşımaktadır.
Etken yapay zekâ kullanımı veri güvenliğini nasıl etkiler?
Verilerin farklı kaynaklardan toplanarak çok aşamalı işlenmesi veri minimizasyonu ve veri güvenliği riskleri doğurmakta, farklı verilerin birleştirilmesiyle hassas profil çıkarımları oluşabilmektedir.
Etken yapay zekâ yapılarında hangi mahremiyet ilkeleri önerilir?
Süreçlerde insan gözetimi ve açıklanabilirliğin sağlanmasının yanında tasarımdan itibaren mahremiyet yaklaşımı tavsiye edilmekte; kimi değerlendirmelerde ise buna varsayılan olarak mahremiyet ilkesinin de eşlik etmesi gerektiği belirtilmektedir.
Hukuki uyarı: Bu içerik genel bilgilendirme amacı taşır; somut olay değerlendirmesi için avukata başvurulmalıdır.
Hazırlayan: Av. Erdal Ersoy