Algoritmik Kararlar ve Yapay Zekâda Sorumluluk Boşluğu

Hukuk Düzeninde Karar Kavramı ve Algoritmik Süreçler

Hukuk düzeninde karar, salt zihinsel veya psikolojik bir tercihten ibaret olmayıp normatif bir bağlam içinde dış dünyada doğurduğu nesnel sonuçlarla anlam kazanır. Bir eylem veya işlemin hukukî niteliği, karar vericinin öznel niyetlerinden ziyade kararın öngörülebilirliği, gerekçelendirilebilirliği ve denetlenebilirliği ile belirlenir. Bu nesnel ölçütler, algoritmik sistemlerin ürettiği çıktıların hukuk düzeni içindeki geçerliliğini ve meşruiyetini değerlendirmenin temel zeminini oluşturur.

Algoritmik Kararların Klasik İnsan Kararlarından Temel Farkları

Algoritmik kararlar, geleneksel insan kararlarından üç temel nitelik bakımından ayrılır. Bunlardan ilki dağıtılmış üretim yapısıdır; algoritmik karar tek bir failin eylemi olmayıp kod geliştiriciler, veri sağlayıcılar, model tasarımcıları, sistem işletmecileri ve kullanıcılar arasında zamana yayılan bir sürecin neticesidir. İkinci ayrım makine öğrenmesi temelli sistemlerde görülen öngörülemezliktir; sistemin insan müdahalesi olmaksızın kendi öğrenme süreci boyunca yapısını dönüştürmesi sebebiyle karar çıktısı önceden kesin olarak tahmin edilemez. Üçüncü ayrım ise kara kutu niteliğindeki sistemlerin işleyiş basamaklarının açıklanmasını zorlaştıran gerekçelendirme sorunudur.

Yapay zekâ mekanizmalarını yalnızca insan iradesini dış dünyaya aktaran teknik bir araç olarak nitelendiren klasik kabul, yeni nesil otonom işleyiş karşısında yetersiz kalmaktadır. Algoritmik süreçlerde insan çoğu zaman somut sonucu değil başlangıç koşullarını, karar verme sürecini değil karar alanını ve nihai çıktıyı değil yalnızca optimizasyon hedefini belirler. Sistemin insan tarafından çizilen çerçevede fakat önceden tek tek öngörülmeyen yollarla karar üretmesi, çıktının doğrudan insan iradesinin bir uzantısı olduğu tezini zayıflatır.

Yapay Zekâda Sorumluluk Boşluğunun Yapısı ve Unsurları

Sorumluluk boşluğu; hukukî sonuç doğuran bir karar veya fiilin mevcut sorumluluk rejimleri dâhilinde güvenilir bir biçimde herhangi bir süjeye atfedilememesi durumunu ifade eder. Bu durum kararın sonuçsuz kalması ya da zararın yok sayılması anlamına gelmez; aksine somut bir zarar doğmasına rağmen bu zarardan hukuken kimin sorumlu tutulacağının belirsiz kalması halini yansıtır.

Algoritmik sistemlerde sorumluluk boşluğunun doğuşu, üç kurucu unsurun eş zamanlı olarak zayıflamasına dayanır. Dağıtılmış üretim ağı sebebiyle karara katkı sunan çoklu etkenler nedenselliğin parçalanmasına yol açar. Kendi kendine öğrenen algoritmaların değişen dinamikleri öngörülebilirliği aşındırır. Karar sürecindeki bağımsız adımlar nedeniyle norm ihlalini oluşturan somut davranışın ve faile yüklenebilecek kusurun saptanamaması ise kusur kavramının işlevsizleşmesi sonucunu doğurur.

Etik Süjelik ile Hukukî Faillik Arasındaki Ayrım

Hukukî faillik ile etik süjelik birbirine denk veya özdeş kavramlar değildir. Hukuk sistemi normatif ihtiyaçlar doğrultusunda tüzel kişiler, kusursuz sorumluluk halleri ve tehlike sorumluluğu örneklerinde olduğu gibi etik süje niteliği bulunmayan varlıkları da sorumluluk mekanizmalarının içerisine dâhil edebilmektedir. Bu sebeple yapay zekânın etik süje sayılmaması, sistemin ürettiği kararların ve meydana gelen fiillerin bütünüyle hukukî fail alanının dışına itilmesini zorunlu kılmaz.

Doktrinde Önerilen Sorumluluk Modelleri

Algoritmik kararların yol açtığı sorumluluk boşluğunun giderilmesine yönelik olarak doktrinde iki ana yaklaşım tartışılmaktadır. İlk model olan risk temelli sorumluluk yaklaşımında, belirli düzeyde risk barındıran yapay zekâ uygulamaları bakımından kusur şartı aranmaksızın sorumluluk öngörülmesi savunulur. İkinci model olan fonksiyonel fail yaklaşımında ise kararın fiilî olarak hangi sistem tarafından üretildiği esas alınarak sorumluluk, karar üretme fonksiyonunu bizzat yerine getiren yapı üzerinden kurulur.

Pozitif Hukuktaki Düzenlemeler ve Algoritmik Kararlara İtiraz

Algoritmik sistemlerin bireyler üzerindeki etkileri pozitif hukuk kuralları kapsamında çeşitli haklar ve sorumluluk mekanizmalarıyla dengelenmektedir. 6698 sayılı Kişisel Verilerin Korunması Kanunu'nun 11. maddesinin birinci fıkrasının (g) bendi uyarınca ilgili kişi, işlenen kişisel verilerinin münhasıran otomatik sistemler vasıtasıyla analiz edilmesi suretiyle kendi aleyhine bir sonucun ortaya çıkmasına itiraz etme hakkına sahiptir. Bunun yanı sıra aynı maddenin (a), (b) ve (c) bentleri uyarınca kişisel veri işlenip işlenmediğini öğrenme, işlenmişse buna ilişkin bilgi talep etme ve verilerin işlenme amacına uygun kullanılıp kullanılmadığını öğrenme yetkileri güvence altına alınmıştır.

6698 sayılı Kanun'un 11. maddesinin birinci fıkrasının (ğ) bendi uyarınca, kişisel verilerin kanuna aykırı olarak işlenmesi sebebiyle zarara uğrayan kişi, uğradığı zararın giderilmesini talep edebilmektedir.

Tehlike Sorumluluğu İlkesi ve Algoritmik Riskler

Algoritmik süreçlerin yol açtığı zararlarda kusur şartının aranmadığı genel sorumluluk ilkelerinden biri, 6098 sayılı Türk Borçlar Kanunu'nun 71. maddesinde düzenlenen tehlike sorumluluğudur. Anılan maddenin birinci fıkrasına göre, önemli ölçüde tehlike arz eden bir işletmenin faaliyetinden zarar doğduğu takdirde, işletme sahibi ve varsa işleten bu zarardan müteselsilen sorumludur.

Bir işletmenin bu kapsamda değerlendirilmesi, faaliyetin niteliğine göre belirlenir. 6098 sayılı Kanun'un 71. maddesinin ikinci fıkrası uyarınca, mahiyeti veya faaliyette kullanılan malzeme, araçlar ya da güçler göz önünde tutulduğunda, uzman bir kişiden beklenen tüm özenin gösterilmesi durumunda dahi sıkça veya ağır zararlar doğurmaya elverişli olduğu sonucuna varılan işletmeler önemli ölçüde tehlike arz eden işletme kabul edilir. Ayrıca dördüncü fıkra uyarınca bu tür faaliyete hukuk düzenince izin verilmiş bulunsa dahi, zarar görenler işletmenin yol açtığı zararların uygun bir bedelle denkleştirilmesini talep edebilirler.

Hukuki uyarı: Bu içerik genel bilgilendirme amacı taşır; somut olay değerlendirmesi için avukata başvurulmalıdır.

Hazırlayan: Av. Erdal Ersoy