Bir cinayet işlendiğini düşün, polis olay yerine geliyor, deliller toplanıyor, kamera kayıtları inceleniyor, telefonlar araştırılıyor.

Fakat soruşturmanın sonunda ortaya çıkan şey alışılmışın dışında:

Tetiği çeken bir insan yok.

Kararı bir algoritma verdi.

Peki mahkeme kimi suçlayacak?

Algoritmayı mı?

Onu geliştiren yazılımcıyı mı?

Şirketi mi?

Yoksa algoritmanın kararını uygulayan insanı mı?

Ve belki de asıl soru şu:

Bir makine bir insanın ölümüne neden olduğunda, suç kime ait olur?

1. Önce algoritmayı suçlayabilir miyiz?

İlk bakışta suçluyu bulmak kolay gibi görünüyor:

“Kararı algoritma verdi.”

Ama hukuk açısından burada büyük bir problem var.

Bir algoritma bugün kendi başına insan gibi hukuki bir kişi değil.

Hapse giremez.
Mahkemeye çıkarılamaz.
Niyetinden bahsedilemez.

Dolayısıyla:

“Algoritmayı tutuklayalım.”

demek meseleyi çözmüyor.

Asıl soru algoritmanın arkasındaki insanlara dönüyor.

2. O zaman yazılımcıyı mı suçlayacağız?

Şimdi düşün:

Bir yazılımcı milyonlarca satırlık bir sistemin yalnızca belirli bir bölümünü geliştirmiş olsun.

Sistem yıllar sonra hiç beklenmeyen bir karar versin.

Ve bu karar bir insanın ölümüne yol açsın.

Yazılımcı:

“Ben sisteme böyle bir karar vermesini söylemedim” diyor.

Peki yine de sorumlu mu?

Burada hukuk başka sorular sormaya başlar:

Bu sonucu öngörebilir miydi?

Sistemin risklerini biliyor muydu?

Gerekli güvenlik önlemleri alınmış mıydı?

Hata ortaya çıktığında sistem durdurulabilir miydi?

Çünkü bir yazılımın hatalı olması ile bir insanın bile bile tehlikeli bir sistem tasarlaması aynı şey değildir.

3. Belki de şirket sorumludur

Şimdi sorumluluğu biraz daha yukarı taşıyalım.

Algoritmayı tek bir kişi değil, yüzlerce kişinin çalıştığı bir teknoloji şirketi geliştirmiş olsun.

Testlerde sistemin hata yaptığı fark edilmiş.

Fakat şirket:

“Bu hatayı düzeltmek çok pahalı.”

diyerek sistemi kullanmaya devam etmiş.

Ve sonunda bir insan hayatını kaybetmiş.

İşte burada mesele yalnızca “algoritma hata yaptı” olmaktan çıkar.

Çünkü artık:

“Kim ne biliyordu ve hangi kararı verdi?” sorusu önem kazanır.

Günümüzde hukukçuların yapay zekâ kullanılan adli süreçlerde özellikle şeffaflık, doğrulama, hata oranları ve insan denetimi gibi konulara dikkat çekmesinin nedeni de bu.

4. Peki algoritmayı kullanan kişi?

Diyelim ki algoritma polise:

“Bu kişi yüksek risk taşıyor” dedi.

Polis memuru da sonucu hiç sorgulamadan hareket etti.

Ve sonuç bir cinayete dönüştü.

Şimdi soru şu:

Memur algoritmaya güvenmek zorunda mıydı?

Yoksa algoritmanın kararını kontrol etmek onun sorumluluğunda mıydı?

Burada çok önemli bir mesele ortaya çıkıyor:

İnsan, makinenin kararını sorgulama sorumluluğunu ne zaman kaybeder?

Çünkü bir makineye güvenmek ile sorumluluğu makineye devretmek aynı şey değildir.

5. Peki ya algoritma neden böyle karar verdiğini bilmiyorsa?

İşin en ürkütücü taraflarından biri burada.

Mahkeme algoritmaya soruyor:

“Neden bu kişiyi seçtin?”

Ama sistemin verdiği cevap insanın anlayabileceği kadar basit değil.

Çünkü bazı yapay zekâ modellerinin karar süreçleri son derece karmaşık olabilir.

Bu nedenle “black box” yani kara kutu problemi, yapay zekâda şeffaflık ve açıklanabilirlik tartışmalarının merkezinde bulunuyor. Hukuk uzmanları da özellikle yüksek etkili kararlarda sistemin nasıl çalıştığının ve hata oranlarının anlaşılabilmesini önemli görüyor.

Ve mahkeme açısından korkutucu soru şu:

Bir kararın neden verildiğini anlayamıyorsak, o karara ne kadar güvenebiliriz?

6. Ya sorun algoritmada değil, verilerdeyse?

Belki algoritma aslında yanlış çalışmıyordur.

Belki ona yanlış şeyler öğretilmiştir.

Milyonlarca veri sisteme yükleniyor.

Ama bu veriler:

• eksik,
• hatalı,
• dengesiz,
• geçmişteki insan önyargılarını taşıyan verilerse…

Algoritma da bunları öğrenebilir.

O zaman mahkemenin sorusu değişir:

“Algoritma neden yanlış karar verdi?” yerine “biz bu algoritmaya ne öğrettik?” demeye başlarız.

Ve burada çok rahatsız edici bir ihtimal ortaya çıkar:

Makine kendi önyargısını üretmiyor olabilir.

Bizim önyargılarımızı öğrenip bize geri veriyor olabilir.

7. Peki algoritma zamanla kendi davranışını değiştirirse?

Şimdi senaryoyu biraz daha ileri götürelim.

Algoritma ilk üretildiğinde belirli kurallara sahip.

Fakat zaman içerisinde yeni verilerden öğreniyor.

Bir süre sonra geliştiricilerin tahmin etmediği bir davranış ortaya çıkıyor.

Sonra bir cinayet gerçekleşiyor.

Mahkeme salonunda herkes aynı soruya bakıyor:

Yazılımcı:

“Ben böyle tasarlamadım.”

Şirket:

“Biz böyle bir sonuç beklemiyorduk.”

Kullanıcı:

“Ben sadece sistemin kararını uyguladım.”

Ve ortada…

tek bir kişinin üzerine konabilecek açık bir suç yok.

İşte geleceğin hukukundaki en zor problemlerden biri burada ortaya çıkıyor:

Öngörülemeyen bir makine davranışından kim sorumlu olacak?

8. Bir de deliller meselesi var

Aslında yapay zekâ hukukta yalnızca “karar veren makine” problemi yaratmıyor.

Bir de delillerin kendisi var.

Bir video düşün.

Görüntüde sanık olay yerinde.

Ses kaydı da var, yüzü belli, her şey gerçek gibi.

Ama video yapay zekâyla üretilmiş.

Bugün hukuk dünyasında deepfake ve yapay zekâyla değiştirilmiş görüntülerin mahkemelerde nasıl doğrulanacağı ciddi biçimde tartışılıyor.

Hatta 2025’te Arizona’daki bir ceza davasında, öldürülen kişinin yapay zekâyla oluşturulmuş dijital avatarının mahkemede kullanılması büyük tartışma yaratmıştı. Avatar gerçek kişinin yüzünü ve sesini taklit ederek sanığa hitap etti; materyal resmi delilden ziyade mağdur etki beyanının parçası olarak kullanıldı.

Yani gelecekte mahkeme yalnızca:

“Bu görüntü ne söylüyor?” diye sormayabilir.

Aynı zamanda:

“Bu görüntü gerçekten yaşandı mı?” diye de sormak zorunda kalabilir.

9. O zaman kimi suçlayacağız?

Belki cevap tek bir kişi olmayacak.

Çünkü algoritmik bir kararın arkasında bir zincir olabilir:

Veriyi seçenler.

Algoritmayı geliştirenler.

Sistemi test edenler.

Şirket yöneticileri.

Sistemi kullanan kişi.

Denetleyen kurum.

Ve belki de sistemi kullanma kararını verenler.

Bu yüzden gelecekte mahkemelerin yalnızca:

“Katil kim?”

sorusunu değil,

“Bu sonucun ortaya çıkmasına kim, hangi aşamada ve ne ölçüde katkıda bulundu?”

sorusunu da sorması gerekebilir.