Şimdi Arayın:
Öz
Geleneksel sorumluluk hukuku, uzun yıllar boyunca kişi ile eşya arasındaki klasik ayrıma dayanmıştır. Ancak son yıllarda gelişen otonom yapay zekâ sistemleri, bu ayrımın bazı yönlerden yetersiz kalmasına neden olmaktadır. Özellikle derin öğrenme yöntemleriyle çalışan sistemlerin, zaman içerisinde öngörülemeyen kararlar üretebilmesi, klasik kusur sorumluluğu anlayışını zorlamaktadır.
Bugün yapay zekâya bağımsız bir hukuki kişilik tanınması gerektiği yönünde çeşitli görüşler ileri sürülse de, bu yaklaşım gerek teorik gerek uygulamaya ilişkin sebeplerle henüz kabul edilmiş değildir. Bu nedenle, yapay zekânın neden olduğu zararların mevcut sorumluluk rejimleri içerisinde nasıl değerlendirileceği ayrı bir önem taşımaktadır.
Bu çalışmada, Türk Borçlar Kanunu’nun 67. maddesinde düzenlenen hayvan bulunduranın sorumluluğu hükümlerinin, belirli ölçüde otonom davranış sergileyen yapay zekâ sistemleri bakımından kıyasen uygulanıp uygulanamayacağı incelenmektedir. Çalışmada özellikle, yapay zekâ sistemlerinin öngörülemez davranış yapısı ile hayvanların içgüdüsel hareketleri arasındaki hukuki benzerlik üzerinde durulmuştur.
1. Giriş
Teknolojik gelişmeler, sorumluluk hukukunun klasik sınırlarını yeniden tartışmaya açmıştır. Özellikle yapay zekâ sistemlerinin gündelik hayatta daha yoğun kullanılmaya başlanmasıyla birlikte, bu sistemlerin sebep olduğu zararların hangi hukuki esaslara göre değerlendirileceği önemli bir problem hâline gelmiştir.
Klasik kusur sorumluluğu anlayışı, insan davranışını esas alır. Buna göre sorumluluk, kusurlu bir iradenin varlığına dayanır. Ancak günümüzde kullanılan bazı yapay zekâ sistemleri, geliştiricisinin doğrudan öngöremeyeceği sonuçlar ortaya çıkarabilmektedir. Sistem, kendisine tanımlanan veri setleri üzerinden zaman içerisinde farklı davranış modelleri geliştirebilmekte ve bu durum bazen zarara yol açabilmektedir.
Bu noktada klasik ürün sorumluluğu hükümleri de her zaman yeterli görünmemektedir. Çünkü zarar çoğu durumda üretim aşamasındaki bir teknik ayıptan değil, sistemin sonradan geliştirdiği karar süreçlerinden kaynaklanmaktadır. Başka bir ifadeyle, yapay zekâ sistemi üretildiği anda teknik olarak kusursuz olabilir; ancak öğrenme süreci sonucunda öngörülemeyen bir davranış ortaya çıkabilir.
Dolayısıyla burada klasik anlamda tamamen “pasif” bir eşya değil, belirli ölçüde bağımsız hareket edebilen bir sistem söz konusudur. Sorun da esasen bu noktada ortaya çıkmaktadır.
2. Hayvan Bulunduranın Sorumluluğu ile Yapay Zekâ Arasındaki Benzerlik
Türk Borçlar Kanunu m. 67’de düzenlenen hayvan bulunduranın sorumluluğu, esas itibarıyla hayvanların öngörülemeyen davranışlarından doğan risklerin belirli bir kişi üzerinde toplanmasına dayanır. Hayvan sahibi veya bulunduran kişi, hayvanın her hareketini anlık olarak kontrol edemese bile, hukuk düzeni belirli şartlar altında onu sorumlu kabul etmektedir.
Benzer bir durumun yapay zekâ sistemleri bakımından da ortaya çıktığı söylenebilir. Özellikle otonom sistemlerde, geliştirici veya kullanıcı her zaman sistemin hangi sonuca ulaşacağını tam olarak öngörememektedir. Derin öğrenme temelli algoritmalar, zaman içerisinde kendi karar mekanizmalarını oluşturabilmektedir.
Bu nedenle bazı yönlerden yapay zekâ sistemleri ile hayvanların hukuki risk yapısı arasında benzerlik kurulması mümkündür. Her iki durumda da:
- Ortada hukuki kişiliği bulunmayan bir varlık vardır.
- Bu varlık belirli ölçüde öngörülemez davranışlar sergileyebilmektedir.
- Fiili hâkimiyet başka bir kişidedir.
- Zarar riski, sistemi veya hayvanı kontrol eden kişinin faaliyet alanında ortaya çıkmaktadır.
Bu benzerlik, hayvan bulunduranın sorumluluğuna ilişkin hükümlerin yapay zekâ bakımından kıyasen değerlendirilmesini mümkün kılabilir.
3. TBK m. 67 Hükümlerinin Yapay Zekâya Kıyasen Uygulanması
A. Yapay Zekâ İşleteninin Sorumluluğu
Hayvan bulunduranın sorumluluğunda esas alınan ölçüt, yalnızca mülkiyet değildir. Önemli olan, hayvan üzerinde fiili hâkimiyet kurulması ve ondan yarar sağlanmasıdır.
Benzer yaklaşım yapay zekâ sistemleri bakımından da uygulanabilir. Buna göre sorumluluğun, sistemi geliştiren kişiden çok, onu fiilen kullanan ve ekonomik veya mesleki faaliyetlerinde değerlendiren işleten üzerinde yoğunlaşması daha isabetli görünmektedir.
Örneğin bir hastanede kullanılan teşhis yapay zekâsı nedeniyle zarar ortaya çıkarsa, her durumda doğrudan yazılımcının sorumluluğuna gitmek pratik olmayabilir. Çünkü sistemi fiilen kullanan, veri akışını sağlayan ve sistem üzerinde denetim yetkisine sahip olan taraf çoğu zaman işletendir.
Bu nedenle riskten yararlanan kişinin aynı zamanda doğacak zararlardan da belirli ölçüde sorumlu tutulması gerektiği düşünülebilir.
B. Kurtuluş Kanıtı ve Dijital Özen Yükümlülüğü
TBK m. 67’de hayvan bulundurana, gerekli özeni gösterdiğini ispat ederek sorumluluktan kurtulma imkânı tanınmıştır. Benzer bir yaklaşım yapay zekâ sistemleri bakımından da uygulanabilir.
Buna göre işleten;
- güvenlik güncellemelerini düzenli yapmışsa,
- sistemi gerekli teknik denetimlerden geçirmişse,
- veri setlerini kontrol etmişse,
- insan gözetimini tamamen ortadan kaldırmamışsa,
gerekli özeni gösterdiğini ileri sürebilmelidir.
Özellikle yüksek risk taşıyan yapay zekâ sistemlerinde, işletenin teknik gözetim yükümlülüğü daha da önem kazanmaktadır. Bununla birlikte, her türlü önleme rağmen tamamen öngörülemeyen bir algoritmik sapma meydana gelmişse, işletenin sorumluluktan kurtulabilmesi de mümkün olmalıdır.
Bu yaklaşım, hem zarar görenin korunmasını hem de teknolojik gelişmenin aşırı sorumluluk baskısıyla engellenmemesini sağlayabilir.
C. Üçüncü Kişi Müdahalesi ve Rücu İmkânı
Türk Borçlar Kanunu m. 68’de, hayvanın üçüncü kişinin müdahalesi nedeniyle zarara sebep olması durumunda rücu imkânı düzenlenmiştir.
Benzer bir durum yapay zekâ sistemlerinde de ortaya çıkabilir. Özellikle siber saldırılar, veri manipülasyonları veya sisteme kasıtlı olarak yanlış veri yüklenmesi hâllerinde, yapay zekânın davranışları dış müdahaleyle değiştirilebilir.
Bu gibi durumlarda işletenin, zararı tazmin ettikten sonra saldırıyı gerçekleştiren üçüncü kişilere rücu edebilmesi mümkündür. Böylece sorumluluğun nihai olarak zarara sebep olan kişiye yönelmesi sağlanabilir.
Sonuç
Yapay zekâ sistemlerinin hukuki sorumluluğu konusunda mevcut hukuk düzenlerinde kesin ve yeknesak bir çözüm henüz ortaya çıkmış değildir. Bununla birlikte, klasik kusur sorumluluğu ile ürün sorumluluğu hükümlerinin, otonom yapay zekâ sistemlerinin neden olduğu zararları açıklamakta bazı durumlarda yetersiz kaldığı görülmektedir.
Bu çerçevede TBK m. 67’de düzenlenen hayvan bulunduranın sorumluluğu hükümleri, yapay zekâ sistemlerinin doğurduğu riskler bakımından dikkate değer bir model sunmaktadır. Çünkü her iki durumda da, hukuki kişiliği bulunmayan ancak belirli ölçüde öngörülemez davranışlar sergileyebilen bir varlık söz konusudur.
Kanaatimce, özellikle yüksek derecede otonom yapay zekâ sistemleri bakımından, hayvan bulunduranın sorumluluğuna ilişkin ilkelerin kıyasen uygulanması öğretide ve uygulamada tartışılmaya değer bir yaklaşım niteliği taşımaktadır.
Not: Bu çalışmayı, her yeni teknoloji için ayrı bir hukuki düzenleme yapılmasındansa, mevcut hukuk kurallarının gelişen teknolojiye uyarlanmasının daha çözüm odaklı bir yaklaşım olduğu kanaatinde olduğum için meydana getirdim. Parabolik artarak ilerleyen teknolojide ki gelişmelere uyum sağlamak adına, her yeni duruma göre hukuk kuralları oluşturmanın, bir süre sonra işin içinden çıkılamaz bir hal alacağı kanısındayım.
Ayrıca bu makaleyi, konuya giriş niteliğinde bir çalışma olarak kaleme aldım. Yapay zekâ sistemlerinin hukuki sorumluluğu oldukça geniş ve gelişmeye açık bir alan olduğundan, ilerleyen dönemde konuya ilişkin daha kapsamlı, teknik ve detaylı çalışmalar yapmayı planlıyorum.
Bu makale Etem GÜREL tarafından yazılmıştır.