YAPAY ZEKA KAVRAMI, TIPTA YAPAY ZEKA KULLANIMI VE YAPAY ZEKA SİSTEMLERİNİN SORUMLULUK HUKUKU BAKIMINDAN ÖNEM TAŞIYAN RİSKLERİ
§ 1. ARAŞTIRMA KONUSUNA GİRİŞ
29
B. Yapay Zekanın Kavramsal Çerçevesi
32
1. Genel Kabul Görmüş Bir Tanımın Bulunmaması
32
2. Sınıflandırma Yoluyla Kavramın Sınırlarının Belirlenmesi
36
3. Teknik İşlevsel Özellikler
39
a. Öğrenme Tabanlı Veri İşleme
39
aa. Veri İşlemenin Temel Modeli
39
bb. Model Tabanlı Kural Oluşturmadan Öğrenme Tabanlı Kural Oluşturmaya Geçiş
40
i. Model Tabanlı Kural Oluşturma
40
ii. Öğrenme Tabanlı Kural Oluşturma
41
cc. Öğrenme Tabanlı Kural Oluşturmanın Özellikleri
43
i. Kural Oluşturmanın Ön Koşulu Olarak Eğitim
43
ii. İşleme Kurallarının Yalnızca Örtük Olarak Temsil Edilmesi
47
iii. Dondurulmuş (Öğrenme Süreci Sona Erdirilmiş) ya da Öğrenmeye Devam Eden (Kendini Geliştiren) Sistemler Olarak Yapılandırılabilme
47
c. Sinir Ağları Örneği
50
bb. Çok Katmanlı Sinir Ağları (Derin Öğrenme)
51
4. Çalışmada Esas Alınan Yapay Zeka Kavramı
53
5. Yapay Zeka ile Robot Kavramı Arasındaki İlişki
54
A. Yapay Zeka Sistemlerinin Tıbbi Cihaz Olarak Nitelendirilmesi
58
B. Tıbbi Cihazların Sınıflandırılması ve Uygunluk Değerlendirmesi
60
1. Risk Sınıflandırmasına Göre Uygunluk Değerlendirmesinde İzlenecek Süreç
60
2. Uygunluk Değerlendirmesi İçin Temel Gerekliliklerin İspatı
60
a. Temel Gereklilikler
60
b. Yapay Zeka Sistemlerine İlişkin Düzenleme Eksikliği
61
c. Tıbbi Cihaz Nitelendirmesinin Hekimin Sorumluluğu Bakımından Önemi
63
§ 2. TIPTA YAPAY ZEKA KULLANIMI
64
I. TIBBİ MÜDAHALELERDE YAPAY ZEKA TEKNOLOJİLERİNİN SAĞLADIĞI AVANTAJLAR
64
II. TIBBİ MÜDAHALELERDE YAPAY ZEKANIN UYGULAMA ALANLARI
66
A. Mevcut Uygulama Alanları
66
1. Tıbbi Tanıda Yapay Zeka Uygulamaları
67
2. Tıbbi Tedavide Yapay Zeka Uygulamaları
69
III. TIBBİ MÜDAHALELERDE YAPAY ZEKA SİSTEMLERİNİN KULLANIM BİÇİMLERİ
71
A. Yapay Zeka Sistemlerinde İnsan Müdahalesinin Düzeyleri
71
1. Human in the Loop (İnsanın Döngünün İçinde Bulunduğu Sistemler)
71
2. Human on the Loop (İnsanın Döngüyü Gözetlediği Sistemler)
72
3. Human out of the Loop (İnsanın Döngünün Dışında Kaldığı Sistemler)
72
B. Karar Destek Sistemlerinden Karar Alma Sistemlerine Geçiş
73
§ 3. YAPAY ZEKA SİSTEMLERİNİN SORUMLULUK HUKUKU BAKIMINDAN ÖNEM TAŞIYAN RİSKLERİ
74
II. ŞEFFAF OLMAMA (OPAKLIK) RİSKİ
77
B. Açıklanabilir Yapay Zeka Araştırma Alanı
79
III. KARMAŞIKLIK RİSKİ
80
HEKİMİN HUKUKİ SORUMLULUĞU
§ 1. HEKİMİN HUKUKİ SORUMLULUĞUNUN TEMELLERİ
87
II. TEDAVİ İLİŞKİSİNİN HUKUKİ NİTELİĞİ
87
III. ÖZEL HUKUKA TABİ TEDAVİ İLİŞKİSİNDE HEKİMİN HUKUKİ SORUMLULUĞU
89
A. Sorumluluğun Yasal Dayanakları
89
B. Sorumluluğun Koşulları
96
§ 2. YAPAY ZEKA DESTEKLİ TIBBİ CİHAZLARININ KULLANIMININ HUKUKA UYGUNLUĞU
101
I. HEKİMİN ŞAHSİ EDİM YÜKÜMLÜLÜĞÜ
101
B. Hekimlik Faaliyetlerinin Devri
104
1. Hukuka Uygun Yetki Devrinin Koşulları
104
a. Yetki Devrinin Muhatabı Olarak Alt Vekil (Kaim Vekil) ve Yardımcı Kişi Ayrımı
104
b. Vekilin Üstlendiği Edimin İfasını Alt Vekile (Kaim Vekile) Devretmesi
106
c. Vekilin Üstlendiği Edimin İfasında Yardımcı Kişi Görevlendirmesi
108
2. Vekilin Üstlendiği Edimi Devretmesinin Sınırları
109
3. Vekilin Üstlendiği Edimi Yetkisiz Olarak Devretmesinin Sorumluluk Hukuku Açısından Sonuçları
111
II. YAPAY ZEKA DESTEKLİ TIBBİ CİHAZLARIN KULLANIMI
113
A. Şahsi Edim Yükümlülüğü ile Yapay Zeka Sistemlerinin Kullanımı Arasındaki İlişki
113
B. Tıbbi Faaliyetlerin Devrinde Yapay Zeka Sistemlerinin Alt Vekil (Kaim Vekil) ya da Yardımcı Kişi Olarak Nitelendirilmesi
114
2. Yapay Zeka Sistemlerinin Alt Vekil (Kaim Vekil) Olarak Nitelendirilmesi
117
3. Yapay Zeka Sistemlerinin Yardımcı Kişi Olarak Nitelendirilmesi
119
b. Yapay Zeka Sistemlerine Kısmi Hak Ehliyeti Tanınması Yoluyla Yardımcı Kişi Olarak Nitelendirilmesi
120
c. Yapay Zeka Sistemlerinin Kıyasen Yardımcı Kişi Olarak Nitelendirilmesi
122
C. Yapay Zeka Sistemlerine Yetki Devrinin Hukuka Uygunluğu
124
1. Yetki Devrine İlişkin İlkelerin Yapay Zeka Sistemleri Bakımından Uygulanması
124
2. Hukuka Uygun Yetki Devrine İlişin Koşullar
125
b. Tıbbi Faaliyetlerin Çekirdek Alanında Yardımcı Kişi Kullanımı
126
aa. Destekleyici Yapay Zeka Sistemleri
126
bb. İkame Edici Yapay Zeka Sistemleri
127
III. HASTANIN AYDINLATILMASI VE RIZASININ ALINMASI
129
1. Yeni Bir Yöntem Olarak Yapay Zeka Sistemlerinin Kullanımına İlişkin Aydınlatma
131
2. Standart Bir Yöntem Olarak Yapay Zeka Sistemlerinin Kullanımına İlişkin Aydınlatma
132
§ 3. TIBBİ MÜDAHALELERDE YAPAY ZEKA SİSTEMLERİNİN KULLANIMINA İLİŞKİN ÖZEN YÜKÜMLÜLÜKLERİ
140
I. GENEL OLARAK HEKİMİN ÖZEN YÜKÜMLÜLÜĞÜ
140
A. Özen Kavramı ve İşlevi
140
B. Özen Yükümlülüğünün Kapsamı
142
a. Tıbbi Standart Kavramı ve Hukuki Önemi
144
b. Tıbbi Standartların Belirlenmesi
146
c. Yeni Yöntemler ve Hekimin Tedavi Özgürlüğü
148
d. Genel Tehlike İlkesi
150
II. YAPAY ZEKA SİSTEMLERİNİN STANDART VE YENİ YÖNTEM OLARAK KULLANIMI
151
A. Yapay Zeka Sistemlerinin Standart Yöntem Olarak Kullanımı
151
B. Yapay Zeka Sistemlerinin Yeni Yöntem Olarak Kullanımı
154
C. Özel Özen Yükümlülükleri
155
1. Yapay Zeka Sisteminin Seçiminde Hekimin Özen Yükümlülükleri
156
a. Yapay Zeka Sistemini Kullanma ya da Kullanmama Yükümlülüğü
156
b. Tıptaki Gelişmeler Hakkında Sürekli Eğitim Yükümlülüğü
157
2. Yapay Zeka Sisteminin Kullanımında Hekimin Özen Yükümlülükleri
159
a. Yapay Zeka Sisteminin İşletimi İçin Teknik Bilgi ve Becerilerin Edinilmesi Yükümlülüğü
159
b. Yapay Zeka Sistemini Kullanmaya Başlamadan Önce Hazırlama Yükümlülüğü
160
3. Yapay Zeka Sisteminin Denetiminde Hekimin Özen Yükümlülükleri
161
a. Yapay Zeka Sistemlerinde Denetim Yükümlülüğünün Kapsamı
161
b. Denetim Yükümlülüğünün Güven İlkesi ile Sınırlandırılması
162
aa. İş Bölümünde Güven İlkesi
162
bb. Güven İlkesinin Yapay Zeka Sistemlerine Uygulanabilirliğine İlişkin Görüşler
165
§ 4. YAPAY ZEKA SİSTEMLERİNİN HATALI KARARLARINDAN DOĞAN SORUMLULUK
169
I. HEKİMİN KENDİ YÜKÜMLÜLÜĞÜNE AYKIRILIKTAN KAYNAKLANAN SORUMLULUĞU
170
A. Hekimin Yapay Zeka Sistemini Kullanmasının Özen Yükümlülüğüne Aykırılık Teşkil Etmesi
170
B. Sözleşmeye Dayalı Kusurdan Bağımsız Sorumluluk Taahhüdü
173
C. Yedek Sorumluluk Dayanağı Olarak Aydınlatma Yükümlülüğünün İhlali
174
II. YAPAY ZEKA SİSTEMLERİNİN HATALI KARARLARININ KULLANICIYA YÜKLENMESİ
175
A. Yapay Zeka Sistemlerinin Hatalı Kararlarının Sözleşmeye Dayanan Yardımcı Kişi Sorumluluğu Kapsamında Kullanıcıya Yüklenmesi
175
2. Yardımcı Kişi Sorumluluğunun Yapay Zeka Sistemlerine Genişletilmesine Karşı İleri Sürülen Argümanlar
177
a. Yapay Zeka Sistemlerinin Hükmün Lafzi Kapsamına Girmemesi
178
b. Yapay Zeka Sistemlerinin Hak Ehliyetinin ve Haksız Fiil Ehliyetinin Bulunmaması
178
c. Üreticinin Sorumluluğuna Öncelik Verilmesi
180
3. Yardımcı Kişi Sorumluluğunun Yapay Zeka Sistemlerine Genişletilmesini Destekleyen Argümanlar
181
a. Yapay Zeka Sistemlerinin Kullanımında Normatif Değer Eşitliği
181
b. Zararın Meydana Gelmesi Halinde Sözleşme Borçlusunun ve Alacaklının Sorumluluk Hukuku Bakımından Hukuki Durumu
182
aa. Sözleşme Borçlusunun Haksız Şekilde Sorumluluktan Kurtulması
182
bb. Zarar Görenin Hukuki Durumunun Haksız Şekilde Kötüleştirilmesi
183
4. Türk Borçlar Kanunu’nun 116/1. Maddesi Kapsamında Yardımcı Kişinin Fiillerinden Sorumluluğa İlişkin Genel Esaslar
184
5. Yapay Zeka Sistemlerinin Hatalı Kararlarının Kullanıcıya Yüklenmesi
187
b. Öğretide İleri Sürülen Görüşler
189
aa. İnsan Odaklı Ölçütler
189
bb. Sistem Odaklı Ölçütler
190
c. Görüşlerin Değerlendirilmesi
194
6. Yapay Zeka Sisteminin Üreticisinin Türk Borçlar Kanunu’nun 116/1. Maddesi Kapsamında Yardımcı Kişi Sayılıp Sayılmayacağı
197
B. Yapay Zeka Sistemlerinin Hatalı Kararlarının Haksız Fiil Sorumluluğu Kapsamında Kullanıcıya Yüklenmesi
199
1. Adam Çalıştıranın Haksız Fiil Sorumluluğu
199
aa. Sonucun Hukuka Aykırılığı ile Davranışın Hukuka Aykırılığı Arasındaki Ayrım
200
bb. Hukuka Aykırılık Koşulunun Yapay Zeka Sistemleri Açısından Değerlendirilmesi
203
2. Hayvan Bulunduranın Sorumluluğu
206
3. Yapı Malikinin Sorumluluğu
207
§ 5. TIBBİ SORUMLULUK DAVALARINDA İSPAT YÜKÜ
209
II. İSPAT YÜKÜNÜN DAĞILIMI
211
A. Aydınlatılmış Onam Yükümlülüğünün İspatı
211
B. Yükümlülük İhlalinin, Zararın ve Nedensellik Bağının İspatı
213
III. YAPAY ZEKA SİSTEMLERİNİN KULLANIMINDA İSPAT KOLAYLIKLARI
216
A. İspat Kolaylıklarının Hukuki Gerekçesi: İspat Yükümlülüğünün Unsurlarına Göre Sistematik Bir İnceleme
217
2. Yükümlülük İhlalinin İspatında İspat Kolaylıkları
219
a. Hekimin Tıbbi Kayıt Tutma Yükümlülüğünün İhlalinin İspatında İspat Kolaylıkları
220
aa. Tıbbi Kayıt Tutma Yükümlülüğünün Kapsamı
221
ii. Yapay Zeka Sistemlerinde Tıbbi Kayıt Tutma Yükümlülüğü
223
bb. Yükümlülüğe Aykırı Kayıt Tutmanın İspat Hukuku Bakımından Sonuçları
224
b. Tedavi Sırasında Ortaya Çıkan Sağlık Zararlarında İspat Kolaylığı
226
aa. İsviçre Hukukunda
226
bb. Alman Medeni Kanunu § 630 h (1) Kapsamında Tam Olarak Kontrol Edilebilir Risklerde İspat Yükünün Yer Değiştirmesi
228
ii. Tam Olarak Kontrol Edilebilir Risklerde İspat Yükünün Yer Değiştirmesi Kuralının Yapay Zeka Sistemlerinde Uygulanması
232
3. Nedensellik Bağının İspatında İspat Kolaylıkları
234
SORUMLULUĞUN POZİTİF HUKUK (DE LEGE LATA) BAKIMINDAN DEĞERLENDİRİLMESİ VE
OLMASI GEREKEN HUKUK (DE LEGE FERENDA)
BAKIMINDAN ÇÖZÜM ÖNERİLERİ
§ 1. SORUMLULUK HUKUKU HÜKÜMLERİ KAPSAMINDA RİSK DAĞILIMININ DEĞERLENDİRİLMESİ
239
I. SORUMLULUK HUKUKUNDA RİSK DAĞILIMININ AMACI VE İŞLEVİ
239
II. SORUMLULUĞUN HUKUKİ DAYANAĞI
241
III. POZİTİF HUKUK KAPSAMINDA RİSK DAĞILIMI
243
A. Çalışma Kapsamında Ulaşılan Hukuki Tespitlerin Değerlendirilmesi
243
B. Risk Dağılımında Üreticinin Rolünün Dikkate Alınması
246
1. Üreticinin Risk Üzerindeki Müdahale ve Etki Kapasitesi
246
2. Üreticinin Sorumluluğunun Temel Esasları
248
3. Yapay Zeka Sistemleri Bakımından Üreticinin Sorumluluğu
250
a. Yapay Zeka Sistemlerinin Ürün Olarak Nitelendirilip Nitelendirilemeyeceği
250
b. Yapay Zeka Sistemlerinin Hatalı Kararlarının Ürün Hatası Olarak Nitelendirilip Nitelendirilemeyeceği
257
aa. Hatalı Ürün Kavramı
257
bb. Yapay Zeka Sistemlerinde Olası Ürün Hataları
260
c. Ürün Hatasının Tespitinde Esas Alınacak Zaman
268
§ 2. OLMASI GEREKEN HUKUK (DE LEGE FERENDA) BAKIMINDAN ÇÖZÜM ÖNERİLERİ GELİŞTİRİLMESİ
278
I. AVRUPA BİRLİĞİ DÜZENLEMELERİNDE MEYDANA GELEN GELİŞMELER
279
A. Robotikler Hakkında Medeni Hukuk Kuralları Tavsiye Raporu ve Beyaz Kitap
280
B. Yapay Zeka Kullanımına İlişkin Hukuki Sorumluluğun Düzenlenmesine Dair Avrupa Parlamentosu Kararı (2020/2014 (INL))
281
C. Yapay Zeka Sorumluluk Direktifi Teklifi
282
D. Ürün Sorumluluğu Direktifi
284
II. TÜRK HUKUKUNDA YAPAY ZEKAYA İLİŞKİN KANUN TEKLİFLERİ
285
III. ÖĞRETİDE İLERİ SÜRÜLEN (DE LEGE FERENDA) ÇÖZÜM ÖNERİLERİ
287
A. Yapay Zeka Sistemlerinin Kullanıcısı Olarak Hekimin Tehlike Sorumluluğu
287
B. Türk Borçlar Kanunu’nun 66. Maddesinde Katı Bir İsnat Rejiminin Öngörülmesi
292
C. Sorumluluğa Alternatif ya da Sorumluluğu Tamamlayan Sigorta Modeli
293
D. Yapay Zeka Sistemlerinin Sorumluluk Süjesi Olarak Tanınması (Elektronik Kişilik)
295
E. Önerilerin Değerlendirilmesi
297