Av. Yıldız Tuğçe Erduran
İstanbul Üniversitesi Kamu Hukuku Bilim Dalı Yüksek Lisans Mezunudur.
Genel Bakış
Avrupa Birliği (“AB”), uzun zamandır yapay zekâ teknolojisinin uygulama alanları, kullanımı ve sınırları hakkında yeknesak bir düzenleme oluşturmaya çalışmaktadır. 8 Aralık 2023 tarihi itibariyle çabaların meyvesini verdiğini görebiliriz. Üye devletlerin ve Avrupa Parlamentosu’nun 35 saat süren görüşmelerinin ardından Yapay Zekâ Yasası üzerine ön anlaşmaların tamamlandığı müjdelenmiştir. AB’nin yapay zekânın kullanımıyla ilgili küresel standartları oluşturan net kuralları koyması olumlu bir gelişme olarak yankı bulmuştur.
Yine de uygulamadaki etkisini tüm yönleriyle görmek için henüz erken. Öncelikle, bu yasanın 27 ülkenin temsilcilerinden oluşan Avrupa Konseyi’nde onaylanması gerekiyor. Yürürlük tarihi ise 2025 yılını bulabilir.
Yasanın kökleri, Avrupa Konseyi’nin Avrupa Komisyonu’na (“Komisyon”) 2017 yılında yapay zekâ hakkında düzenleme yapılmasına ilişkin çağrısına kadar çekilebilir. 2020 yılında Avrupa Komisyonu’nun yapay zekâya ilişkin Beyaz Kitap isimli raporunda[1] yapay zekânın hayatımızdaki yerine dikkat çekilerek üye ülkelerin bu teknolojiden faydalanmasının önemine yer verilmiştir. Yapay zekânın etik kurallara uygun kullanımı ve insan güvenliğini sağlamayı amaçlayan düzenlemelerin oluşturulması da raporda neşredilen bir diğer meseledir.
Nihayetinde Komisyon, 21 Nisan 2021 tarihinde yapay zekâ sistemlerinin kullanımını düzenleyen bir yasa teklifi[2] sunmuştur. Avrupa Parlamentosu tarafından yasa tasarısının kabul tarihi 14 Haziran 2023’ü göstermektedir. Yasanın kabulüne kadar, üye devletlerin ortak metin üzerinde uzlaşıya yönelik teklifleri ile 6 aylık bir süre geçmiştir.
Bugün itibariyle elimizde büyük ölçüde tamamlanmış bir yasa metni bulunduğunu söylemek mümkün. O halde bir göz atalım!
Dikkate Değer Yasal Düzenlemeler
Yasada, yapay zekâ sistemlerinin zarar verme risklerine göre kategorilere ayrılmış olması metinde göze çarpan önemli düzenlemelerden. Yasanın kategorizasyon sistemine göre yapay zekâ sistemleri; kabul edilemez, yüksek riskli ve düşük riskli olarak üç ana başlık altında tasnif edilmiştir.
- Kabul Edilemez Riskli Yapay Zekâ Sistemleri
Kısaca yasaklı yapay zekâ sistemleri olarak anılan bu sistemler, üye ülkelerde ve AB standartlarında mevzuat oluşturan ülkelerde kullanılamaz olan sistemlerdir. Yasanın tanımladığı yasaklı yapay zekâ sistemleri de kendi içerisinde gruplanmıştır. Yasa madde 5’te tanımlandığı üzere, bu sistemlerden ilki, insanların kendisine ve/veya bir başkasına zarar verebilecek olan, subliminal yapay zekâ uygulamaları olarak anılan manipülatif yapay zekâ sistemleridir. Kati suretle yasaktır. Bir diğeri Black Mirror[3] bölümünden anımsayabileceğiniz gibi, kamu otoritelerinin sosyal puanlanamaya ilişkin yapay zekâ sistemleridir. AB’nin buradaki bir hedefi, Çin’de yapılacağı rivayetleri dolaşan vatandaş sosyal kredi sisteminin AB içerisinde asla gerçekleşmeyeceğinin teminatını sağlamaktır. Çin’deki yapay zekâ tabanlı sistemin de finansal sektörü ve kredi sektörünü düzenlemekle makbul vatandaşlık statüsünün karışımı bir düzenleme olduğu şimdilik ele geçen verilerden akla en yatkını[4]. Bunu belirtmek şu açıdan önemli; hiçbir gelişmiş ülke, bireylerin hayatını daraltma ile yol alamayacağını aşağı yukarı çözmüş durumda.
Yasayla halka açık alanlarda kanun hükmünün uygulanması için gerçek zamanlı ve uzaktan biyometrik tanıma sistemlerinin kullanılması belirli istisnalar haricinde yasaktır.
Hızlı bir okumayla, yasa metninde distopik bir gelecek tasvirinin önüne geçilmek istendiğini görebiliriz. Düzenlenmenin sınırlı sayıda durumu ele aldığı eleştirileri yükselmiştir. Örneğin, manipülatif sistemlerin kişinin kendisi/başkası yerine topluma karşı kullanılması halinde ne olacağının kanunda yer almaması ve sosyal puanlama sisteminin özel sektörde kullanımının yasak kapsamına alınıp alınamayacağına dair belirsizlik bunlardan en önemlileridir. Yine, biyometrik tanıma sistemlerine ilişkin düzenlemenin zaten 2016/680 Sayılı Direktif’inde yer aldığının, yasanın bir yenilik getirmediğinin de doktrinde tartışıldığını belirtelim.
Suçun potansiyel mağdurlarına yönelik araştırmalarda; yaşama yönelik belirli, esaslı ve yakın tehdit ile terör saldırının önlenmesi için şüphelinin yerinin tespiti, teşhisi ve tutuklanması için biyometrik tanıma sistemleri kullanılabilir. Bu kati istisnanın yasada yer aldığını eklemek isteriz.
Yüksek Riskli Yapay Zekâ Sistemleri
Kanunun odak noktalarından birisi de yüksek riskli yapay zekâ sistemlerini regüle etmektir. Belirtmek isteriz ki; kullanıcı olarak karşımıza çıkan “hayat kolaylaştırıcı” uygulamaların birçoğu bu risk grubunda değerlendirilir. Örneğin bankacılık uygulamalarındaki yüz tanıma sistemleri, robotik cerrahi, otonom araçlar buna dahildir. Kanunun 6. maddesine göre, AB sağlık ve güvenlik mevzuatına tabi sistemler doğrudan yüksek riskli sayılmıştır. 7. maddede ise ihtiyaç halinde yetkilendirilmiş işlemler aracılığıyla güncellenmiş sistemler yer alır. Örneğin, kişilerin biyometrik olarak kategorize edilmesi, adalet, demokrasi, işçi ve istihdama yönelik sistemler bu grupta tanımlanmıştır. Yüksek risk grubunda tanımlı sistemler için verilerin yönetilmesi, kayıtların tutulması, şeffaflık ilkeleri gibi gereklilikler kanunda ayrıntılı olarak ele alınmıştır[5].
Mesela elektronik oy sistemleri, işe alım mülakatı, adayların seçimi ve adayların davranış ve kişisel özelliklerine dayalı sistemler yüksek riskli olarak kabul edilmektedir.
Düşük Riskli Yapay Zekâ Sistemleri
Düşük riskli yapay zekâ sistemlerinden insanlarla etkileşime geçen duygu tanıma, biyometrik kategorizasyon ve deep fake uygulamaları için şeffaflık yükümlülüğü getirilmiştir. Şeffaflıkla kastedilen asıl durum, bu sistemlerle iletişime geçen insanın bir yapay zekâ sistemiyle etkileşime geçtiğinin kendisine bildirilmesidir.
Örneğin yapay zekâ tabanlı oyunlarda, akıllı konuşma robotu ile iletişime geçen kişinin, o sırada akıllı bir yazılımla irtibatta olduğunun belirtilmesi gerekmektedir. Ancak bu şeffaflık yükümlülüğü de ceza gerektiren suçun, failin ve şüphelinin tespiti söz konusu olduğunda istisna oluşturmaktadır.
Bundan Sonra Bizi Neler Bekliyor?
Avrupa Birliği’nin yapay zekâ uygulamaları için hedefine koyduğu sürdürülebilirlik ve güvenilirlik kavramlarını yasal çerçeveye oturttuğunu bu kanunla görebiliyoruz. Şeffaflık yükümlülüğünün insanlarla etkileşime giren sistemlere getirilmesi ve özellikle yüksek riskli yapay zekâ sistemlerinde uygunluk değerlendirilmesi koşulunun bulunması yasanın yararlı sonuçları olarak göze çarpmaktadır. Bu metin ışığında şimdilik bazı sorulara cevaplar bulunmuştur. Önemli tartışma alanlarından olan canlı yüz tanıma sistemleri için kabul edilemez yapay zekâ sistemi kategorizasyonu yapılsa da güvenlik temelli istisnai durumlar hakkında önümüzdeki günlerde neler olacak, göreceğiz.
Çok çarpıcı başka bir ateşin harı da bu metinle sönmüş durumdadır: Clearview AL isimli yüz tanıma şirketinin, sosyal medyadan alınan biyometrik verilerle yüz tanıma işlemleri gerçekleştirdiğini açıklaması yankı uyandırmıştı. Hatta şirketin CEO’su, bu sosyal medya mecralarından edinilmiş 30 milyar fotoğraftan oluşan bir veri tabanının bulunduğunu ve ABD polisi için 1 milyon tarama yaptığını açıklamıştı[6]. Büyük tartışmaların merkezindeki şirket, kanun metninde de kendisine aksi yönde yer bulmuştur. Yapay zekâ yasasıyla sosyal medyadan biyometrik verilerin kazılması da yasaklanmıştır.
Öte yandan, bu yasanın yüz çevirdiği hukuki boşlukların durumu eleştirilere konu olmuştur. Örneğin, kabul edilemez yapay zekâ sistemlerinin üye ülkeler içerisinde kullanımı yasaklanmıştır. Ancak bu teknolojinin imal ve ihraç edilmesinin önünde kanuni bir engelin bulunmadığı göze çarpmaktadır. Biyometrik tanıma sistemlerini kullanabilmek için kolluk kuvvetlerine gerekçeli bir taleple kullanım yetkisi alma izni tanınsa da bu tekil kullanım izninin amaca mı yoksa aranan kişiye mi yönelik olduğu madde metninden anlaşılamamaktadır.
Her türlü aksaklığa rağmen, risk temelli yaklaşımın öncellenerek kanunun buna göre inşa edilmesi ve yeknesak bir uygulamanın sonunda gerçekleşecek olması bizim adımıza oldukça olumlu sinyaller. Bu kanunun yürürlüğe girmesiyle Türkiye’nin de bu standartlara uygun bir yerel mevzuata model oluşturacağı anlayışı kuvvetlidir. Bu açıdan kontrolsüz kullanımın önüne geçilmesini sevinçle karşılamak gerekir.
Kaynaklar
White Paper on Artifical Intelligence (COM(2020)65 final): https://commission.europa.eu/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en
Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts; https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence
Avrupa Komisyonu’nun Yapay Zekâ Tüzük Teklifi’ne Genel Bir Bakış, Armağan Ebru Bozkurt Yüksel, TAAD, Yıl 13 . Sayı 51 . Temmuz 2022
AB Yapay Zeka Yasasında Yer Alan Tanımların Türkçe Çevirisi, İzmir Barosu Bilişim Hukuku Komisyonu Yapay Zeka Alt Çalışma Grubu, https://www.izmirbarosu.org.tr/HaberDetay/3271/ab-yapay-zeka-yasasinda-yer-alan-tanimlarin-turkce-cevirisi-yapildi
Nosedive Bölümü: https://en.wikipedia.org/wiki/Nosedive_(Black_Mirror)
China just announced a new social credit law. Here’s what it means https://www.technologyreview.com/2022/11/22/1063605/china-announced-a-new-social-credit-law-what-does-it-mean/
Yapay Zekâ Kullanımı için Hukuksal Çerçeve İhtiyacı, Prof. Dr. Pınar Karacan, Arş. Gör. Doğa Irgız https://blog.lexpera.com.tr/yapay-zeka-kullanimi-icin-hukuksal-cerceve-ihtiyaci
Europeans Take a Major Step Toward Regulating A.I.https://www.nytimes.com/2023/06/14/technology/europe-ai-regulation.html
Yapay Zekâ Yasası Avrupa Parlamentosu Tarafından Kabul Edildi, Sevgi Ünsal Özden https://www.erdem-erdem.av.tr/bilgi-bankasi/yapay-zeka-yasasi-avrupa-parlamentosu-tarafindan-kabul-edildi
Yasa Taslak Metni: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206
Avrupa Birliği Hukuku ve Yapay Zekânın Düzenlenmesi, Dr. Ayşe Elif YILDIRIM, https://ataum.ankara.edu.tr/2023/08/02/blog-yazisi-47/
Shaping Europe’s digital future: Commission presents strategies for data and Artificial Intelligence, https://ec.europa.eu/commission/presscorner/detail/en/ip_20_273
Clearview AI used nearly 1m times by US police, it tells the BBC, https://www.bbc.com/news/technology-65057011
[1] İlgili rapor için: White Paper on Artifical Intelligence (COM(2020)65 final)
[2] Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts
[3] Black Mirror (Kara Ayna) dizisinin 3. sezonunun “Nosedive” isimli ilk bölümünde sosyal kredi sistemi ile makbul vatandaşlık sisteminin hicivli bir eleştirisi yer almaktadır.
[4] China just announced a new social credit law. Here’s what it means https://www.technologyreview.com/2022/11/22/1063605/china-announced-a-new-social-credit-law-what-does-it-mean/
[5] Kanunun getirdiği 7 adet yükümlülük bulunmaktadır. Bunlar risk yönetimi, veri yönetişim, teknik dokümantasyon, kayıt tutmanın kolaylaştırılması, şeffaflık, insan gözetimine izin vererek sağlık, güvenlik ve temel haklara ilişkin risklerin minimize edilmesi, yüksek siber güvenlik sistemlerinin kurulmasıdır. Ayrıca uygunluk değerlendirmesinden geçen yüksek riskli sistemlerin kanuna uygun olacağı belirtilmiştir.
[6] Clearview AI used nearly 1m times by US police, it tells the BBC,
Yarının Kültürü 
Yorum bırakın