Strasbourg’da düzenlenen AP Genel Kurulu oturumunda, Avrupa’da yapay zekaya yönelik ilk kuralları içeren yasa tasarısı görüşüldü.
AP milletvekilleri, yapay zeka yasası konusunda üye ülkelerle yapılacak müzakerelerde AP’nin durumunu belirleyen belgeyi 499 “Evet” ve 28 “Hayır” oyu ile kabul etti. Buna göre yapay zeka sistemlerinin insanlar tarafından denetlenmesi, ayrımcılık yapılmaması, sadık, şeffaf ve çevre dostu olması gerekecektir. Yapay zekaya risk temelli bir yaklaşım uygulanacak. Yapay zekanın oluşturabileceği risk düzeyine bağlı olarak kurallar daha katı hale gelecek.
İnsanların güvenliği için “kabul edilemez” düzeyde risk oluşturan yapay zeka sistemleri yasaklanacak. Bu, insanları sosyal davranışlarına veya kişisel özelliklerine göre sınıflandıran yapay zeka sistemlerini içerecektir. Halka açık yerlerde gerçek zamanlı uzaktan biyometrik tanımlama sistemlerinin kullanılması da yasaklanacak.
Cinsiyet, ırk, etnik köken, vatandaşlık durumu, din, siyasi yönelim, profil çıkarma, pozisyon veya geçmiş hata davranışı gibi çeşitli hassas özellikleri kullanan biyometrik sınıflandırma sistemleri, polis sistemleri, kolluk kuvvetleri, sınır idareleri, işyerleri ve eğitim kurumları, duygu tanımlama sistemleri kurmak, İnternetten veya CCTV sistemlerinden bilgi tabanları oluşturmak için yüz tanıma bilgi tabanları oluşturmak yasaklanacaktır.
Yüksek riskli AI sınıflandırması; İnsanların sağlığına, güvenliğine, temel haklarına veya çevreye verilen zararı içerecek şekilde genişletilecektir.
Siyasi kampanyalarda seçmenleri etkilemek için yapay zeka sistemlerinin kullanılması yüksek risk kategorisine girecektir. Toplamda 45 milyonun üzerinde kullanıcıya sahip büyük sosyal medya platformlarının kullandığı sistemler de yüksek risk listesine alınacak ve bu sistemler katı kurallara tabi olacak.
ChatGPT
ChatGPT gibi sistemlerin ek şeffaflık kurallarına uyması gerekecektir. Bu sistemlerin, içeriğin yapay zeka tarafından oluşturulduğunu açıkça belirtmesi gerekecektir. Yasa dışı içerik üretimini engelleyecek sistemler tasarlanacaktır. Onaylanan müzakere yetkisi çerçevesinde AB üye ülkeleri ile AP’nin ortasındaki müzakereler bugün başlayacak. Yasama müzakerelerinin bu yıl sonuna kadar tamamlanması bekleniyor.
AB kurumlarının ortak bir yasal metin üzerinde anlaşmaya varmasının ardından yasa AB Resmi Gazetesi’nde yayımlanarak yürürlüğe girecek.
AB’nin şu anda ChatGPT veya benzeri yapay zeka sistemleriyle ilgili bir yönetmeliği yok, ancak AB Komitesi yapay zekayla ilgili yeni kurallar çerçevesini içeren ilk yasa teklifini 2 yıl önce hazırlayarak üye devletlere ve AP’ye sundu. Bu öneri, yapay zeka sistemlerinin kullanımında bazı sınırlamalar ve şeffaflık kuralları getirmiştir. Kurulun teklifinde yapay zeka sistemleri kabul edilemez risk, yüksek risk, sınırlı risk ve en az risk olarak 4 ana kümeye ayrıldı.
Öte yandan geçtiğimiz hafta AB, teknoloji şirketlerinden yapay zeka tarafından üretilen metin ve görsellerin üzerine tanımlayıcı etiketler koymalarını istedi.
Ayrıca yapay zeka yasası yürürlüğe girmeden önce AB Konseyi yapay zeka alanında çalışan tüm şirketlerin katılımıyla bu alana yeni kurallar getirecek bir anlaşma üzerinde çalışıyor. Bu istekli mutabakatın AI yasası devreye girene kadar uygulanması planlanıyor.
