Fransız üye, anlaşmayı “tarihi” olarak nitelendirerek “AB, yapay zeka kullanımına ilişkin net kurallar koyan ilk kıta oldu. Yeni yasa, AB'deki start-up şirketlerin ve araştırmacıların küresel yapay zeka yarışına liderlik etmeleri için bir fırlatma rampası niteliğindedir” dedi.

Avrupa Parlamentosu ve üye ülkelerin onayının ardından Yapay Zeka Yasası’nın, 2026 yılından itibaren bütün AB genelinde yürürlüğe girmesi bekleniyor.

Dünyada bir ilk olan yeni yasal düzenleme, yapay zeka uygulamalarına karşı "temel hak ve özgürlükleri, demokrasiyi, hukukun üstünlüğünü ve çevreyi" korumayı hedefliyor.

Yasa, yüz tanıma için güvenlik kamerası ve internet görüntülerini de içeren veritabanlarının oluşturulması gibi geniş kapsamlı yapay zeka uygulamalarını yasaklıyor.

Bir benzeri Çin tarafından da uygulandığı belirtilen ve insanları davranışlarından dolayı ödüllendiren ya da cezalandıran takip sistemleri de yasak olacak.

Dört kategori

Yeni yasa ile yapay zeka uygulamasına risk temelli bir yaklaşım izlenecek. Bu uygulamanın yaratacağı riskler, “en yüksek” ve “en düşük”, “kabul edilemez” ve “spesifik şeffaflık riski” olarak sınıflandırılıyor.

Yasal düzenleme şunları içeriyor:

Kabul edilemez risk: İnsanların temel haklarına yönelik açık bir tehdit olarak değerlendirilen yapay zeka sistemleri yasaklanacak.

Bu kapsamda, insanları davranışlarından dolayı ödüllendiren ya da cezalandıran vatandaş takip sistemleri ya da insan davranışlarını manipüle etmeye çalışan yapay zeka sistemlerine izin verilmeyecek.

Dini, siyasi ya da cinsel kimliklere dayalı bazı biyometrik tanımlama biçimleri ile işyerlerinde ya da okullarda duygu tespit sistemlerinin kullanılması de yasak kapsamında olacak.

Kamuya açık alanlarda (zorunlu yasal gereklilikler hariç) kolluk kuvvetlerinin amaçları doğrultusunda gerçek zamanlı uzaktan biyometrik tanımlama gibi biyometrik sistemleri kullanmaları da yasaklanacak.

Ancak, örneğin ciddi bir suçtan aranan biri veya bir kaçırma olayı için hedefli bir arama yapılıyorsa, insanları tanımak için yapay zekanın kullanılmasına izin verilebilecek.

Yüksek risk: Su, enerji, yargı, güvenlik, sağlık ve biyometri gibi yaşamsal öneme sahip alanları yönetmek için kullanılan yapay zeka sistemleri bu kapsamda yer alıyor.

Bu alanlarda kullanılan yapay zeka uygulamaları için, risk azaltma sistemleri, yüksek kalitede veri kümeleri, faaliyet günlüğü tutma, ayrıntılı belgeler, net kullanıcı bilgileri, insan gözetimi gibi katı koşullar getirilecek.

Spesifik şeffaflık riski: Kullanıcıların, sohbet robotları gibi yapay zeka sistemlerini kullanırken bir makineyle etkileşimde bulunduklarının farkında olmaları sağlanacak.

Biyometrik sınıflandırma veya duygu tanıma sistemleri içeren uygulamalar konusunda kullanıcıların bilgilendirilmesi gerekecek.

Düşük risk: İnsan hakları ve güvenliği açısından daha düşük düzeyde riske sahip olan yapay zeka destekli öneri sistemleri veya spam filtreleri gibi uygulamalar, daha esnek kurallara sahip olacak.