AB yapay zekayı kontrol altına almayı hedefliyor

AB, yapay zekanının geliştirilmesi ve kullanımına ilişkin düzenlemeler öngören yasa tasarısında uzlaşma sağladı.

Avrupa Birliği (AB), günler süren müzakerelerin ardından  yapay zeka teknolojisinin kurallara bağlanmasını öngören yasa tasarısı üzerinde uzlaşma sağladı.

AB Komisyonunun iç pazardan sorumlu üyesi Thierry Breton, Avrupa Parlamentosu, AB Komisyonu ve AB'ye üye ülkelerin "Yapay Zeka Eylemi" (AI Act) olarak adlandırılan tasarıda uzlaşma sağlamasını "Tarihi" olarak nitelendirdi. Thierry X hesabından yaptığı açıklamada, "AB, yapay zekaya ilişkin net kurallar getiren ilk kıta oldu. Yasal bir düzenlemeden çok daha fazlası olan Yapay Zeka Eylemi, AB'deki startup şirketlerin ve araştırmacıların küresel düzeydeki yapay zeka yarışına liderlik etmeleri için bir başlangıç" ifadelerini kullandı.

AB Komisyonu Başkanı Ursula von der Leyen da X hesabından yaptığı açıklamada, Yapay Zeka Eylemi'nin küresel düzeyde bir ilk olduğunu vurgulayarak, söz konusu tasarı için, "Yapay zekanın geliştirilmesinde güvenebileceğiniz, insanların ve şirketlerin temel hakları ve güvenliği için oluşturulan tek yasal çerçeve" dedi.

Yapay zeka düzenlemesi

AB'nin üzerinde uzlaştığı yasal düzenleme, yapay zekanın olası riskleri ve etkileri temelinde yükümlülükler getirilmesini öngörüyor. Yapay zeka özellikle sağlık, demokrasi, çevre veya güvenlik alanlarında riskli olarak nitelendiriliyor.

AB'nin kuralları, algoritmaları geliştirmek için kullanılacak verilerin kalitesinin güvence altına alınmasını ve yapay zekanın geliştirilmesinde hiçbir telif hakkının ihlal edilmemesini öngörüyor. Bunun yanı sıra yapay zeka ile üretilen metin, görsel ve seslerin bu teknoloji ile üretildiğinin açık bir şekilde belirtilmesi zorunlu olacak.

Kritik altyapı, güvenlik kurumları ve personel daireleri gibi risk olabilecek alanlarda ise yapay zeka kullanımının daha sıkı kurallara bağlı olması hedefleniyor. Bu alanlarda, yapay zekanın insan kontrolünde olmasının şart koşulması planlanıyor.

Bazı uygulamalar yasak olacak

Varılan uzlaşmaya göre, yapay zekadan yararlanan bazı uygulamalar tamamen yasak olacak. Bunlarda arasında hassas olarak değerlendirilen cinsel yönelim veya dini inanç gibi kategorilerde ayrım yapabilecek biyometrik sistemler kesinlikle kullanılamayacak. İnternetten fotoğrafların yapay zeka aracılığıyla seçilmesi veya güvenlik kameralarındaki kayıtların yüz tanıma veri bankaları için kullanılmasına da izin verilmeyecek. Ancak terör saldırıları veya insan ticaretinin kurbanı olan kişilerin aranması gibi durumlarda biyometrik verilerin yapay zeka aracılığı ile istisnai kullanılması mümkün olacak.

Avrupa Parlamentosu ile üye ülkeler arasında biyometrik verileri toplama konusunda uzlaşmazlık yaşanıyordu. Parlamentonun hazırladığı tasarıda otomatik yüz tanıma gibi konularda yapay zeka kullanımının yasaklanması öngörülüyordu. Ancak AB'ye üye ülkeler, ulusal güvenlik, savunma ve diğer askeri alanlarda istisnalar yapılmasını istiyordu. Sağlanan uzlaşma, kolluk kuvvetlerinin biyometrik kimlik tanıma sistemlerini kullanmasına kısıtlamalar getirilmesini öngörüyor.

Tartışma yaratan bir diğer konu ise temel modeller olarak adlandırılan, geniş çaplı veriler ile donatılan GPT gibi yapay zeka uygulamalarına ilişkin düzenleme oldu. Almanya, Fransa ve İtalya temel yapay zeka modellerinin teknolojisine ilişkin genel bir düzenleme yerine sadece somut bazı uygulamalara ilişkin düzenleme getirilmesi gerektiğini bildirmişti. Yapılan müzakerelerde bu modellerin geliştirilmesinde şeffaflık yükümlülüğü getirilmesinde uzlaşma sağlandı.

Yıl sonuna kadar yasa tasarısına son şeklinin verilmesi bekleniyor. Yasa tasarısı, AB üyeleri ve Avrupa Parlamentosu tarafından onaylandıktan sonra iki yıl içinde yasalaşarak yürürlüğe girmesi hedefleniyor.

DW