Tüm insanlığı ilgilendiriyor… Tarihi anlaşma… Yapay zekaya öz denetim şartı

Avrupa Birliği yetkilileri, “AB Yapay Zekâ Yasası” (EU AI Act) olarak bilinen düzenleme konusunda 36 saatlik maraton müzakerenin ardından anlaşmaya vardı. 2024’ün ilk aylarında Avrupa Parlamentosu’nda oylanacak AB Yapay Zekâ Yasası’nın 2025’te yürürlüğe girmesi bekleniyor.

ABD, Çin ve İngiltere gibi birçok ülkede yapay zekânın yasal çerçevesini oluşturmak üzere çalışmalar sürerken bu alanda kapsamlı bir kanun için ilk somut adımı Avrupa Birliği (AB) attı.

Birlik’in yasama organı olan Avrupa Parlamentosu’nun (AP) geçen hazirandaki kararı ile yapay zekâ konusunda dünyanın ilk yasa tasarısı onaylanmıştı. Tasarının sonbaharda AB’nin yürütme organı olan Avrupa Komisyonu tarafından da onaylanması bekleniyordu ancak takvim sarktı.

Journo’nun derlemesine göre, bu gecikmenin, ChatGPT‘yi de yaratan OpenAI’ın tasarıyı “sulandırmak” amacıyla yürüttüğü lobicilik faaliyetlerinden kaynaklandığı ileri sürüldü. Haberlere göre bu ABD şirketi, yapay zekânın önemli bir uygulama alanını oluşturan ve “üretici/üretken yapay zekâ” (generative AI) için kullanılan GPT gibi “temel modellerin” AB’deki yasal düzenlemelerden muaf tutulması için çalışıyordu.

Komisyon’un hazırladığı ilk taslağa AP tarafından temel modelleri doğrudan hedef alan bir denetim maddesi eklenmişti. Bu modellerin insan haklarına saygı gösterecek biçimde çalışması, enerji verimli olması ve ürettiği içeriklerin yapay zekâ tarafından yaratıldığını tüketicilere bildirmesi şart koşulmuştu. Tasarıda, medyayı ve gazetecileri en yakından ilgilendiren bölüm de burasıydı.

ÖZ DENETİM ŞARTI GETİRİLDİ

Müzakeler bu yüzden uzadı ancak son tahlilde AB’nin en büyük ekonomileri olan Almanya, Fransa ve İtalya’nın önerisiyle bir orta yol bulundu. Sadece açık kaynak kodlu temel modeller yasadan muaf tutuldu. GPT gibi ticari modeller ise “kullanım şartları yoluyla zorunlu özdenetim” yapacak. AP’nin eklediği ve yapay zekâ geliştiricilerini bağlayan uzun bir sorumluluklar listesi içeren denetim maddesi tasarıdan çıkarıldı.

AP’nin ve Komisyon’un müzakerecileri, 36 saatlik görüşmelerin ardından cumartesi günü (9 Aralık) AB Yapay Zekâ Yasası konusunda anlaşmaya vardı. AB bu sayede hem yapay zekâ uygulamalarına yasal düzlemde netlik kazandırmayı, hem kamu yararını ve insan haklarını korumayı, hem de bunları yaparken inovasyon ve yatırımları engellememeyi amaçlıyor.

Avrupa Komisyonu Başkanı Ursula von der Leyen, AB Yapay Zekâ Yasası sayesinde bu alandaki yeni teknolojilerin, insanların güvenliklerini ve haklarını ihlal etmeden “güvenle” geliştirilebileceğini söyledi. AB Komiseri Thierry Breton da “tarihi” diye nitelediği yasanın “yapay zekâ kullanımı konusunda net kurallar” getireceğini vurgularken düzenlemenin “bir kural kitabından daha fazlası” olduğunu da belirtti.

2024 başında AP’de oylanması beklenen AB Yapay Zekâ Yasası’nın hükümlerinin üye ülkelerde en erken 2025’te yürürlüğe girmesi bekleniyor. AB Genel Veri Koruma Regülasyonu (GDPR) gibi etkili bir yasal düzenleme çerçevesi sunması beklenen AB Yapay Zekâ Yasası‘nın üzerinde uzlaşılan metninin neler içerdiğini, Avrupa Konseyi şöyle özetliyor:

RİSK NE KADAR YÜKSEKSE KURALLAR O KADAR KATI

YZ Yasası, güvenli ve güvenilir yapay zekânın hem özel hem de kamu aktörleri tarafından AB’nin tek pazarında geliştirilmesini ve benimsenmesini teşvik etme potansiyeline sahip amiral gemisi niteliğinde bir yasama girişimidir. Ana fikir, yapay zekânın topluma zarar verme kapasitesine göre “risk temelli” bir yaklaşımla düzenlenmesidir: Risk ne kadar yüksekse, kurallar da o kadar katı olacaktır.

Bu yasa önerisi, dünyada türünün ilk örneği olması nedeniyle, tıpkı GDPR gibi, diğer hukukî yetki alanlarında küresel bir standart belirleme ve böylece, Avrupa’nın teknoloji düzenlemesine yaklaşımıyla dünya sahnesinde emsal teşkil etme potansiyeline sahiptir.

İlk Komisyon teklifiyle karşılaştırıldığında, geçici anlaşmadaki başlıca yeni maddeler aşağıdaki şekilde özetlenebilir:

• Gelecekte sistemik riske neden olabilecek yüksek etkili genel amaçlı yapay zekâ (YZ) modellerine ve yüksek riskli YZ sistemlerine ilişkin kurallar
• AB düzeyinde birtakım yaptırım yetkilerine sahip gözden geçirilmiş bir yönetişim sistemi
• Kolluk kuvvetleri tarafından kamuya açık alanlarda uzaktan biyometrik kimlik tespitinin birtakım tedbirlere tâbi olarak kullanılabilmesi kaydıyla, yasaklar listesinin genişletilmesi,
• Yüksek riskli YZ sistemlerinin dağıtıcılarına, bir YZ sistemini kullanıma sokmadan önce temel haklar etki değerlendirmesi yapma yükümlülüğü getirilerek hakların daha etkin korunması.

YASANIN KAPSAMI

Uzlaşma anlaşması, yapay zekâyı daha basit yazılım sistemlerinden ayırt etmeyi mümkün kılacak şekilde daha açık ve belirgin kriterler içermesi için, YZ sisteminin tanımını Avrupa Güvenlik ve İşbirliği Teşkilatı (AGİT) tarafından önerilen yaklaşıma uygun bir şekilde düzenlenmiştir.

Geçici anlaşma, düzenlemenin AB hukuku kapsamı dışındaki alanlara uygulanmayacağını ve hiçbir durumda üye devletlerin ulusal güvenlik alanındaki yetkilerini veya bu alanda görev üstlenen herhangi bir kuruluşu etkilememesi gerektiğini de açıkça ortaya koymaktadır. Ayrıca, yapay zekâ yasası münhasıran askeri veya savunma amaçlı kullanılan sistemler için geçerli olmayacaktır. Benzer şekilde, anlaşma, düzenlemenin yalnızca araştırma ve inovasyon amacıyla kullanılan YZ sistemleri veya profesyonel olmayan nedenlerle YZ kullanan kişiler için geçerli olmayacağını öngörmektedir.

KİŞİSEL KULLANIMDA HAFİF YÜKÜMLÜLÜKLER

Uzlaşma anlaşması, ciddi temel hak ihlallerine veya diğer önemli risklere neden olması muhtemel olmayan YZ sistemlerinin kapsam dışı bırakılmasını sağlamak için yüksek risk sınıflandırması da dâhil olmak üzere, yatay bir koruma katmanı öngörmektedir. Yalnızca sınırlı risk arz eden YZ sistemleri, kullanıcıların daha fazla kullanım konusunda bilinçli kararlar verebilmeleri için içeriğin YZ tarafından oluşturulduğunun açıklanması gibi çok hafif şeffaflık yükümlülüklerine tâbi olacaktır.

Geniş bir yelpazedeki yüksek riskli YZ sistemlerine izin verilecek, ancak AB pazarına erişim sağlamak için bir dizi zorunluluk ve yükümlülüğe tabi kılınacaktır. Bu zorunluluklar, örneğin veri kalitesi veya yüksek riskli YZ sistemlerinin gerekliliklere uygun olduğunu ispatlamak için KOBİ’ler tarafından hazırlanması gereken teknik dokümantasyona yönelik olarak, ortak yasa koyucular tarafından teknik olarak daha uygulanabilir ve paydaşların uyması için daha az külfetli olacak şekilde netleştirilmiş ve düzenlenmiştir.

YZ sistemleri karmaşık değer zincirleri aracılığıyla geliştirildiğinden ve dağıtıldığından, uzlaşma anlaşması, bu zincirlerdeki çeşitli tarafların, özellikle de YZ sistemlerinin sağlayıcıları ve kullanıcılarına yönelik sorumlulukların ve görevlerin dağılımını netleştiren değişiklikler içermektedir. Ayrıca, YZ Yasası kapsamındaki sorumluluklar ile mevcut AB veri koruma mevzuatı veya sektörel düzenlemeler gibi diğer mevzuat kapsamındaki sorumluluklar arasındaki ilişkiyi de açıklığa kavuşturmaktadır.

ÖNGÖRÜLEN CEZALAR

YZ yasası ihlalleri nedeniyle uygulanacak para cezaları, ihlalde bulunan şirketin bir önceki mali yıldaki küresel yıllık cirosunun bir yüzdesi veya önceden tespit edilmiş bir miktar (hangisi daha yüksekse) olarak belirlenmiştir. Bu, yasaklanan YZ uygulamalarına ilişkin ihlaller için 35 milyon Euro veya %7, YZ yasasındaki yükümlülüklere ilişkin ihlaller için 15 milyon Euro veya %3 ve yanlış bilgi temini için 7,5 milyon Euro veya %1,5 olacaktır. Bununla birlikte geçici anlaşma, YZ Yasası hükümlerinin ihlali durumunda KOBİ’ler ve start-up’lar için idari para cezalarında daha orantılı üst sınırlar öngörmektedir.

Uzlaşma anlaşması ayrıca, YZ Yasası ihlali ile ilgili olarak, bir gerçek veya tüzel kişinin ilgili piyasa gözetim otoritesine şikâyette bulunabileceğini ve böyle bir şikâyetin ilgili otoritenin kendi özel prosedürlerine uygun olarak ele alınmasını bekleyebileceğini açıkça ortaya koymaktadır.

Geçici anlaşma, dağıtıcıları tarafından piyasaya sürülmeden önce, yüksek riskli YZ sistemlerinin temel haklar etki değerlendirmesine tâbi tutulmasını öngörmektedir. Anlaşma ayrıca yüksek riskli YZ sistemlerinin kullanımına daha fazla şeffaflık getirmektedir. Özellikle, Komisyon teklifinin bazı hükümleri, yüksek riskli bir YZ sisteminin kamu tüzel kişisi niteliğindeki belirli kullanıcılarının da bu sistemler için AB veri tabanına kayıt yaptırmakla yükümlü olacağını belirtecek şekilde değiştirilmiştir. Ayrıca, yeni eklenen hükümler, duygu tanıma sistemi kullanıcılarının, gerçek kişiler bu tür bir sisteme maruz kaldıklarında onları bilgilendirme yükümlülüğüne vurgu yapmaktadır.

Kaynak:Odatv.com