15 saat önce
23 
New York eyaletinde yasa koyucular, OpenAI, Google ve Anthropic gibi büyük yapay zeka laboratuvarlarının geliştirdiği ileri seviye modellerin felaket senaryolarına yol açmasını önlemeyi amaçlayan RAISE yasasını onayladı. Yasa, 100’den fazla kişinin ölümü veya yaralanması ya da 1 milyar dolardan fazla maddi hasara yol açabilecek senaryolara karşı düzenleyici çerçeve oluşturacak.
AI felaketlerine karşı ilk yasal adım New York’tan geldi! RAISE yasası meclisten geçti
RAISE Yasası’nın yürürlüğe girmesi halinde, bu alandaki ABD’nin ilk yasal şeffaflık standartları devreye girmiş olacak. Nobel Ödüllü Geoffrey Hinton ve yapay zeka araştırmaları öncüsü Yoshua Bengio gibi önemli isimlerin destek verdiği yasa son yıllarda hız ve inovasyona öncelik veren Silikon Vadisi ile önceki yönetimlerin karşısında konumlanıyor.
Yasa şu anda imza için New York Valisi Kathy Hochul’un önünde bekliyor. Vali isterse yasayı onaylayabilir, değişiklik isteyebilir ya da veto edebilir. RAISE Yasası teknik olarak California’daki SB 1047 yasa tasarısıyla benzerlik gösterse de SB 1047’nin aksine daha dar kapsamlı ve daha az müdahaleci bir çerçeve sunuyor.
Yasanın ortak sponsorlarından New York Eyalet Senatörü Andrew Gounardes, yaptığı açıklamada tasarının startuplar ya da akademik araştırmacılar üzerindeki inovasyon baskısını en aza indirecek şekilde hazırlandığını söyledi.
Yasa kapsamında ileri düzey AI sistemleri geliştiren büyük teknoloji şirketlerinin, güvenlik ve siber güvenlik raporlarını kamuya açık olarak yayınlaması olası güvenlik ihlallerini bildirmesi ve bu sistemlerle ilgili olumsuz davranışları raporlaması zorunlu hale geliyor. Bu yükümlülüklere uymayan şirketlere, New York Başsavcılığı tarafından 30 milyon dolara kadar sivil para cezası uygulanabilecek.
Yasa, yalnızca ileri düzey AI sistemlerine odaklanıyor. Bunun için modelin eğitiminde 100 milyon doların üzerinde hesaplama kaynağı kullanılmış olması ve modelin New York’taki kullanıcılara sunuluyor olması gerekiyor. Bu tanım şu anda piyasadaki en gelişmiş sistemlerin bile büyük kısmını kapsıyor.
Yasanın geliştirilmesine katkı sunan Encode şirketinin hukuk işleri başkan yardımcısı Nathan Calvin’a göre RAISE Yasası geçmişteki düzenlemelere yöneltilen eleştirileri dikkate alarak hazırlandı. Tasarıda örneğin modellerde “acil durdurma” (kill switch) zorunluluğu bulunmuyor ve modelin eğitiminin ardından oluşabilecek zararlar nedeniyle şirketler doğrudan sorumlu tutulmuyor.
Ancak bu haliyle bile yasa Silikon Vadisi’nde ciddi muhalefetle karşılaştı. Yasanın diğer sponsoru New York Eyalet Meclis Üyesi Alex Bores da yaptığı açıklamada sektörün bu direncini beklediğini söyledi. A16Z gibi yatırımcı gruplarının ortaklarından Anjney Midha yasanın “aptalca” olduğunu savunarak bu tür düzenlemelerin ABD’nin küresel rekabet gücünü zayıflatacağını iddia etti.
Yasa tasarısına karşı temkinli yaklaşan bir diğer isim ise güvenlik odaklı yapay zeka şirketi Anthropic’in kurucu ortağı Jack Clark oldu. Clark yasanın küçük şirketler açısından fazla geniş kapsamlı olabileceğini belirtti. Ancak Senatör Gounardes bu eleştirinin amacını kaçırdığını ve tasarının yalnızca büyük çaplı şirketleri hedef aldığını söyledi.
OpenAI, Google ve Meta ise yasa hakkında yorum yapmayı reddetti. Öte yandan yasanın şirketleri New York pazarından çekilmeye zorlayabileceği yönünde endişeler de gündeme geldi. Ancak Meclis Üyesi Bores bunun ekonomik olarak mantıklı olmadığını New York’un ABD’deki en büyük üçüncü ekonomik yapıya sahip olduğunu hatırlattı ve “Bu pazardan çekilmek, şirketlerin kolay kolay göze alacağı bir şey değil” dedi.
RAISE Yasası, özellikle Avrupa’daki teknoloji düzenlemelerinin ardından ABD’de eyalet düzeyinde atılmış en kapsamlı adımlardan biri. Yasa, ileri düzey AI sistemlerinin daha şeffaf ve denetlenebilir biçimde geliştirilmesini zorunlu hale getirerek, kamu güvenliğini ön planda tutan yeni bir dönemin habercisi olabilir.
