Senate Ticaret Komitesinin sıralı üyesi Maria Cantwell (D-WA), yapay zeka (YZ) için geniş kapsamlı bir yönetişim çerçevesi oluşturdu. Bu çerçeve, Cantwell’in yasa yapma ve düzenleme süreçlerinde rehberlik edeceğine inandığı altı temel ilke içermektedir. Bu ilkeler arasında, ABD’nin Ulusal Ölçü ve Teknoloji Enstitüsü tarafından hazırlanmış, uygulanabilir standartların yanı sıra, ilkelere uymayan yapay zeka sistemlerinin denetimi yer alıyor. Cantwell, 2022’deki seçimlerde Demokratların Senato çoğunluğunu kazanması durumunda Ticaret Komitesinin başkanlığını devralma ihtimaliyle, YZ düzenlemeleri üzerine düşündüğü güvenlik ve emniyet unsurlarını vurguluyor.
Yeni Yöntemler ve Yaklaşımlar
Cantwell’in duyurusu, yüksek profilli bir YZ yönetim yasası tasarısını oluşturmaya çalışan Cumhuriyetçi Ted Cruz, Cumhuriyetçi Senato Çoğunluk Lideri John Thune ve Demokrat Amy Klobuchar ile aynı döneme denk geliyor. Yasa tasarısının, bu senatörlerin bir araya gelerek nihai bir anlaşma sağlaması halinde, yaklaşan kongre oturumunda şekillenebileceği belirtiliyor. Cantwell, “Gelişmiş YZ sistemlerinden kaynaklanan riskleri yönetebilmek için net güvenlik standartlarına, sürekli teste ve ciddi arızaların raporlanmasına ihtiyacımız var. Amerika, daha yetenekli, daha güvenli ve daha emniyetli sistemler oluşturarak YZ’de dünyaya liderlik edebilir.” dedi. Bu bağlamda, YZ’nin denetimi ve düzenlenmesi için yaratılan çerçeve birkaç temel ilkeye dayanıyor.
Altı Temel İlke
Cantwell’in çerçevesindeki ilkeler şunlardır:
- YZ Gelişimi ve Dağıtımı için Net, Uygulanabilir Federal Güvenlik Standartları
- Standartların Karşılandığını Doğrulamak İçin Sürekli Test, İnceleme ve Denetleme
- Şeffaflık ve Hesap Verebilirlik için Açıklama, Denetim ve Sonuçlar
- Kamu Yararı için Özel Kamu Ortaklıkları
- Çocuklar için Koruma, Çalışanlara Destek ve Sonuç YZ’nin İnsan Denetimi
- Ortak YZ Güvenlik ve Emniyet Standartlarının Benimsenmesi ve Uygulanması Konusunda ABD’nin Küresel İşbirliği
Cantwell, YZ sistemlerinin neden olduğu potansiyel felaket risklerini azaltmaya yönelen net, şeffaf ve ölçülebilir standartların geliştirilmesi gerektiğinin altını çiziyor. Özellikle, YZ’den kaynaklanan siber saldırılar, kimyasal, biyolojik, radyoaktif ve nükleer tehditler, insan kontrolünün kaybı ve otonom ajanların güvenli test ortamlarından sızması gibi konulara odaklanılması gerektiğini belirtiyor.
Sürekli Denetim ve Şeffaflık
Cantwell’in çerçevesine göre, YZ sistemlerinin sürekli olarak denetlenmesi ve gözlemlenmesi kritik öneme sahiptir. Kamu ve bağımsız uzmanların, YZ sistemlerinin felaket risk standartlarıyla karşılaştırmalı olarak sürekli denetim sağlaması ve özellikle uzmanlık gerektiren testler için sıkı bir denetim süreci yürütmesi gerekiyor. Manuel denetim süreci, YZ ürünlerinin federal standartlara ve güvenlik önlemlerine uyup uymadığını kontrol eden bağımsız denetim firmalarının kapsamlı denetimlerini de içermelidir.
Bu süreçler, geliştiricilere, bağımsız test edicilere ve denetçilere materyal güvenlik ve emniyet risklerini değerlendirme ve doğrulama fırsatı vermekte, ayrıca ciddi olayları hemen raporlamalarının önemini vurgulamaktadır. Cantwell, geliştirme süreçlerinde şeffaflığın sağlanması için kamuoyuna sunulacak malzeme güvenlik ve emniyet risklerinin açık bir dille açıklanmasının kritik olduğunu ifade ediyor.
Küresel İşbirliği ve Güvenlik
ABD’nin, uluslararası YZ güvenlik ve emniyet standartlarını belirleyen liderliği eline alması gerektiğini savunan Cantwell, müttefik ülkelerle ortak hareket edilmesi gerektiğini vurguladı. "Amerika, YZ testleri, risk ölçümü ve güvenlik önlemlerinde teknik liderliğini, geniş kabul gören küresel standartlara dönüştürmek için uluslararası standart ayarlama organlarında lider olmalıdır" diye ekliyor.
Gelişmiş YZ teknolojilerinin düşman ülkelere sızmasına engel olmak amacıyla sıkı ihracat kontrollerinin uygulanması gerektiğini de belirtiyor. Cantwell’in çerçevesi, ABD’nin müttefik ülkeleri ile YZ olaylarını, oluşabilecek zararlı yetenekleri ve etkili güvenlik önlemlerini paylaşacağı güvenli mekanizmaların geliştirilmesini öneriyor.
Sonuç olarak, Maria Cantwell’in sunduğu YZ yönetişim çerçevesi, yalnızca mevcut durumla ilgili değil, aynı zamanda gelecekteki gelişmelere de ışık tutmakta. YZ sektörü, sürekli gelişen bir alan olarak, bu tür yönergelerin uygulanmasıyla birlikte daha güvenli ve denetlenen bir yapıya sahip olmayı hedefliyor.
