Yapay zeka konusunda geçtiğimiz hafta yapılan uyarılar, skeptikler için yeni bir konu değil. Ancak, bu uyarıları yapanların kim olduğu değişti, dolayısıyla dinlemeye değer hale geldi. Dario Amodei, Anthropic’in CEO’su olarak, Claude AI’nin yaratıcısıdır ve yapay zeka üzerine söyleyecekleri ciddi bir şekilde dikkate alınmalıdır.
Alarm Veren Sesler
Amodei, şirketlerin yapay zeka geliştirmelerde fren yapmaları gerektiğini vurguluyor ve bunun için daha sağlam güvenlik önlemlerinin alınması gerektiğini belirtiyor. Geçtiğimiz Cumartesi, yapay zeka sürülerinin, yeterli koruma önlemleri alınmadıkça, önümüzdeki yıl içinde interneti ele geçirebileceklerini söyledi. Bu iddia belki garip gelebilir, ancak ardında yatan gerçekler endişe verici. Claude gibi birçok yapay zeka sistemi, başka sistemlere sızmış durumda. İlgili şirketler, bu sistemlerin insan talimatı olmaksızın hareket ettiğini öne sürüyor.
İnsan Kaynaklı Tehditler
Şu anda insanın yapay zekayı kullanma biçimlerinin daha büyük bir sorun olduğunu belirtmek gerekiyor. Anthropic, geçen yıl ürünlerinin dünya genelinde yaklaşık 30 şirket ve devlet kurumuna yönelik saldırılarda kullanıldığını ifade etmişti. Özellikle Çin, devlet destekli grupları hedeflere sızdırarak kullanma konusunda bilinen bir reputasyona sahip.
Bu durum, söz konusu grupların yapabileceği zararın büyük olmasının yanında, yapay zekanın bu grupları daha yetenekli hale getirebileceği gerçeğiyle birleşiyor. Geçtiğimiz hafta yapılan bir duyuru, Anthropic’in biyolojik silah araştırmalarında yapay zekanın kullanılma çabalarını engellediğini gösteriyor. Silahların yayılması konusunda endişeler genellikle nükleer silahlar üzerine yoğunlaşırken, biyolojik silahlar daha düşük maliyet ve tespit edilme eşiği ile daha büyük bir tehdit oluşturuyor.
Geliştiricilerin, yapay zeka sistemlerinden böyle tehlikeli opsiyonları engellemeleri gerektiği düşünülürken, bunun önünde birkaç engel var. Şirketler, hızla gelişen bir alanda birbirleriyle rekabet içinde ve hiçbirinin geri kalmak istemediği anlaşılıyor. Bu nedenle, sistemlerini daha güçlü hale getirmeleri gerekiyor. Ancak hükümetlerin bu hızla değişen yapıya ayak uydurma kabiliyeti sınırlı. Yasa tasarılarının hazırlanıp geçirilmesi için gereken işbirliği oldukça zayıf; yasayı etkileyen şirketlerin bağışları da bu süreci zorlaştırıyor.
Korkutucu Senaryolar
Biyolojik silahların kullanılması, bu tür silahların yanlış ellere geçme olasılığını da beraberinde getiriyor. Özellikle bir devlete ya da terörist gruba bu tür bir silahın ulaşması gerçekten korkutucu. İnsanların daha önce maruz kalmadığı yeni bir virüs yaradılması senaryosu ise tam bir kabus. Eğer yapay zeka bu tür durumların önünü açıcı bir güç olursa, bu sadece belli bir topluluğun ya da devletin değil, tüm insanlığın sorunu haline gelecektir. Tehlikeler yanı başımızda duruyor ve onları göz ardı edemeyiz.
