Anthropic, bir yapay zeka modelinin belirli bir çıktıyı hangi modelin ürettiğini doğrulamak için açık kaynaklı bir sistem üzerinde çalışıyor. Şirketin salı günü yayımladığı blog yazısına göre sistemin adı FlashProve.
FlashProve, araştırmacıların "kanıtlanabilir çıkarım" dediği yapıyı hedefliyor. Bu, bir çıktının belirli bir modelden geldiğini gösteren kriptografik bir kanıt, yani matematiksel bir garanti anlamına geliyor. Sistem, kullanıcıların aldıkları yanıtın gerçekten kullandıklarını düşündükleri modelden geldiğini doğrulamalarını sağlamayı amaçlıyor.
Sistem, e-postaların kriptografik imzalarına benzer biçimde çalışacak. Modeli başka bir modelmiş gibi göstermeye çalışan sahtekarlara karşı dayanıklı olması hedefleniyor; bu sahtekar, modeli geliştirip çalıştıran laboratuvar olsa bile. Araştırmacılara göre sistem, bir yapay zeka şirketinin maliyetleri düşürmek için gizlice daha ucuz bir model kullanmasını ya da performans sonuçlarını şişirmek için daha pahalı bir model kullanmasını önleyebilir.
FlashProve, üçüncü tarafların belirli bir görevin gelişmiş bir modelle yapıldığına dair iddialarını doğrulamak için de kullanılabilir. Araştırmacılar şöyle yazıyor: "Bir geliştirici yazılım kütüphanesinin gelişmiş bir siber güvenlik modeli tarafından güvenlik açıkları için taranmış olduğunu iddia edebilir ya da bir şirket iş planının uygun bir model tarafından onaylandığını söyleyebilir. Bir kullanıcı bu iddiaları nasıl doğrulayabilir?"
Sistemin çalışması için yapay zeka laboratuvarlarının yayımladıkları her modelin bir "parmak izini" paylaşması gerekiyor. Bu parmak izi daha sonra belirli çıktılarla eşleştirilip kriptografik olarak doğrulanabiliyor. Parmak izleri, modelin davranışını belirleyen iç sayısal değerler olan ağırlıkları ortaya koymuyor. Anthropic ve OpenAI gibi kapalı model geliştiricileri bu ağırlıkları gizli tutuyor. Böylece laboratuvarlar en değerli varlıklarını açıklamadan parmak izlerini yayımlayabilir ve sistem ticari modellerle de çalışabilir. Sistemin hafif olması amaçlandığı için doğrulama yerel bir cihazda yapılabilir.
