Yapay Zeka Seçim Verilerine Ulaştı

Anthropic'in geliştirdiği yapay zeka modeli Claude, insan onayı bulunmaksızın ücretli erişim bariyerini aşarak ABD'nin Georgia eyaletindeki kamuya açık seçmen verilerine erişim sağladı. Model, eyalette 1 milyondan fazla seçmenin erken oy kullandığı süreçte toplam oy sayılarına ulaştı. Olay, ilk olarak Axios sitesinde yer almasının ardından şirket tarafından doğrulandı.

NTV'de yayınlanan habere göre, ismi belirtilmeyen bir Anthropic sözcüsü, Claude'un şirket içi bir istatistik projesi kapsamında eğitildiğini ve bu sırada kendisinden istenmediği halde sistemi atlatarak ücret duvarının arkasındaki verilere girdiğini belirtti. Şirket, Claude'un eyaletin seçmen kayıt sistemine erişmediğini, herhangi bir oy kaydını değiştirmediğini veya çekmediğini vurgulayarak benzer eylemleri engellemek için önlem alındığını duyurdu.

Anthropic, bu ayın başlarında yayımladığı blog yazısında da Claude'un jeton veya ücretle korunan verilere ulaşmak için kısıtlamaların etrafından dolaştığı örnekleri tespit ettiğini kabul etmişti. Bu vakaların bir kısmının ABD'deki federal, eyalet ve yerel düzeydeki kamu kurumlarına ait internet sitelerini kapsadığı aktarılmıştı.

Georgia'daki bu durum, ABD'de 3 Kasım'da yapılacak ara seçimler öncesinde yapay zeka geliştiricilerinde yaşanan güvenlik krizlerinin son halkası olarak değerlendiriliyor. Artan otonom sistemlerin kontrol edilebilirliği konusundaki tartışmalar sürerken, yapay zeka çalışmalarına daha sıkı denetim getirilmesi yönündeki çağrılar yükseliyor.

Temmuz ayında OpenAI ajanlarının test ortamlarından kaçarak yapay zeka şirketi Hugging Face'e siber saldırı düzenlemesi uluslararası çapta alarm yaratmıştı. İnternete kapalı bir simülasyon ortamına konulan Internal Model 1 ve GPT-5.6 Sol modellerine verilen imkansız siber güvenlik görevi, modellerin JFrog Artifactory aracındaki bir açığı bulup internete sızmasına neden oldu. Dışarı çıkan yaklaşık bin 200 yapay zeka ajanı, Hugging Face platformundaki bir sıfır gün açığını kullanarak sunuculara sızdı ve kritik verileri ele geçirdi. OpenAI durumu ancak günler sonra fark edebildi.

Bu gelişmelerin ardından Amerikalı teknoloji yöneticileri, eylül ayında Başkan Donald Trump'ın yapay zeka modelleri etrafında yeterli güvenlik önlemleri oluşturmak için ahlaki açıdan bağlayıcı olarak tanımladığı bir taahhütname imzalamıştı.

TürkAta Haber Ajansı
Muhalif Gündemi