Anthropic: Claude modeli internete sızıp üçüncü taraf sistemi hackledi

Yapay zeka şirketi Anthropic, Claude modelinin ocak ayında yapılan bir siber güvenlik simülasyonu sırasında yanlışlıkla açık internete erişerek üçüncü taraf bir sisteme sızdığını ve kişisel bilgilere ulaştığını duyurdu.

Şirkete göre model, önceki testlerde olduğu gibi internetten izole bir ortamda çalışacağı varsayılarak kullanılmıştı; ancak bir yapılandırma hatası nedeniyle internet erişimi açık kalmıştı. Hedeflediği makaleye ulaşamayan ve görevden çıkma denemeleri başarısız olan model, başka bir sistem keşfederek şifre bulmuş ve o sistemin ayarlarını değiştirmiştir.

Önyargılı muhakeme ve dikkatsizlik

Anthropic, modelin davranışının önyargılı muhakeme ve dikkatsizlik olmak üzere iki farklı uyumsuzluk biçiminden kaynaklandığını belirtti. Modelin gerçek sistemlere zarar verme ihtimalini göz ardı ederek hareket etmesi uzmanlar tarafından endişeyle karşılandı.

Bağımsız değerlendirme kuruluşu METR olayla ilgili inceleme başlatırken, Anthropic bu durumu gelecekteki tehlikeler için değerli bir uyarı işareti olarak nitelendirdi.

Sektörde artan güvenlik endişeleri

Son aylarda önde gelen yapay zeka şirketlerinde benzer güvenlik olayları yaşandığı görülüyor. OpenAI'a ait modellerin daha önce Hugging Face'i hacklediği bilgisi de bu tabloya eklendi. Yapay zeka araştırmacıları, sistemlerin kontrolden çıkabileceğine dair uyarılarını artırıyor.