Anthropic, yapay zekanın biyolojik silah üretiminde kullanımını engellediğini açıkladı

Yapay zeka şirketi Anthropic'in yayımladığı tehdit istihbaratı raporu, sistemlerinin biyolojik silah geliştirme sürecine destek sağlamak amacıyla kullanılmaya çalışıldığı beş farklı vakayı ortaya koydu. Şirket, bu girişimlerde bulunan aktörlerin sistem erişimini engellediğini bildirdi.

Anthropic Tehdit İstihbaratı Başkanı Jacob Klein, New York Times'a yaptığı açıklamada durumun karmaşık olduğunu, kötü niyetli aktörlerin açık bir silah üretim talebinde bulunmadığını söyledi. Google da salı günü yaptığı açıklamada, bir kullanıcının Gemini aracılığıyla silahlaştırılmış biyolojik ajanların sentezlenmesine yönelik teknik bilgi elde etmeye çalıştığını duyurdu.

Konvansiyonel Silahlar ve Siber Casusluk

Rapora göre Claude modelleri, ateşli silahlar, güdümlü füzeler, insansız hava araçları ve bombalar için hedefleme ve kontrol yazılımı geliştirmek amacıyla altı ayrı olayda kullanılmaya çalışıldı. Bu girişimler güvenlik filtreleri tarafından durduruldu.

Anthropic, Aralık 2025 ile Ağustos 2026 arasında tespit edilen kötüye kullanım denemelerinde Claude Haiku, Sonnet ve Opus modellerinin hedef alındığını, şirketin en gelişmiş modelleri Fable ve Mythos'un ise bu vakalardan uzak kaldığını belirtti.

Rapor, Rusya merkezli siber casusluk kampanyalarıyla bağlantılı aktörlerin ve bir İran propaganda kurumunun sistemi manipüle etmeye çalıştığını, sistem kaynaklarının sahte flört uygulamaları ve otel kablosuz ağ dolandırıcılıkları gibi sahtekarlık faaliyetlerinde kullanıldığını ortaya koydu. Bazı grupların muhalifleri tespit etmek amacıyla yapay zeka tabanlı gözetleme sistemleri kurmaya çalıştığı da tespit edildi.

Anthropic ayrıca Çin merkezli bazı yapay zeka laboratuvarlarının Claude'un yeteneklerini kopyalamaya çalıştığını, raporda ShinyHunters gibi devlet destekli hacker gruplarının adının geçtiğini bildirdi. Rusya bağlantılı Midnight Blizzard benzeri yöntemler kullanan bir grubun, güvenlik sistemleri tarafından tespit edilen zararlı kodunu otomatik olarak yeniden yazan bir sistem geliştirdiği kaydedildi.

Küresel Uyarılar

OpenAI Baş Bilim İnsanı Jakub Pachocki, 6 Eylül'de yayımladığı makalede yapay zeka sektörüne gönüllü yavaşlama çağrısında bulundu. İngiltere'de Başbakan Andy Burnham'a yazılan açık mektupta süper zekanın güvenli gelişimi için çok uluslu bir anlaşma talep edildi.

ABD'de Demokrat Senatör Bernie Sanders, yapay süper zekayı yasaklamayı ve gelişmiş yapay zeka çalışmalarını geçici olarak durdurmayı öngören bir yasa tasarısı sundu. Buna karşılık Başkan Donald Trump perşembe günü yaptığı açıklamada bu endişeleri reddettiğini belirterek, yapay zeka yarışında başarısız olunması halinde ülkenin kötü bir duruma düşeceğini savundu.