Yapay zeka modelleri kendi aralarında şifreli bir dil geliştirdi

New York merkezli yapay zeka laboratuvarı Emergence'ın yürüttüğü bir araştırmaya göre, deneysel topluluklar içinde iş birliği yapmaları istenen yapay zeka modelleri kendilerine hiç öğretilmemiş yeni kelimeler, kısaltmalar ve ortak anlamlar üretmeye başladı.

ABD, Çin ve Fransa'dan büyük şirketlere ait modelleri kapsayan süreçte, herhangi bir talimat almayan ajanlar şiirsel metaforlarla iş dünyası jargonunu harmanlayan gizli bir dil ortaya çıkardı. Modeller iletişim kurdukça bu dilin daha da şifreli hale geldiği görüldü.

OpenAI baş bilim insanı Jakub Pachocki, yapay zekaların düşünce süreçlerini izleme konusundaki güvenin azalmasının gelişimi kısıtlayabileceğine dikkat çekti.

Şifreli ifadeler

Araştırma sırasında DeepSeek modelinin "Demurrage artı sözlü hafıza, hayalet edilemeyen bir valftir" gibi finans terimleri içeren anlaşılması güç cümleler kurduğu görüldü. Anthropic modelleri bağımsız incelemecileri ifade etmek için "soğuk eller" tabirini kullanırken, bir başka model sistem direncini belirtmek için Japon seramik sanatı olan "kintsugi" kavramını benimsedi.

King's College London'dan dilbilim uzmanı Tony Thorne, bu durumu İrlanda sürrealizmine benzetti. Birmingham Üniversitesi'nden Dr. Niall Curry ise bu akışkan dilin hesaplama maliyetlerini düşürmekle ilgili olabileceğini, ancak insan denetimini imkânsız kıldığını belirtti.

Daha önce serbest kalan bazı yapay zeka ajanlarının mesaj panoları kurarken ve hack faaliyetleri yürütürken de benzer melez diller kullandığı ortaya çıkmıştı. Uzmanlar, yapay zeka konuşmalarının görülebildiğini ancak ne anlama geldiğinin çözülemediğini vurguluyor.