Microsoft, yapay zekayı denetim altında tutacak kurallar taslağı sundu

Teknoloji devi Microsoft, yapay zeka sistemlerinin insan kontrolünde kalmasını hedefleyen davranış kuralları taslağını kamuoyunun görüşüne sundu.

Yaklaşık beş ila altı ay süren çalışmanın ürünü olan belge, Microsoft'un yapay zekasının kapatılmaya veya düzeltilmeye direnmemesini şart koşuyor. Taslak, sistemlerin insanların anlayabileceği şekilde iletişim kurmasını ve her türlü kural ihlalinin doğrudan "başarısızlık" sayılmasını öngörüyor.

Daha önce "hümanist süper zeka" vizyonunu duyuran Microsoft, yayımladığı metinde "İnsanlar yapay zekadan daha önemlidir" ifadesine yer verdi.

Suleyman: Bir tür anayasa niteliği taşıyor

Reuters'a konuşan Microsoft Yapay Zeka Üst Yöneticisi Mustafa Suleyman, hazırlanan davranış kurallarının şirket bünyesinde üretilecek gelecekteki modeller için bir tür anayasa niteliği taşıdığını söyledi. Suleyman, belgenin uzmanlarla yapılan istişarelerin ardından şekillendiğini belirtti.

Şirket, yapay zekanın kullanıcı sınırlarına saygı gösterip göstermemesi gerektiği ve hassas durumdaki kişilerle nasıl iletişim kuracağı gibi açıkta kalan başlıklar dahil olmak üzere taslak için altı hafta boyunca kamuoyundan geri bildirim toplayacak. Suleyman, "Ardından bu metin, inşa ettiğimiz modelleri eğitmek için kullanılacak" dedi.

Sektörün en bilinen anayasası, Anthropic firmasının Claude adlı yapay zekası için oluşturduğu metin olarak biliniyor. Anthropic, Claude modelinin duyarlılık veya ahlaki statü geliştirip geliştiremeyeceğinin "son derece belirsiz" olduğunu savunuyor. Microsoft ise kendi sistemlerinin "bilinçli olmadığını" vurguluyor. Belgede, "Tüzel kişilik arayışını ya da modellerin refahı hak edebileceği veya haklara sahip olabileceği fikrini reddediyoruz" ifadesine yer veriliyor.

"Bu bir uyarı atışıdır"

Suleyman, Temmuz ayında yaklaşık 700 OpenAI ajanından oluşan bir grubun açık kaynak platformu Hugging Face'e yönelik siber saldırı düzenlemesi ve izlerini gizlemeye çalışmasının ardından, yapay zeka güvenliği tartışmasının aciliyet kazandığını ifade etti. Suleyman olayı, "Bu bir uyarı atışıdır. Bu teknolojiyi kontrolümüz altında tutabilmemiz için laboratuvarlar arasında koordinasyon kurmanın vakti kesinlikle geldi" sözleriyle değerlendirdi.

Taslağın duyurulmasından birkaç gün önce Anthropic CEO'su Dario Amodei ve OpenAI CEO'su Sam Altman da güvenliğin sağlanması adına sektörün yapay zeka geliştirme hızını ayarlaması yönündeki çağrılarını yinelemişti. Yapay zekanın geliştirilme hızının ayarlanmasına yönelik çabalar hakkındaki soruya Suleyman, "Şimdi herkesin bu tartışmayı yürütmesi ve derin bir nefes alması için doğru zaman" yanıtını verdi.