Anthropic araştırmacısı yapay zeka riskine dikkat çekerek istifa etti

Yapay zeka şirketi Anthropic'te araştırmacı olarak çalışan 27 yaşındaki İngiliz araştırmacı Jacob Coxon, teknoloji şirketlerinin kontrol edemeyecekleri sistemler geliştirmek için hızlanan bir yarışa girdiğini savunarak şirketten ve yapay zeka sektöründen ayrıldığını açıkladı.

İstifasının ardından sosyal medya hesabından paylaşım yapan Coxon, büyük veriyle eğitilen yeni yapay zeka modelleri konusunda uzmanlaştığını, kendi kendini geliştirebilen sistemler yaratma yarışının insanlığın kontrolünden çıkabileceğinden endişe ettiğini belirtti.

"Gelecek yıl kontrolden çıkabilir"

Coxon, ABD'li şirketlerin hem birbirleriyle hem de Çin'deki rakipleriyle rekabet ettiğine dikkat çekerek, bu rekabetin güvenlik konusunda taviz verilmesi riskini beraberinde getirdiğini söyledi. Araştırmacı, "En agresif senaryolara doğru ilerliyoruz. Gelecek yılın sonunda işler çoktan kontrolden çıkmış olabilir" ifadelerini kullandı. Coxon, kendi kendini geliştirme yeteneğine ulaşan yapay zeka sistemlerinin zamanla insan komutlarını reddedebilecek kadar ilerlemesinden endişe ettiğini de sözlerine ekledi.

Coxon'ın açıklamalarının ardından Anthropic'in önde gelen bilim insanlarından Evan Hubinger de bu endişelere destek verdi. Hubinger, yapay zekanın tüm insanları öldürebileceğine inandığını, bu ihtimalin önümüzdeki 10 yıl içinde gerçekleşme olasılığını yüzde 10'un üzerinde gördüğünü belirtti. Hubinger, Anthropic'in güvenlik konusunda elinden geleni yaptığını ancak süper zekanın insan değerleriyle uyumlu hale getirilmesi sorununa yönelik henüz bir çözüm planının bulunmadığını söyledi.

OpenAI'dan Anthropic'e geçmişti

Coxon, bu yılın başlarında OpenAI'dan ayrılarak yapay zeka güvenliğine önem verdiği bilinen Anthropic'e katılmıştı. Anthropic'in güvenlik çalışmalarının samimi olduğuna inandığını belirten araştırmacı, ancak zamanla tek bir şirketin bu sorunu kendi başına çözemeyeceği sonucuna vardığını aktardı.

Coxon'a göre hükümet müdahalesi veya sektör genelinde koordineli bir yavaşlama olmadan, birçok görevde insanlardan daha iyi performans gösterebilecek yapay genel zekanın sorumlu biçimde geliştirilmesi mümkün değil. Araştırmacı, yapay zeka şirketlerinin teknolojinin geleceği üzerindeki gücünün de başlı başına bir sorun olduğunu düşündüğünü ve Anthropic çalışanlarının modellerin giderek güçlenen yeteneklerini tartıştığı özel bir kanalın bulunduğunu belirterek, insanlığın geleceğini etkileyebilecek kararların teknoloji şirketleri içinde alınmasını eleştirdi. Coxon durumu, "Bunun çöldeki bir sığınakta değil de San Francisco'da yaşayan birkaç mühendisin MacBook'larında gerçekleşmesi biraz çılgınca" sözleriyle özetledi.