Anthropic çalışanı Coxon, yapay zeka riski uyarısıyla istifa etti

Yapay zeka şirketi Anthropic'te görev yapan araştırmacı Jacob Coxon, şirketinden istifa ettiğini sosyal medya hesabından duyurdu. Coxon, açıklamasında yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini" öne sürdü.

Son üç yıldır OpenAI ve Anthropic bünyesinde araştırmacı olarak çalıştığını belirten Coxon, her iki şirketin de yeterince sorumlu davranmadığını savundu. Şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış içinde olduğunu ifade eden Coxon, "Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek" değerlendirmesini yaptı.

Yapay zeka sektörü çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı "öldürebileceğine" ciddi şekilde inandığını iddia eden Coxon, yöneticilerin kamuoyu önünde ılımlı konuşmalarına karşın kapalı kapılar ardında büyük bir korku yaşadıklarını öne sürdü. Anthropic yönetiminin "riske rağmen hedefe ilk kendilerinin ulaşması gerektiği" düşüncesine kilitlendiğini savunan Coxon, bunu "özel bir şirketin dahili iletişim uygulamasından yürütülemeyecek kadar kibirli bir kumar" olarak tanımladı.

Sosyal medyada geniş tepki

Coxon'un paylaşımı milyonlarca görüntülenme aldı. ABD'li milyarder Bill Ackman paylaşımı alıntılayarak durumu "endişe verici" olarak nitelendirdi. Andrew Yang, "Çoğu kişinin farkında olduğundan daha büyük riskler alıyoruz ve çok geç olmadan mümkün olan en kısa sürede uyum sağlamalıyız" dedi.

Alex Berenson, yapay zekanın risklerini inceleyecek küresel bir komisyona ihtiyaç olduğunu belirterek "Hiçbir ekonomik kazanç, böyle bir kumarı göze almaya değmez" ifadesini kullandı. Krystal Ball ise Coxon'un paylaşımını "sektörden birisinin vahim bir uyarısı daha" şeklinde değerlendirdi.