AB'den yapay zekaya küresel kurallar çağrısı

Avrupa Birliği (AB) Komisyonunun Teknolojik Egemenlik, Güvenlik ve Demokrasiden Sorumlu Başkan Yardımcısı Henna Virkkunen, yapay zekanın yol açabileceği risklere karşı küresel kurallara ihtiyaç duyulduğunu belirtti.

Virkkunen, İrlanda'nın başkenti Dublin'de düzenlenen çocukların çevrim içi güvenliğine ilişkin konferansın ardından yapay zekanın olası riskleri hakkında değerlendirmelerde bulundu. Yapay zeka alanındaki uluslararası işbirliğinin sürdürülmesinin önemine işaret eden Virkkunen, "Yapay zekada küresel kurallara gerçekten ihtiyaç duyulduğunu görüyorum" ifadesini kullandı.

Virkkunen, AB'de Anthropic ve OpenAI gibi şirketlerin, gelişmiş yapay zeka modellerinin kontrolden çıkma riskini değerlendirmek ve buna karşı önlem almakla yükümlü olduğunu ancak benzer kuralların küresel ölçekte uygulanmadığını anımsattı.

Sektörden uyarılar

Açıklamanın öncesinde eski bir Anthropic çalışanı, yapay zekanın insanlığın varlığını tehdit edebileceği yönünde uyarıda bulunmuştu. Anthropic araştırmacılarından Evan Hubinger, yapay zeka teknolojilerinin 10 yıl içinde "tüm insanları öldürebilme" olasılığının yüzde 10'dan fazla olduğuna inandığını açıklamıştı.

Son üç yıldır OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yapan ve istifa eden Jacob Coxon da yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı "öldürebileceğine" ciddi şekilde inandığını öne sürmüştü. Coxon, yöneticilerin kamuoyu önünde ılımlı açıklamalar yapmalarına rağmen kapalı kapılar ardında büyük bir korku yaşandığını iddia etmişti.