Uzmanlar uyardı: Yapay zekâ tavsiyeleri yanıltıcı olabiliyor

Sağlıktan tarıma, hukuktan finansa kadar birçok alanda karar alırken yapay zekâ sistemlerine danışan kişi sayısı hızla artıyor. Ancak uzmanlar, bu sistemlerin ürettiği yanıtların doğrulanmadan uygulanması halinde ciddi sonuçlar doğurabildiğine dikkat çekiyor.

Çin'in Anhui eyaletinde 67 yaşındaki bir çiftçi, susam tarlasındaki yabani ot ve zararlılarla mücadele için yapay zekâdan ilaç önerisi almış ve bu öneriyi başka bir kaynaktan teyit etmeden uygulamıştı. Sonucunda yaklaşık 25 dönümlük tarladaki ürünler kurumuş; uzmanlar kullanılan ot ilacındaki etken maddenin susama zarar verdiğini belirtmişti.

Benzer bir yanıltıcı yönlendirme sağlık alanında da yaşandı. Sofra tuzundaki sodyumu azaltmak isteyen bir kullanıcı, yapay zekânın önerisiyle tuz yerine sodyum bromür kullanmaya başlamış ve bu kimyasalı yaklaşık üç ay boyunca tüketmişti. Kişi daha sonra brom zehirlenmesi nedeniyle hastaneye kaldırılmış ve psikoz belirtileriyle tedavi görmüştü.

Hukuk ve finansta da riskler var

ABD'de bir avukat, dava hazırlığında ChatGPT'den yararlanmış ve sistemin sunduğu bazı mahkeme kararlarını dilekçesine eklemişti. Ancak bu kararların gerçekte var olmadığı ortaya çıkınca avukat hukuki sorunla karşı karşıya kalmıştı.

Yapay zekâ, yatırım kararlarında da giderek daha fazla başvurulan bir araç haline geldi. Ancak yatırım tercihlerinin kişinin gelirine, borçlarına, risk iştahına ve yatırım süresine göre değişmesi nedeniyle genel yapay zekâ yanıtlarının yanıltıcı olabildiği, piyasa verilerinin hızla değişmesinin de bu riski artırdığı belirtiliyor.

Uzmanlara göre yapay zekânın en önemli sorunlarından biri sadece hata yapması değil, yanlış bilgiyi akıcı ve kendinden emin bir üslupla sunabilmesi. Bu durum kullanıcıların ayrıntılı ve kesin ifadeler içeren yanıtları doğru kabul etmesine yol açabiliyor.

Bu nedenle sağlık, hukuk, tarım ve finans gibi hayatı doğrudan etkileyen alanlarda yapay zekâdan alınan bilgilerin güvenilir kaynaklardan veya ilgili uzmanlardan teyit edilmesi gerektiği vurgulanıyor. Yapay zekânın bilgiye ulaşmayı kolaylaştıran bir araç olarak kullanılabileceği, ancak kritik konularda son kararın yalnızca ona bırakılmaması gerektiği ifade ediliyor.