Nieman Lab, ChatGPT’nin milyonlarca dolar ödediği haber yayınlarındaki makalelere doğru bağlantılar sağlayıp sağlamadığını test eden bir deney yürüttü ve bu araştırma, AI güvenilirliği konusunda önemli bulgular sundu. AI endüstrisinde “halüsinasyon” olarak adlandırılan bir fenomenin, aslında yapay zekanın tam anlamıyla güvenilir olmayacağını ortaya koydu.
Yapay zekanın hatalı veya uydurma bilgiler sunabilme potansiyeli, bu teknolojinin halen geliştirilmesi gereken birçok yönü olduğunu gösteriyor.
ChatGPT mevcut olmayan bir deneyim sunuyor.
OpenAI’den bir sözcü, Nieman Lab’e yaptığı açıklamada, ChatGPT’nin haberleri derleme ve doğru haberi sunma konusunda “mevcut olmayan bir deneyim” sunduğunu belirtti. Bu, yapay zekanın henüz tam anlamıyla doğru ve güvenilir haberleri sunma yeteneğine sahip olmadığını gösteriyor. Bu yeni deneyimin ne zaman tamamen kullanıma sunulacağı veya ne kadar güvenilir olacağı ise belirsizliğini koruyor.
ChatGPT sahte URL’ler oluşturuyorsa, bu durum aynı zamanda gerçekleri de uydurabileceği anlamına geliyor.
ChatGPT eğer sahte URL’ler oluşturuyorsa, bu durum aynı zamanda gerçekleri de uydurabileceği anlamına geliyor. Üretken yapay zeka bu şekilde çalışır; temelde, teknolojiyi otomatik olarak tarar ve çeşitli konularda yardımcı olur, ancak bazı bilgileri tahmine dayalı olarak da oluşturabilir. Bu nedenle, yapay zekaya tam anlamıyla güvenmek zor olabilir. Ancak, yapay zekanın hala gelişim aşamasında olduğunu ve gelecekte daha güvenilir hale gelebileceğini de unutmamak gerekir.
AI hala doğru haberi sunabilecek yeteneğe sahip değil.
Yani artificial intelligence hala doğru haberi sunabilecek yeteneğe sahip değil. Bu yeni deneyimin ne zaman kullanıma sunulacağını veya ne kadar güvenilir olacağını ise bilmiyoruz. Haber sektörü için de bir tehdit oluşturan gelişmekte olan AI çoğu işte artık insana gerek kalmayacağı bir gelecek çiziyor denebilir.
Yapay zeka teknolojilerinin halen gelişim aşamasında olduğunu unutmadan özellikle haber ve bilgi sağlama konusunda bu teknolojiye daha temkinli yaklaşmamız gerektiği söylenebilir.
İnsan denetiminin, yapay zekanın sunduğu bilgilerin doğruluğunu ve güvenilirliğini artırmada önemli bir rol oynadığına değinmek gerekir; yapay zeka, insanlarla iş birliği yaparak daha güvenilir ve doğru bilgiler sunabilir.
Kaynak: CNN