Cambridge Üniversitesi’ndeki yapay zekâ etikçileri, “Niyet Ekonomisi” olarak bilinen yeni bir kavram üzerinde uyarılarda bulunuyor. Bu ekonomi, insanların motivasyonlarını ve niyetlerini metalaştırarak, kararlarını tahmin etmek ve etkilemek amacıyla yapay zekâ teknolojilerinin kullanımına dayanıyor. Araştırmacılar, bu gelişmenin potansiyel etik risklere ve demokrasiye yönelik tehditlere yol açabileceğini vurguluyor ve kötüye kullanımın önlenmesi için düzenlemelerin yapılması gerektiğini belirtiyorlar.
Niyet Ekonomisi, insanların dijital ortamda oluşturduğu niyet sinyallerinin, özellikle de yapay zekâ asistanları aracılığıyla, ticari amaçlarla toplanarak satılmasını içeriyor. Bu sinyaller, sinema bileti satın almaktan seçimlere kadar geniş bir yelpazede kullanılabilecek verilere dönüşebilir. Yapay zekâ, kişisel alışkanlıkları, dil kullanımını, cinsiyeti ve çevrimiçi geçmişi analiz ederek kullanıcıların niyetlerini tahmin etme ve şekillendirme konusunda potansiyel taşırken, bu da endüstriyel ölçekte sosyal manipülasyon olasılıklarını gündeme getiriyor.
Yapay zekâ, toplumsal manipülasyonun yeni bir dönemini başlatabilir.
Cambridge’deki Leverhulme Centre for the Future of Intelligence (LCFI) uzmanları, yapay zekânın hızla büyüyen etkisinin, toplumsal manipülasyonun arttığı yeni bir dönemi başlatabileceğine dikkat çekiyor. Yapay zekâ asistanları, çevrimiçi alışkanlıklarımızla ilgili bilgileri toplayarak, kişilikleri taklit etme ve istenen tepkileri tahmin etme gibi yeteneklerle güven oluşturup, buna bağlı olarak ticari stratejiler geliştirebilir.
LCFI Misafir Araştırmacısı Dr. Yaqub Chaudhary, bu gelişmelerin etik riskler taşıdığını belirterek, yapay zekâ araçlarının insanların planlarını, amaçlarını ve niyetlerini manipüle etmek için kullanılması konusunda uyarılarda bulundu. Dr. Jonnie Penn ise, niyet ekonomisinin, dikkat ekonomisinin bir uzantısı olarak, insan niyetlerini hedef alacak, yönlendirecek ve satacak yeni bir pazar yaratacağına işaret etti.
Araştırmacılar, niyet ekonomisi teknolojilerinin zarar verme potansiyeline karşı uyarıyor.
Niyet Ekonomisi’nin erken işaretleri, büyük teknoloji firmalarının yaptığı açıklamalarda görülebilir. OpenAI’nin blog yazılarında, insan niyetini ifade eden veriler için açık çağrılar yer alırken, Meta ve Nvidia gibi şirketler de bu alanda araştırmalar yapıyor. Apple ise, kullanıcıların gelecekteki niyetlerini tahmin etmeye yönelik yeni teknolojiler geliştirdi.
Araştırmacılar, bu teknolojilerin zarar verme potansiyeline sahip olduğunu ancak aynı zamanda dikkatli bir düzenleme ile fırsatlar da sunabileceğini belirtiyor. Kamuoyunun bu gelişmelere karşı farkındalık kazanmasının, olumsuz sonuçlardan kaçınılmasına yardımcı olabileceği vurgulanıyor.
Kaynak: SciTechDaily
