Geçtiğimiz hafta, Sakana AI Labs, makine öğrenimi alanında büyük bir adım atarak bilimsel keşifleri tamamen otomatikleştirebilecek bir yapay zekâ sistemi olan “AI Scientist”ı tanıttı. Bu yenilikçi yapay zekâ, bilimsel araştırmanın tüm aşamalarını üstlenebileceğini iddia ediyor. Deney tasarımı, sonuçların analizi, yeni algoritmaların kodlanması ve makale yazımı gibi süreçleri gerçekleştirerek, bu sürecin toplam maliyetinin bir bilim insanının öğle yemeğinden daha düşük olduğunu öne sürüyor.
Sakana’nın geliştirdiği AI Scientist, üretken büyük dil modellerini (LLM’ler) kullanarak bilimsel araştırmaların her aşamasını yerine getirebiliyor. Bu sistem, bilimsel literatürü tarayarak yeni fikirler üretiyor, deneyler tasarlıyor, sonuçları analiz ediyor ve hatta bilimsel makaleler yazıyor. Ancak, teknolojinin bilimin kalıplarını ve dilini yakalayabilmesi mümkün olsa da, ilginç ve yenilikçi bilimsel makaleler üretme süreci hala karmaşıklık taşıyor.
Yapay zekânın ürettiği makalelere yönelik geri bildirimler karışık.
Sakana’nın sistemi, yeni makaleleri mevcut literatürle benzerlik açısından değerlendiriyor ve kalitelerini bir akran değerlendirmesi süreciyle ölçüyor. Ancak, yapay zekânın ürettiği makalelere yönelik geri bildirimler karışık. Bazı gözlemciler, yapay zekânın “sonu gelmeyen bilimsel saçmalıklar” ürettiğini belirtiyor ve bu teknolojinin bilimsel makalelerin kalitesini değerlendirme konusundaki başarısının sınırlı olduğunu ifade ediyor. LLM’lerin bilimsel araştırma kalitesini değerlendirme yeteneği, önyargı risklerini belirleme gibi alanlarda daha fazla gelişim gerektirebiliyor.
Yapay zekâ, bilimsel keşif sürecini tamamen otomatikleştirmeye çalışmaktan ziyade, bilim insanlarını destekleyen bir araç olarak kullanılmalı. Araştırma makalelerini bulma, analiz etme ve sentezleme gibi görevlerde yapay zekâ araçları zaten kullanılıyor. Örneğin, Semantic Scholar, Elicit ve PubTator gibi araçlar bilim insanlarına mevcut literatürü anlamada yardımcı olurken, Robot Reviewer ve Scholarcy gibi sistemler tıbbi kanıtları ve literatürü analiz etmede destek sunuyor.
Yapay zekânın bilimsel araştırmalardaki rolü bilim insanlarının rolünü azaltmayacak.
Sakana AI, yapay zekânın bilimsel araştırmalardaki rolünün bilim insanlarının rolünü azaltmayacağını belirtse de, şirketin tamamen yapay zekâ destekli bir bilimsel ekosistem vizyonu bilimin geleceği için önemli etkiler yaratıyor. Bu vizyonun bilimsel süreçler ve güvenilirlik üzerindeki etkileri geniş çaplı tartışmalara yol açıyor.
Bir endişe, yapay zekâ tarafından üretilen makalelerin bilimsel literatürü doldurması ve bu literatürün gelecekteki yapay zekâ sistemlerinin eğitiminde kullanılmasının model çöküşüne yol açabileceği yönünde. Model çöküşü, yapay zekâ sistemlerinin yenilik yapma yeteneklerinin giderek daha etkisiz hale gelmesi anlamına gelebiliyor, yani yapay zekâların ürettiği içerik bilgi üretme ve bilimsel katkıda bulunma konusunda yetersiz kalabiliyor.
Yapay zekâ sistemlerinin bilim üzerindeki etkileri yalnızca kendi performanslarıyla sınırlı değil.
Bilimde zaten var olan kötü aktörler, örneğin sahte makaleler yayınlayan “kağıt fabrikaları”, yapay zekâ destekli sistemlerin bu sorunu daha da kötüleştirebileceği endişesini taşıyor. Yapay zekâ tarafından 15 ABD doları gibi düşük bir maliyetle üretilen makaleler, bilimsel literatürde daha fazla yanıltıcı ve kalitesiz içerik üretilmesine yol açabiliyor. Otomatik olarak üretilen araştırmalardaki hataların kontrol edilmesi, gerçek bilim insanlarının kapasitesini hızla aşabiliyor.
Hakem değerlendirme sistemi zaten tartışmalı bir şekilde bozulmuşken, kalitesi tartışmalı daha fazla araştırmanın bu sisteme dahil edilmesi durumu daha da karmaşıklaştırabiliyor. Bilim, temelde güven üzerine kurulu ve bilim insanları bu güveni bilimsel sürecin bütünlüğünü vurgulayarak sağlıyor. Yapay zekâ sistemlerinin anahtar oyuncular olduğu bir bilimsel ekosistem, bu sürecin anlamını ve değerini sorgulayan temel soruları gündeme getiriyor. Bu durum, yapay zekâ bilim insanlarına ne düzeyde güvenmemiz gerektiği konusunda tartışmalara yol açıyor ve bilimin temel değerlerini ve güvenilirliğini nasıl koruyacağımız konusunda önemli soruları beraberinde getiriyor.
Kaynak: Science Alert