Yapay zekâ modellerinin biyolojik verilerle eğitilmesi, tıp ve tarım gibi alanlarda devrim niteliğinde yenilikler vadetse de potansiyel riskler ciddi tartışmalara neden olmaktadır. Özellikle, güçlü yapay zekâ sistemlerinin kötü niyetli kullanımlara açık olması, biyolojik silahların geliştirilmesi gibi küresel tehditleri gündeme taşımıştır. Science dergisinde yayımlanan bir makale, bu risklere dikkat çekerek biyolojik yapay zekâ modelleri üzerinde zorunlu denetim mekanizmalarının oluşturulmasını savunuyor.
Uzmanlar, biyoteknolojik yeniliklerin tehlikeli patojenlerin geliştirilmesi gibi zararlı amaçlarla kullanılabileceği konusunda uyarıyor. Johns Hopkins Sağlık Güvenliği Merkezi’nden Anita Cicero, “İleri düzey biyolojik modellerin geliştirilmesi için gereken araçlar mevcut ya da yakın gelecekte erişilebilir olacak. Bu nedenle etkili bir yönetim sistemi oluşturmak için acilen harekete geçmeliyiz.” ifadelerini kullandı.
Biyoteknolojik tehditlerin önlenmesi için yeni güvenlik yaklaşımları gündemde.
Tarihte biyolojik unsurların silah olarak kullanıldığı birçok örnek bulunmaktadır. Ancak yapay zekâ, bu tür tehditleri daha erişilebilir ve ölümcül hale getirme potansiyeline sahiptir. Cicero, “Bu modeller geliştikçe, zarar vermek isteyen kötü niyetli aktörlerin ihtiyaç duyduğu teknik uzmanlık seviyesi azalacaktır.” diyerek, bu tehlikenin altını çizdi. Günümüzde bazı önlemler bulunsa da genetik dizilerin çevrim içi sipariş edilmesinin kolaylığı ve denetim eksikliği, yapay zekâ tabanlı biyolojik tehditlerin önünü açabilir.
Uzmanlar, biyolojik yapay zekâ modellerinin pandemiye yol açabilecek risklere karşı test edilmesi gerektiğini vurguluyor. Ancak bu tür testlerin dahi riskli olabileceğini belirten araştırmacılar, zararsız patojenler üzerinde “vekil değerlendirmeler” yapılmasını öneriyor. Böylece, ölümcül patojen tasarımları oluşturulmadan modellerin potansiyeli test edilebilir.
Gönüllü taahhütler yeterli mi?
Harvard, Moderna ve Microsoft gibi önde gelen kuruluşların yer aldığı “Sorumlu Yapay Zekâ ve Biyotasarım”girişimi, gönüllü taahhütlerle bu risklere karşı bir dizi önlem sunmayı amaçlamaktadır. Ancak makale yazarları, hukuki bağlayıcılığı olmayan bu tür girişimlerin riskleri önlemekte yetersiz kalacağını savunuyor. Daha güçlü denetim mekanizmaları ve uluslararası iş birliğinin önemi bir kez daha vurgulanıyor.
Kaynak: Evrim Ağacı