Stuart Russell'ın asıl korkusu, bugün kullandığımız sohbet botları değil. Berkeley'de yapay zeka güvenliği alanının en tanınmış isimlerinden olan Russell'a göre süper zeka seviyesine ulaşmış bir sistem, sentez yoluyla yeni patojenler yayabilir ya da nükleer erken uyarı sistemlerine sızarak bir çekirdek savaşı tetikleyebilir. Russell'ın benzetmesi çarpıcı: 'Şempanzelere, insanların onları nasıl ortadan kaldırabileceğini sorsanız hepsi doğru cevabı veremezdi' diyor.
Buna karşın ABD yönetimi, sektörü kısıtlayacağı ve Çin karşısında geride bırakacağı gerekçesiyle küresel bir düzenlemeye sıcak bakmıyor. Haziran ayında bin kişiyi aşkın teknoloji çalışanı Washington'a ortak bir çağrı yaparken, OpenAI ağustos ayında en yeni modelinin eğitimini iki haftalığına durdurmuştu; ancak bu adım gönüllü ve geçici bir tedbirin ötesine geçmedi.
Russell çözüm olarak havacılık, ilaç ve su tedariki gibi alanlarda zaten var olan lisanslama rejimlerinin yapay zekaya da uygulanmasını öneriyor. Sözlerini kendi deyimiyle bitiriyor: 'Belki de Çernobil ölçeğinde bir felaket hükümetleri harekete geçirir' ve 'siyasetçiler bir gün seçmenlerinin ölü olmayı tercih etmediğini hatırlar.'
