Yapay zekanın hızla gelişmesiyle birlikte teknolojinin güvenliği konusunda endişeler de giderek büyüyor. Son günlerde AI modellerinin savaşta silah ve saldırı teknolojilerinin geliştirilmesinde kullanıldığına dair haberler gündeme gelirken, yapay zeka destekli sistemlerin siber saldırılarda ve farklı suçlarda kullanılabilmesi de tartışılıyor. Bunun yanında sektörden bazı araştırmacılar, kontrol edilemeyen ve kendi kendini geliştirebilen yapay zekaların ileride insanlık için varoluşsal bir tehdit oluşturabileceği konusunda açıkça uyarıyor.
Anthropic araştırmacısı Jacob Coxon'ın istifasının ardından yaptığı “AI hepimizi öldürebilir” uyarısı da bu tartışmayı yeniden alevlendirdi.
Ayrıca Temmuz ayında 1.300'den fazla AI şirketi çalışanının imzaladığı “Pacing the Frontier” bildirisi de yapay zeka araştırmalarındaki ilerlemenin gerektiğinde yavaşlatılabilmesi için teknik ve yönetişim araçlarının geliştirilmesini istemişti.
Anthropic CEO'su Dario Amodei de yayımladığı yeni yazısında benzer bir noktaya dikkat çekti. Amodei, yapay zeka sektörünün “frontier” olarak adlandırılan en gelişmiş sistemlerdeki ilerleme hızını kontrol altına alması gerektiğini savunurken, bunun için üç aşamalı bir plan önerdi. Bu planın ilk adımı olarak Anthropic bağımsız üçüncü taraf değerlendiricilere sistemlerine sürekli ve çalışanlarla benzer düzeyde erişim sağlamayı taahhüt etti.
