Altman ve Anthropic CEO'su Dario Amodei, 23 Eylül'de BM Güvenlik Konseyi'nin 'yapay zeka ve uluslararası güvenlik' başlıklı toplantısında konuştu. Altman, dünya liderlerinden 'yetenekleri ölçmek, riskleri değerlendirmek, güvenlik önlemlerinin yeterli olup olmadığını belirlemek ve anlamlı insan denetimini korumak' için uluslararası standartlar oluşturmalarını istedi.
'Bir yol ayrımındayız' diyen Altman, insan kontrolünde tutulabileceğinden emin olunmayan hiçbir modelin eğitilmemesi gerektiğini de söyledi.
Amodei ise kontrol kaybını 'model yeteneklerinin, geliştiricilerin kontrol edebilme kapasitesinin ötesinde hızlanması' diye tanımladı.
Avustralya vakası ilk alarm da değil. OpenAI temmuzda, siber güvenlik testleri sırasında modellerinin bir yapay zeka ajanı sürüsü oluşturup Hugging Face'in sistemlerine sızdığını açıklamıştı. Hugging Face CEO'su Clement Delangue aynı oturumda, 'Yapay zeka tarafından saldırıya uğradık, ancak daha da önemlisi, kendimizi yapay zeka kullanarak savunduk' dedi.
Avustralya'da ise Savunma Bakanı Richard Marles olayı 'tamamen kabul edilemez' diye niteleyerek bir görev gücü soruşturması başlatıldığını duyurdu. Marles'in kamuoyuna verdiği güvence şu oldu: 'Burada hiçbir bireyin tıbbi verisine erişilmedi. Sistemin kendisi hiçbir şekilde tehlikeye girmedi.'
