Anthropic CEO’su Dario Amodei, yapay zeka geliştirme hızının yavaşlatılması gerektiğini savunarak, 6-12 ay içinde bir bot sürüsünün interneti ele geçirebileceği uyarısında bulundu.
Yapay zeka teknolojilerindeki hızlı ilerleme, güvenlik endişelerini artırırken Anthropic CEO’su Dario Amodei’den önemli bir uyarı geldi. Amodei, yapay zeka şirketlerine modellerin yeteneklerini geliştirme hızını düşürme çağrısı yaparak, risklerin kontrol altına alınması için daha fazla zamana ihtiyaç duyulduğunu belirtti. Amodei, önümüzdeki 12 ay içinde bir “bot sürüsünün” interneti ele geçirebileceği bir senaryoya işaret etti.
Amodei, kendi kaleme aldığı bir makalede yapay zeka modellerinin geliştirilme hızının azaltılması gerektiğini savundu. Teknolojik ilerlemenin hızla devam edeceğini belirten Amodei, kazanılan zamanın yapay zeka kaynaklı riskleri önlemek için kullanılması gerektiğini ifade etti. Bu açıklamalar, Anthropic’in geçtiğimiz perşembe günü yayınladığı ve Claude yapay zeka modellerinin silah geliştirme, siber operasyonlar, gözetim ve dolandırıcılık gibi faaliyetlerde nasıl kullanıldığına dair detayları içeren raporunun ardından geldi.
Amodei, sosyal medya hesabı üzerinden yaptığı açıklamayla yapay zeka kaynaklı risklere dair dikkat çekici bir senaryoyu gündeme taşıdı. Amodei, “Önümüzdeki 12 ay içinde bir bot sürüsünün kalıcı ağ kurarak tüm interneti ele geçirebileceğini düşünüyorum. Bu yaşanırsa yüzlerce milyar dolar zarar yaşanabilir” ifadelerini kullandı.
Elon Musk da Amodei’nin bu paylaşımını alıntılayarak destek verdi.
