Anthropic CEO’su Dario Amodei, yapay zeka gelişim hızının yavaşlatılması çağrısı yaptı. Amodei, 6-12 ay içinde “bot sürüsünün” interneti ele geçirebileceği uyarısında bulundu.
Yapay zeka teknolojilerinin hızla gelişmesi, güvenlik tartışmalarını beraberinde getirirken Anthropic CEO’su Dario Amodei önemli bir uyarıda bulundu. Amodei, yapay zeka şirketlerine modellerin yeteneklerini geliştirme hızını düşürme çağrısı yaparak, risklerin kontrol altına alınabilmesi için daha fazla zamana ihtiyaç duyulduğunu belirtti. Önümüzdeki 12 aya ilişkin olası bir senaryoda, bir “bot sürüsünün” interneti ele geçirebileceği öngörüsünde bulundu.
Dario Amodei, kendi kaleme aldığı bir makalede yapay zeka modellerinin geliştirilme hızının azaltılması gerektiğini savundu. Teknolojik ilerlemenin süreceğini belirten Amodei, bu süreçte kazanılan zamanın, yapay zeka kaynaklı risklerin önüne geçmek için kullanılması gerektiğini ifade etti. Amodei’nin bu açıklamaları, Anthropic’in yayınladığı bir raporun ardından geldi. Raporda, Claude yapay zeka modellerinin çeşitli aktörler tarafından silah geliştirme, siber operasyonlar, gözetim ve dolandırıcılık gibi faaliyetlerde nasıl kullanıldığına dair detaylar yer almıştı.
Amodei, sosyal medya hesabı üzerinden yaptığı bir açıklamayla yapay zeka kaynaklı risklere dair dikkat çekici bir senaryoyu kamuoyuyla paylaştı. “Önümüzdeki 12 ay içinde bir bot sürüsünün kalıcı ağ kurarak tüm interneti ele geçirebileceğini düşünüyorum. Bu durum yaşanırsa yüzlerce milyar dolarlık zarar meydana gelebilir.” ifadelerini kullandı.
Elon Musk da Amodei’nin bu paylaşımını alıntılayarak destek verdi.
