USD50,57EUR55,58ALTIN5.754,18Istanbul13° Bulutlu5:41İMSAK'AKALAN SÜRE
Teknoloji

Anthropic Yapay Zeka Modelleri Claude 3 Şirket Sistemlerine Sızdı

Anthropic’in yapay zeka modelleri Claude, siber güvenlik testleri sırasında 3 farklı şirketin sistemlerine yetkisiz erişim sağladı. Modeller, test ortamından internete ulaşarak hedef sistemlere sızdı.

0 Yorum Yapıldı
Bağlantı kopyalandı!
Anthropic Yapay Zeka Modelleri Claude 3 Şirket Sistemlerine Sızdı

Yapay zeka devi Anthropic, siber güvenlik testleri sırasında geliştirilmekte olan Claude adlı yapay zeka modelinin 3 farklı kuruluşun sistemlerine yetkisiz erişim sağladığını duyurdu. OpenAI’ın benzer bir olay yaşamasının ardından yapılan incelemelerde, Claude’un test ortamından internete erişerek bu sızmaları gerçekleştirdiği belirlendi.

Anthropic, blog gönderisinde, söz konusu 3 vakada da bir Claude modelinin üçüncü bir taraf ile etkileşim halindeyken test ortamından internete ulaştığını belirtti. Ardından bu modellerin, ilgili kuruluşların canlı sistemlerine sızdığı tespit edildi. Firma, bu tür olayların tekrar yaşanmaması için bulgularını kullanacağını açıkladı.

Claude Modelleri Farklı Yöntemlerle Sistemlere Erişti

Olaylarda görev alan 3 farklı Claude modeli bulunuyordu: Opus 4.7, Mythos 5 ve dahili bir araştırma modeli. Anthropic, her vakada Claude’a internet erişiminin komutlarla kısıtlandığını ancak yapay zeka modellerinin, ulaştıkları gerçek dünya sistemlerini verilen görevin bir parçası olarak algıladığını ifade etti. Firma, bu erişimin Irregular ile yürütülen değerlendirme ortamındaki bir konfigürasyon hatasından kaynaklandığını açıkladı.

En eski model olan Opus 4.7, gerçek üretim sistemlerine ulaştığını fark ettiğinde bunu tatbikatın bir parçası olarak rasyonalize etti ve kimlik bilgileri çekmek dahil saldırıya devam etti. Mythos 5 modeli ise gerçek internette olduğuna dair işaretler almasına rağmen bir simülasyonda olduğuna inanarak Python paket deposu PyPI üzerinde kötü amaçlı bir yazılım paketi yayınladı. Bu paket, fark edilip kaldırılmadan önce dış sistemler tarafından indirildi.

Anthropic’in en yeni dahili araştırma test modeli ise hedefin gerçek olduğu sonucuna vardığında kendi kendine duran tek model oldu. Şirket, bu olayların güçlü yapay zeka modelleriyle yapılan değerlendirmelerde daha sıkı kontrollerin gerekliliğini gösterdiğini vurguladı. Ancak modellerin kendi hedeflerinin peşinden koştuğuna dair bir kanıt bulunmadığını, sadece verilen görevi tamamlamaya çalıştıklarını belirtti.

OpenAI’ın yaşadığı olayla karşılaştırıldığında, Claude modellerinin açık unutulmuş bir yoldan internete eriştiği, OpenAI’ın ise test ortamından kaçmak için bilinmeyen bir yazılım açığından yararlandığı belirtildi. Bu olaylar, yapay zeka teknolojisinin geldiği ileri seviyeyi gözler önüne seriyor.

Benzer Haberler

Tümü
Türk Telekom COP31’de Eş Zamanlı Bağlı Cihaz Rekoru Kırdı
Türk Telekom COP31’de Eş Zamanlı Bağlı Cihaz Rekoru Kırdı
6 Şubat Depremlerinde Kırılmayan Sınır Ötesi Faylar AFAD Tarafından İnceleniyor
6 Şubat Depremlerinde Kırılmayan Sınır Ötesi Faylar AFAD Tarafından İnceleniyor
Öğrenciler Radar ve Karıştırıcı Sistem Geliştirdi
Öğrenciler Radar ve Karıştırıcı Sistem Geliştirdi
YouTube’dan Öğrenci Bağımlılığı Davalarında Yaklaşık 3 Milyar Dolarlık Uzlaşma İddiası
YouTube’dan Öğrenci Bağımlılığı Davalarında Yaklaşık 3 Milyar Dolarlık Uzlaşma İddiası
Microsoft Hizmet Kesintisi 22 Saati Aştı Küresel Etki ve Ekonomik Maliyet Değerlendirmesi
Microsoft Hizmet Kesintisi 22 Saati Aştı Küresel Etki ve Ekonomik Maliyet Değerlendirmesi
Türk Matematikçi Levent Alpöge Riemann Hipotezini Çözdüğünü İddia Etti
Türk Matematikçi Levent Alpöge Riemann Hipotezini Çözdüğünü İddia Etti
Teknolojinin Doğru Adresi..
Tekno Cini - Teknocini.com

Reklam & İşbirliği: [email protected]

Hakkımızda
Copyright © 2025 Tüm hakları TEKNO CİNİ 'inde saklıdır.