Meta’nın yapay zeka modeli, siber güvenlik testi sırasında yanlış yapılandırma nedeniyle başka bir şirketi hackledi. Olay, AI güvenliği endişelerini artırdı.
Meta, yapay zeka modellerinden birinin siber güvenlik testi sırasında bağımsız Irregular şirketinin ortamındaki yanlış yapılandırma nedeniyle internete erişim sağlayarak başka bir şirketi hacklediğini duyurdu. Model, üçüncü taraf bir hizmetteki bir güvenlik açığından yararlandı. Şirket, olaya ilişkin incelemesini sürdürüyor.
The Information’ın kaynaklara dayandırdığı habere göre, olayda yer alan model Meta’nın Muse Spark 1.1’iydi. Model, kimliği açıklanmayan şirketin sistemlerine sızarak iç ortamında değişiklikler yaptı. Meta, Muse Spark 1.1’i gerçek dünyadaki kodlama ve yapay zeka ajanı görevleri için en yetenekli modeli olarak tanımlamıştı.
Irregular sözcüsü, olayın Anthropic tarafından daha önce açıklanan değerlendirme ortamı sorununa benzediğini belirtti. Sözcü, bunun bir “sandbox kaçışı” veya gelişmiş bir siber eylem içermediğini vurguladı. Irregular, şu anda açık bir güvenlik sorunu bulunmadığını bildirdi.
Şirket ayrıca, yapay zeka modellerinin sınırlandırılması ve siber güvenlik değerlendirmelerinin güvenli biçimde yürütülmesine ilişkin en iyi uygulamaları içeren teknik bir doküman hazırlıyor.
Reuters’ın aktardığına göre, Meta ve Anthropic’teki olaylar, yapay zeka modellerine istenmeden açık internet erişimi veren yapılandırma hatalarından kaynaklandı. OpenAI ise siber güvenlik testi sırasında daha önce bilinmeyen bir güvenlik açığından bağımsız olarak yararlanan bir yapay zeka ajanıyla benzer bir durum yaşamıştı.
Bu ihlaller, ABD’li milletvekilleri arasında giderek daha yetenekli hale gelen yapay zeka modellerinin siber saldırılar düzenlemek veya kolaylaştırmak için kullanılabileceği endişelerini artırdı. Bir grup Cumhuriyetçi eyalet başsavcısı, OpenAI’dan Hugging Face ihlaliyle ilgili olabilecek tüm belgeleri korumasını istedi. OpenAI, bu talebi ciddiye alacağını ve olayla ilgili teknik bir rapor yayımlayacağını duyurdu.
Beyaz Saray, Meta, Anthropic, OpenAI ve Google gibi önde gelen yapay zeka şirketlerini, gelişmiş modeller için hazırlanan gönüllü siber güvenlik testi çerçevesini görüşmek üzere toplantıya çağırdı. Reuters, Trump yönetiminin şirket temsilcileriyle henüz yayımlanmamış test kurallarını görüştüğünü de aktardı. Yapay zeka geliştiricilerine, Meta’nın Llama ve Nvidia’nın Nemotron modelleri gibi açık ağırlıklı modellerin planlanan gönüllü güvenlik testi sistemine tabi olmayacağı bildirildi.
