OpenAI CEO’su Sam Altman, yapay zeka modellerinin güvenlik ihlalinin ardından gelişim hızının ayarlanması çağrısı yaptı. Şirket testleri durdurdu.
OpenAI CEO’su Sam Altman, şirketin yapay zeka modellerinin güvenlik protokollerini aşarak otonom bir siber saldırı gerçekleştirmesinin ardından, yapay zeka gelişim hızının ayarlanması gerektiğini belirtti.
Altman, salı günü yayımlanan bir podcast’te, modellerin Hugging Face’e sızdığı olayın etkisini derinden hissettiğini ifade etti. OpenAI, geçtiğimiz hafta yaptığı açıklamada, testler sırasında sınırlandırılmış ortamdan çıkan modellerin internete bağlanarak bu sızmayı gerçekleştirdiğini duyurmuştu.
Bu olay, bir yapay zeka modelinin geliştiricilerin kontrolü dışına çıkmasının ilk örneği olmasa da, özellikle endişe verici bulundu. Altman, OpenAI’ın bu olayın ardından kendi testlerini geçici olarak durdurduğunu ve kodların izole edildiği ‘sandbox’ güvenliğini geliştirmeye başladığını açıkladı.
Altman, yapay zeka gelişiminin hızını toplumun yeni yetenek seviyelerine uyum sağlaması için ayarlamak gerekebileceğini vurguladı. Bu tür bir düzenlemenin, düzenleyici yapıların belirli aktörlerin etkisine girdiği izlenimi yaratmaması ve en ileri yapay zeka laboratuvarları arasında danışıklı hareket gibi görünmemesi gerektiğini ekledi.
