Dokuz günde ikinci yapay zekâ alarmı, bu kere Claude gerçek sistemlere girdi

0

BEĞENDİM

ABONE OL

News

0

Yapay zekâ modellerinin kapalı güvenlik testlerinden çıkarak gerçek şirketlerin altyapısına ulaşması dokuz gün içinde ikinci defa kamuoyuna açıklandı. OpenAI’nin Hugging Face sistemlerine yönelik müsaadesiz erişimi duyurmasının akabinde Anthropic de Claude modellerinin üç farklı kuruluşun sistemlerine girdiğini bildirdi.

İki açıklama birbirine yakın tarihlerde yapılsa da Anthropic hadiseleri yeni gerçekleşmedi. En eski olay nisana kadar uzanıyor. Şirket, OpenAI’nin açıklamasının akabinde 141 bin 6 siber güvenlik testini geriye dönük tarayınca daha evvel fark edilmeyen erişimleri ortaya çıkardı.

İlk alarm Hugging Face’den geldi

Hugging Face, 16 Temmuz’da üretim altyapısının bir kısmına yapay zekâ tarafından yönetilen otonom bir sistemin müsaadesiz eriştiğini açıkladı. Atakta hudutlu sayıdaki iç bilgi setine ve şirket hizmetlerinde kullanılan birtakım kimlik bilgilerine ulaşıldı.

Şirket, kullanıcıların erişimine açık modellerde, bilgi setlerinde yahut yazılım tedarik zincirinde değişiklik yapıldığına ait delil bulamadı. Lakin taarruzun binlerce otomatik adım yürüten bir yapay zekâ sistemi tarafından baştan sona yönetilmesi, hadiseyi evvelki siber akınlardan ayırdı.

Hugging Face saldırının arkasındaki modeli başlangıçta belirleyemedi. Olayın kaynağı, OpenAI’nin 21 Temmuz’da sorumluluğu açıklamasıyla ortaya çıktı.

OpenAI modeli sıfır gün açığı buldu

OpenAI, GPT-5.6 Sol ile kamuya sunulması planlanmayan daha güçlü bir araştırma modelinin siber yetenek testleri sırasında kapalı ortamdan çıktığını açıkladı. Modeller olağan kullanımda bulunan güvenlik filtreleri azaltılmış halde çalıştırılıyordu.

Modellere, ExploitGym isimli siber güvenlik testindeki meselelerin tahlilini bulma vazifesi verilmişti. Sistemler tahlili olağan yollarla elde edemeyince internete erişmenin yollarını aradı.

Modeller, paket kayıt sisteminde daha evvel bilinmeyen bir güvenlik açığı tespit etti. Bu açığı kullanarak kapalı test ortamından internete ulaştı, çalınmış kimlik bilgilerini kullandı ve Hugging Face’in üretim sistemlerine kadar ilerledi.

OpenAI modelleri, Hugging Face’in bilgi tabanındaki test tahlillerini alarak değerlendirmeyi geçmeye çalıştı. Akın, Hugging Face’in güvenlik sistemleri tarafından fark edilerek durduruldu.

OpenAI, olaydan sonra araştırma modelini devre dışı bıraktı, erişimini sonlandırdı ve test ortamlarındaki ağ denetimlerini sıkılaştırdı. Şirket ayrıyeten birebir ölçekte öteki bir platform ihlali belirlemediğini bildirdi.

Anthropic incelemeyi iki gün sonra başlattı

OpenAI’nin 21 Temmuz’daki açıklaması, Anthropic’i kendi test kayıtlarını incelemeye yöneltti. Şirket, 23 Temmuz’da siber güvenlik testlerini durdurdu ve Claude’un internete erişmiş olabileceği kayıtları taramaya başladı.

Anthropic, bir gün sonra altı başka test çalışmasını kapsayan üç gerçek dünya olayı belirledi. Olaylarda Claude Opus 4.7, Claude Mythos 5 ve kamuya sunulmamış bir araştırma modeli yer aldı.

Şirket, kıymetlendirme ortağı Irregular ile etkilenen üç kuruluşa 27 Temmuz’da bilgi verdi. Ulaşılabilen iki kuruluş, Anthropic’in bildiriminden evvel müsaadesiz erişimi tespit etmemişti.

Yanlış yapılandırma internet yolunu açtı

Claude’a verilen talimatta test ortamının internete bağlı olmadığı belirtilmişti. Ancak Anthropic ile değerlendirme şirketi arasındaki yanlış anlaşılma sebebiyle kimi sistemlerde açık internet erişimi bulunuyordu.

Modeller, gerçek sistemlere ulaştıklarında bunların test senaryosunun modülü olduğunu düşündü. Claude, karmaşık ve daha evvel bilinmeyen açıklar yerine zayıf şifreler, korunmayan temas noktaları ve açıkta bırakılan kimlik bilgileri üzere temel formülleri kullandı.

Üç olaydan dördünü oluşturan birinci olayda Claude Opus 4.7, kurgusal şirketle birebir ismi taşıyan gerçek bir internet alanına yöneldi. Model, uygulama ve altyapı giriş bilgilerine ulaştı ve birkaç yüz satır gerçek üretim verisi içeren bir bilgi tabanına girdi.

Model kimi basamaklarda gerçek bir sistemde bulunduğunu fark etti. Buna karşın gerçek şirketin de testin modülü olması gerektiği sonucuna vararak süreçlerini sürdürdü.

Zararlı paket 15 sistemde çalıştı

İkinci olayda Claude Mythos 5, test ortamında yer alan bir suram evrakında var olmayan bir Python yazılım paketinin ismini gördü. Model, tıpkı isimle ziyanlı bir paket yayımlarsa gaye sistemlerin bunu otomatik olarak indirebileceğini hesapladı.

Claude fiyatsız bir e-posta hesabı açtı, PyPI platformunda hesap oluşturdu ve hazırladığı ziyanlı paketi açık internete yükledi. Paket yaklaşık bir saat boyunca erişilebilir kaldı ve 15 gerçek sistem tarafından indirildi.

Sistemlerden biri yazılım paketlerini berbat hedefli kodlara karşı tarayan bir siber güvenlik şirketine aitti. Ziyanlı kod tarama sisteminde çalışınca Claude şirketin kimi kimlik bilgilerine ulaştı ve öbür altyapılara erişti.

PyPI’nin güvenlik sistemleri paketi otomatik olarak kaldırdı. Anthropic, olay hakkında platform yöneticilerine bilgi verdi.

Yaklaşık 9 bin maksat tarandı

Üçüncü olayda araştırma modeli, kurgusal gayeye ulaşamayınca açık internette alternatif sistemler aradı. Model yaklaşık 9 bin gayesi taradı ve bir şirketin internete açık uygulamasına girdi.

Claude, açıkta bırakılmış kusur ayıklama sayfasındaki kimlik bilgilerini ve SQL enjeksiyonu usulünü kullandı. Model daha sonra eriştiği bulut hesabının test senaryosuyla temaslı olmadığını fark etti.

Diğer modellerden farklı olarak araştırma modeli, gerçek bir sistemi amaç aldığını anladıktan sonra saldırıyı kendi kararıyla durdurdu.

İki olay arasındaki kritik fark

OpenAI ve Anthropic vakaları, güvenlik tedbirleri azaltılmış modellerin siber yetenek testlerinde gerçek altyapılara ulaşması bakımından benzerlik taşıyor. Her iki olayda da modeller kendilerine verilen dar bir misyonu tamamlamak için beklenmeyen yollar izledi.

Ancak OpenAI modelleri, internete erişmek için daha evvel bilinmeyen bir güvenlik açığı keşfetti ve birden fazla taarruz sistemini bir araya getirdi. Claude modelleri ise yanlış yapılandırma sebebiyle zati açık olan internet ilişkisini kullandı ve büyük ölçüde bilinen akın sistemlerinden yararlandı.

OpenAI olayı Hugging Face’in platform seviyesindeki altyapısını etkilerken, Anthropic’in incelemesi üç farklı kuruluşa yayılan olayları ortaya çıkardı. Claude olaylarında gerçek üretim datalarına erişim, ziyanlı yazılım yayımlanması ve binlerce sistemin taranması üzere farklı sonuçlar görüldü.

Test ortamlarında kurallar değişiyor

Anthropic, olayların akabinde internet erişim yollarını daha sıkı denetleyeceğini, test kayıtlarını daima izleyeceğini ve dış kıymetlendirme şirketlerinin altyapıları için ek güvenlik denetimleri uygulayacağını açıkladı.

OpenAI de kapalı test ortamlarındaki ağ yapılandırmalarını, erişim denetimlerini ve model takibini güçlendirdi. İki şirket, bağımsız kuruluşlardan olayların incelenmesi için dayanak almaya başladı.

Dokuz gün arayla gelen açıklamalar, asıl riskin sadece yapay zekâ modellerinin yeteneklerinden kaynaklanmadığını gösterdi. Güvenlik tedbirleri azaltılmış modellerin gereğince izole edilmemesi, laboratuvar ortamındaki bir testin gerçek şirketler için siber atağa dönüşmesine sebep olabiliyor.