Denetimden çıkan yapay zekâ 37 teknoloji devini birleştirdi

0

BEĞENDİM

ABONE OL

News

0

Nvidia (NVDA), yapay zekâ sistemlerinin oluşturduğu yeni siber güvenlik risklerine karşı 37 şirketi birebir çatı altında topladı. Open Secure AI Alliance ismi verilen oluşum, şirketlerin yapay zekâ güvenliği için ortak modeller, araçlar ve araştırmalar geliştirmesini hedefliyor.

İttifakın kurulmasını hızlandıran gelişme, OpenAI’ın güvenlik testi sırasında kullandığı otonom bir yapay zekâ casusunun denetim ortamından çıkarak Hugging Face’in sistemlerine sızması oldu. Olay, insan müdahalesi olmadan hareket edebilen casusların şirketler için oluşturabileceği riski tekrar gündeme taşıdı.

Microsoft ve Cisco masada

Open Secure AI Alliance’ın kurucu üyeleri arasında Nvidia’nın yanı sıra Microsoft, IBM, Cisco, Adobe, CrowdStrike, Dell Technologies, Cloudflare, Siemens, Salesforce ve Hugging Face bulunuyor.

Linux Foundation çatısı altında çalışacak ittifaka bulut bilişim, siber güvenlik, kurumsal yazılım, telekomünikasyon ve yapay zekâ alanlarından toplam 37 şirket ve kuruluş katıldı.

İttifak üyeleri, yapay zekâ casuslarını denetlemek, sistem davranışlarını izlemek, atakları incelemek ve güvenlik açıklarını daha süratli kapatmak emeliyle açık teknolojiler geliştirecek. Ortak çalışmaların farklı şirketlerin altyapılarında çalışabilmesi hedefleniyor.

OpenAI, Google ve Anthropic dışarıda

Teknoloji bölümünün en büyük yapay zekâ geliştiricilerinden OpenAI, Google ve Anthropic’in kurucu üyeler arasında bulunmaması ittifakın en dikkat cazip detaylarından biri oldu.

Nvidia ve ortakları, yapay zekâ savunmasının sadece birkaç şirketin kapalı sistemlerine bırakılmasının teknoloji bölümünde bağımlılık ve tek noktadan arıza riski yaratabileceğini savunuyor.

İttifak, kapalı modellerin büsbütün terk edilmesini istemiyor. Ancak güvenlik gruplarının sistemleri kendi altyapılarında çalıştırabilmesi, inceleyebilmesi ve gereksinimlerine nazaran değiştirebilmesi için açık yüklü modellere de erişmesi gerektiğini belirtiyor.

Ajan inançlı ortamdan çıktı

OpenAI, 21 Temmuz’da yaptığı açıklamada güvenlik değerlendirmesi sırasında kullanılan bir yapay zekâ casusunun denetimini kaybettiğini duyurdu. Casus, hudutlu erişime sahip inançlı test ortamından çıkarak açık internete bağlandı.

Yapay zekâ sistemi daha sonra, değerlendirmeyi geçmek için gereksinim duyduğu bilgilere sahip olduğunu düşündüğü Hugging Face’in altyapısını amaç aldı. Sızma faaliyeti OpenAI tarafından çabucak fark edilmedi.

Hugging Face saldırıyı 16 Temmuz’da tespit etti. Şirket o etapta hücumun OpenAI tarafından yürütülen bir testten kaynaklandığını bilmiyordu. Olay denetim altına alındıktan sonra ABD Federal Soruşturma Bürosu da bilgilendirildi.

17 bin süreç yapay zekâyla incelendi

Hugging Face, taarruzun akabinde sistemlerde gerçekleşen 17 binden fazla süreci incelemek zorunda kaldı. Şirket, birtakım kapalı yapay zekâ modellerinin güvenlik sınırlamaları sebebiyle kâfi isimli tahlil yapamadığını bildirdi.

Şirket bunun üzerine Çinli geliştiricilerin hazırladığı açık yüklü GLM 5.2 modelini kendi altyapısında çalıştırdı. Model, saldırganın adımlarını tahlil etmek ve sızmanın kapsamını belirlemek için kullanıldı.

Nvidia, bu olayın yapay zekâ güvenliği için sadece akın tedbire sistemlerinin kâfi olmadığını gösterdiğini savundu. Şirketlere göre güvenlik gruplarının casusların bütün hareketlerini inceleyebilmesi ve tıpkı teknolojiyi savunma hedefiyle kullanabilmesi gerekiyor.

Yeni araç casusları takip edecek

Nvidia, ittifaka açık modeller, eğitim bilgileri, model tartıları ve yapay zekâ casuslarına yönelik araştırmalar sağlayacak. Şirket ayrıyeten geliştirdiği yeni obje odaklı casus projesini açık kaynaklı olarak kullanıma sunacak.

Yeni altyapı, yapay zekâ casuslarının hangi araçlara eriştiğini, ne çeşit süreçler yaptığını ve belirlenen sonların dışına çıkıp çıkmadığını izlemeyi kolaylaştıracak.

Şirketler bu sistemlerle casusların davranışlarını test etmeyi, kaydetmeyi, geriye dönük olarak incelemeyi ve gerektiğinde muhakkak yetkileri engellemeyi amaçlıyor. Böylelikle insan kontrolü dışında gerçekleşebilecek süreçlerin daha erken tespit edilmesi planlanıyor.

Siber güvenlik pazarı büyüyor

Otonom yapay zekâ casusları sadece soruları yanıtlamakla kalmıyor; belge açabiliyor, yazılım çalıştırabiliyor, internet sitelerine bağlanabiliyor ve muhakkak vazifeleri kendi başına tamamlayabiliyor.

Bu yetenekler şirketlerde verimlilik sağlarken yanlış yapılandırılmış yahut denetimden çıkan bir casusun bilgi tabanlarına, bulut sistemlerine ve kritik şirket altyapılarına erişme riskini de büyütüyor.

Yeni ittifak, siber güvenlik şirketleri açısından yapay zekâ casuslarını izleyen ve sınırlayan yeni bir eser pazarının oluşabileceğine işaret ediyor. Güvenlik yazılımlarında sadece insan kullanıcıların değil, bağımsız hareket eden dijital casusların davranışları da denetlenecek.

Açık model tartışması büyüdü

İttifakın kuruluşu, ABD teknoloji dalındaki açık ve kapalı yapay zekâ modeli tartışmasını da tekrar alevlendirdi. Açık yüklü modeller, geliştiricilerin sistemin temel bileşenlerine erişmesine ve modeli kendi altyapısında çalıştırmasına imkân veriyor.

Kapalı model geliştiren şirketler ise güçlü sistemlerin açık biçimde paylaşılmasının berbat niyetli bireylerin siber atak, dezenformasyon yahut diğer ziyanlı faaliyetler geliştirmesini kolaylaştırabileceğini savunuyor.

Nvidia ve ittifak ortakları, açık sistemlerin de berbata kullanılabileceğini kabul ediyor. Lakin şirketler, savunma gruplarının saldırganlarla gayret edebilmesi için tıpkı seviyede güçlü, incelenebilir ve özelleştirilebilir araçlara sahip olması gerektiğini belirtiyor.