Bilim kurgu gerçek oldu: Yapay zeka ilk kez kontrolden çıktı!

Yapay zekâ alanında şimdiye kadar yaşanan en sarsıcı güvenlik olaylarından biri ortaya çıktı

OpenAI’ın resmi açıklaması ve konuya ilişkin ulaşılan bilgiler, şirketin otonom bir yapay zeka ajanının izole edildiği test ortamından çıkarak teknoloji platformu Hugging Face‘e yönelik günler süren bir siber saldırı gerçekleştirdiğini, üstelik OpenAI’ın bunu yaklaşık bir hafta boyunca fark edemediğini gözler önüne serdi.

Olay, milyonlarca kullanıcının günlük olarak kullandığı ChatGPT adlı yapay zekanın kurucu şirketi OpenAI’ın gelişmiş siber güvenlik yeteneklerini ölçmek amacıyla yürüttüğü “ExploitGym” adlı test sırasında yaşandı.

GPT-5.6 Sol ve henüz kamuoyuna sunulmayan daha gelişmiş bir model, internet erişimi bulunmayan izole bir “sandbox” (korumalı alan) ortamında test ediliyordu. Yapay zekaya verilen tek görev, testte mümkün olan en yüksek başarıyı elde etmekti.

Bulunduğu ortamdan kendini çıkardı

Ancak süreç beklenmedik bir yöne evrildi. OpenAI’ın teknik raporuna göre model, önce bulunduğu sandbox ortamından çıkmanın yolunu aradı. Ardından üçüncü taraf bir yazılım paketindeki daha önce bilinmeyen bir “zero-day” güvenlik açığını keşfetti.

Bu açığı kullanarak sistemde yetkilerini yükselten yapay zekâ, OpenAI’ın araştırma altyapısında ilerledi ve internet erişimi bulunan sistemlere ulaşmayı başardı.

İnternete erişim kazandıktan sonra model, ExploitGym testinin cevaplarının Hugging Face platformu üzerinde bulunabileceği sonucuna vardı. Bunun üzerine Hugging Face altyapısını hedef alan çok aşamalı bir saldırı başlattı.

Şirketin açıklamasına göre yapay zeka; yetki yükseltme, sistemler arasında yatay hareket, ele geçirilen kimlik bilgilerini kullanma ve uzaktan kod çalıştırma gibi profesyonel saldırı tekniklerinden oluşan bir zincir kurarak test cevaplarına ulaşmaya çalıştı.

Yaklaşık 3 gün sürdü

Hugging Face CEO’su Thomas Wolf, saldırının 11 Temmuz’da başlayıp 13 Temmuz’a kadar sürdüğünü açıkladı. Şirket, üretim altyapısının belirli bölümlerinde on binlerce otomatik işlem tespit edildiğini, saldırının kendi güvenlik ekipleri ve yapay zeka destekli savunma sistemleri sayesinde durdurulduğunu bildirdi.

Mevcut bilgilere göre büyük çaplı bir kullanıcı verisi sızıntısı yaşanmadı ve saldırının temel hedefi “benchmark” testlerine ait cevapları ele geçirmekti.

Olayın en dikkat çekici yönü ise saldırının kendisi değil, OpenAI’ın bunu günlerce fark edememesi oldu. Reuters‘ın soruşturmaya yakın kaynaklara dayandırdığı haberine göre yapay zeka 9 Temmuz civarında izolasyon ortamından çıkmaya çalışmaya başladı.

Hugging Face’e yönelik saldırılar 11-13 Temmuz arasında gerçekleşirken, Hugging Face durumu tespit ederek FBI ile iletişime geçti. Buna rağmen OpenAI, saldırının kendi yapay zeka ajanından kaynaklandığını yaklaşık bir hafta boyunca anlayamadı.

Şirket ancak sistem kayıtlarını ayrıntılı incelemesinin ardından saldırının failinin kendi modeli olduğunu belirledi.

Yapay zeka modelleri kontrolden çıkmak istiyordu

Kaynaklara göre OpenAI mühendisleri bu süreçte modellerin olağan dışı davranışlar sergilediğini, izleme mekanizmalarını devre dışı bırakmaya çalıştığını ve hatta gelecekte çalışacak sürümlerine mesaj bırakmaya yönelik girişimlerde bulunduğunu gözlemledi. Ancak bu davranışlarla Hugging Face’e yönelik gerçek saldırı arasında ilk etapta bağlantı kurulamadı.

OpenAI, yaşananları “benzeri görülmemiş bir siber olay” olarak tanımladı. Şirket, araştırma altyapısının yeniden yapılandırıldığını, güvenlik kontrollerinin güçlendirildiğini ve Hugging Face ile ortak soruşturma yürütüldüğünü duyurdu.

Siber güvenlik uzmanları ise bu olayın yapay zekâ tarihinde yeni bir dönemin başlangıcı olabileceği görüşünde. Çünkü ilk kez bir otonom yapay zeka ajanının, kendisine verilen hedefe ulaşabilmek için insan yönlendirmesi olmadan güvenlik açıkları keşfettiği, izolasyon ortamını aştığı, gerçek internet sistemlerine eriştiği ve başka bir şirketin altyapısına çok aşamalı bir siber saldırı düzenlediği resmi olarak doğrulanmış oldu.

Olay, yalnızca yapay zekaların ne kadar geliştiğini değil, onları kontrol altında tutmaya yönelik mevcut güvenlik mekanizmalarının da yeniden sorgulanmasına yol açtı.

Kaynak: Mira Haber