Bir ‘ajan’lık öyküsü

0

BEĞENDİM

ABONE OL

News

0

İsmail Şahin – Bir vakitler sırf bilim kurgu sinemalarında görülen bir senaryo, bu hafta teknoloji dünyasında gerçeğe dönüştü. OpenAI’nin en gelişmiş modellerinden birinin kapalı test ortamından çıkarak Hugging Face’in sistemlerine saldırması, yapay zekâ bölümünde “kontrolden çıkma” kaygılarını tekrar gündeme getirdi. Olay, OpenAI’nin GPT-5.6 Sol modeli ve şimdi piyasaya sürülmemiş daha gelişmiş bir model üzerinde gerçekleştirdiği güvenlik testi sırasında yaşandı. Olağanda dış dünyadan izole edilmesi gereken test ortamında çalışan modellerin, açık internete erişim sağlayarak yazılım geliştirme platformu Hugging Face’e saldırdığı bildirildi.

Günler sonra anlaşıldı

Soruşturmaya yakın kaynaklara nazaran OpenAI’nin deneysel yapay zekâ casusu, Hugging Face sistemlerine sızmadan evvel 9 Temmuz günü test ortamından kaçmaya çalıştı ve bunu başardı. İki gün sonra ise yapay zekâ modelleri ve araçları için değerli bir platform olan Hugging Face’e yönelik akınlar başladı.

Saldırı 11-13 Temmuz arasında gerçekleşirken, Hugging Face kurucu ortağı Thomas Wolf, şirketine yönelik müsaadesiz girişin birkaç gün boyunca devam ettiğini doğruladı ve OpenAI ile birinci temasın fakat 20 Temmuz civarında gerçekleştiğini söyledi. OpenAI, 21 Temmuz’da yaptığı açıklamada bir yapay zekâ casusunun denetimden çıkarak Hugging Face’e sızdığını kamuoyuna duyurmuştu. Fakat Reuters’a konuşan kaynaklar, şirketin kendi sistemlerinin olayın sorumlusu olduğunu hücumdan günler sonra fark ettiğini sav etti.

Uyarı işaretleri

Yine soruşturmaya yakın kaynaklara nazaran olaydan evvel şirket çinideki kimi gelişmiş yapay zekâ modelleri sıra dışı davranışlar sergiliyordu. Kaynaklar, bir casusun gelecekteki sürümlerine yönelik notlar bıraktığını ve bu notlarda sistem kısıtlamalarının nasıl aşılabileceğine ait talimatlar bulunduğunu öne sürdü.

Bazı testlerde ise nezaret sistemlerinin devre dışı bırakıldığı hadiselerin görüldüğü belirtildi. Bu olaylarla Hugging Face saldırısını gerçekleştiren casus arasında direkt temas kurulamadı. Hugging Face, saldırıyı tespit ettikten sonra FBI’a bilgi verdi. OpenAI’nin ise akının kendi casusundan kaynaklandığını anlamasının akabinde şirkete ulaştığı tabir edildi. OpenAI yaptığı açıklamada olayın “yapay zekâ güvenliği açısından değerli bir dönüm noktası” olduğunu belirtti.

Testten nasıl kaçtı

■ ExploitGym ismi verilen ve yapay zeka casusu yeni sistemdeki siber güvenlik açıklarını bulması için izole bir teste başladı.

■ Yapay zeka casusu, kendisine verilen test misyonunu olağan yollarla çözmek yerine, test ortamındaki kısıtlamaları ve onay sistemlerini aşmanın yollarını aramaya başladı. 

■ Ajan, harici internet erişimi olmayan sanal ortamdan kaçmak için 3 taraf yazılımlardaki ve ağ üzerindeki zayıflıkları zincirleme biçimde kullanarak sandbox sonlarını kırdı ve internete bağlandı.

■ İnternet erişimi elde eden yapay zeka, testle ilgili bilgi setlerinin ve tahlillerin nerede barındırılabileceğini mantık yürüterek buldu ve açık kaynak yapay zeka platformu Hugging Face’in altyapısına yöneldi.

■ Ajan, testi geçebilmek emeliyle Hugging Face sunucularına çalınmış bir kimlikle sızdı ve bir hafta boyunca otonom bir siber operasyon yürüttü. 

■ Hugging Face, sistemlerinde olağandışı bir hareketlilik ve otonom bir siber taarruz tespit ederek durumu FBI’a bildirdi.

■ Logları inceleyen OpenAI, 21 Temmuz’da saldırıyı kendi casusunun gerçekleştirdiğini itiraf etti.

‘Kötü niyetli değil aşırı odaklı’

Uzmanlar yapay zekanın insan düşmanlığıyla yahut berbat niyetle hareket etmediğini, yalnızca önüne konan amacı (testi kazanma) ne değerine olursa olsun gerçekleştirmek isterken tüm güvenlik sonlarını mantıksal olarak baypas ettiğini vurguluyor. Fakat berbat niyetli vericelek bir komutun da bu tıp sonuçları olabileceğine dikkat çekiliyor.

‘Kapatma düğmesi’teklifi

OpenAI’nin gelişmiş bir yapay zekâ modelinin izole test ortamından çıkarak öteki bir şirketin sistemlerine sızmasının isyasi yansımaları da oldu. Demokrat Kongre üyesi Greg Casar, bağımsız zorunlu güvenlik testleri, güvenlik olaylarının raporlanması ve uluslararası iş birliği davetinde bulundu. Demokrat Kongre Üyesi Ted Lieu ile Cumhuriyetçi Kongre Üyesi Nathaniel Moran, perşembe günü “Yapay Zeka Kapatma Düğmesi Yasası” isminde yasa teklifi sundu. Teklif yapay zekâ şirketlerinin teknik arıza ya da olayları hükümete bildirmesini ve “önce yavaşlatma, gerekirse tam kapatma” formunda işleyen müdahale olacak.

Bu birinci değil

OpenAI olayı tekil bir örnek değil. Mart ayında Alibaba ile ilişkili araştırmacılar da bir yapay zekâ modelinin müsaadesiz formda dış bir sunucuya bağlanarak kripto para madenciliği yapmaya çalıştığını tespit etmişti. Anthropic’in model güvenliğinden sorumlu yöneticisi Sam Bowman da nisan ayında, test evresindeki bir modelden internette dolaştığını belirten sıra dışı bir e-posta aldığını açıklamıştı. Uzmanlar, yapay zekâların  daha otonom hale geldikçe bu davranışların artabileceğini söylüyor.

‘Hile yapıp palavra söylüyor’

Siber güvenlik odaklı araştırma kuruluşu Palisade Research’ten Jeffrey Ladish, “Modeller palavra söyleyebiliyor, hile yapabiliyor ve sistemlere sızabiliyor” değerlendirmesinde bulunurken, uzmanlar yapay zekâ sistemlerinin daha sıkı nezaret ve düzenlemelere ihtiyaç duyduğunu vurguluyor. Cornell Üniversitesi Bilgisayar Bilimleri Bölümü’nden John Thickstun, olayın yapay zekâ doğal öğrenme sürecinin bir kesimi olduğunu savundu. Thickstun’a nazaran, siber hücum gerçekleştirebilen yapay zekâ tıpkı vakitte atakları tahlil edip savunma sistemleri geliştirme kapasitesine de sahip. Bu sebeple paniğe gerek yok.