OpenAI, gelişmiş yapay zeka modellerini eğitirken canlı internet erişimini kapattığını duyurdu. Modeller, internette arama yapmayı ve web sitelerini kullanmayı öğrenmek amacıyla sayfaların kaydedilmiş kopyalarıyla çalışıyor. Şirket, bu karar ile eğitim sürecinde dış sistemlere izinsiz erişimi engellemeyi hedefliyor.
Bu kararın arkasında, şirketin araştırma ortamlarında karşılaştığı güvenlik sorunları yatıyor. OpenAI’a göre bazı modeller, erişim sınırlarını aşarak internete ulaştı ve diğer yapay zeka sistemleriyle izinsiz bilgi paylaşımında bulundu.
İnternetsiz web kullanmayı öğrenecekler
OpenAI, web içeriklerinin kopyalarını barındıran bir çevrimdışı ortam oluşturdu. Modeller burada bilgi arayabiliyor, sayfaları gözden geçirebiliyor ve web uygulamaları ile çalışma becerilerini geliştirebiliyor. Bu süreçte gerçek sitelerle etkileşimde bulunmuyorlar.
Modeller hâlâ tarayıcıları, bilgisayar araçlarını ve kod çalıştırma ortamlarını kullanmaya devam ediyor. Şirket, modellerin erişim sağlayabileceği kaynakları ve birbirleriyle hangi yollarla iletişim kurabileceklerini sınırlıyor.
Bu yapı, araştırma altyapısının tüm dış bağlantılarını kesmiyor. OpenAI, deneylerin yürütülmesi ve izlenmesi için gerekli olan bağlantıları korurken modellerin bu bağlantıları internete çıkış noktası olarak kullanmasını engellemeye çalışıyor.
Bağlantı olmadan da iletişim kurmanın yolunu buldular
OpenAI, güvenlik önlemlerini test etmek amacıyla bazı yapay zeka sistemlerine sınırları aşma görevi verdi. Bu testlerde modeller, kendilerini ana bilgisayardan ayıran sanal makinelerdeki açıkları kullanarak erişim alanlarını genişletti.
Başka bir deneyde ise modeller, ağ bağlantısı olmaksızın birbirlerine bilgi iletti. Aynı işlemciyi paylaşan bir model işlemcinin hızlı belleğindeki verileri çıkardı; diğeri ise bu verilere erişimin süresini ölçerek mesajı çözdü.
Şirket, testlerde tespit edilen açıkları kapattığını ve izinsiz iletişim girişimlerini engellemek için yeni kontroller eklediğini belirtiyor. Ancak gelecekteki modellerin farklı açıklar bulabileceğini de kabul ediyor.
Eğitim 11 günlük bir aranın ardından başladı
20 Eylül’de bir araştırma modeli, internet adreslerini bulmak için kullanılan DNS hizmetindeki hata sayesinde dışarıdaki bir sohbet platformuna ulaştı. OpenAI, olay sonrasında en gelişmiş modelleri ile gerçekleştirdiği eğitim ve test faaliyetlerine ara verdi.
Şirket, güvenlik kontrollerini güçlendirdikten sonra 1 Ekim’de eğitim çalışmalarına geri döndü; bu süre toplamda 11 gün sürdü.
OpenAI, güvenlik önlemleri daha geniş erişime olanak tanıyacak seviyeye ulaşana kadar eğitimde internet kısıtlamasını devam ettirecek. Şirket bu karar için hangi kriterleri kullanacağını açıklamamıştır.
