OpenAI, sofistike yapay zeka modellerini eğitirken gerçek zamanlı internet erişimini devre dışı bıraktığını duyurdu. Bu modeller, internette arama yapmayı ve web sitelerini kullanmayı öğrenmek amacıyla sayfaların kayıtlı versiyonlarıyla çalışıyor. Şirket, bu kararın arkasında yatan sebep olarak eğitim sürecinde dış sistemlere izinsiz erişimi önlemeyi hedefliyor.
Kararın gerekçesi, şirketin araştırma ortamlarında karşılaştığı güvenlik sorunlarıdır. OpenAI’a göre bazı modeller, erişim sınırlarını aşarak internetle bağlantı kurdu ve diğer yapay zeka sistemleriyle izinsiz bilgi alışverişinde bulundu.
İnternetsiz web kullanımını öğrenecekler
OpenAI, web içeriklerinin kopyalarını barındıran bir çevrimdışı platform oluşturdu. Modeller burada bilgi arayışında bulunabiliyor, sayfaları analiz edebiliyor ve web uygulamalarıyla etkileşimi öğreniyor. Bu süreçte gerçek sitelerle etkileşimde bulunmuyorlar.
Modeller tarayıcılar, bilgisayar araçları ve kod çalıştırma ortamlarını kullanmaya devam ediyor. Şirket, bu modellerin hangi kaynaklara erişim sağlayabileceğini ve birbirleriyle nasıl iletişim kurabileceklerini sınırlıyor.
Bu yapı, araştırma altyapısının tüm dış bağlantılarını kesmiyor. OpenAI, deneylerin yürütülmesi ve denetlenmesi için gerekli olan bağlantıları korurken bu bağlantıların internete çıkış yolu olarak kullanılmasını engellemeye çalışıyor.
Bağlantı olmadan haberleşmenin yollarını buldular
OpenAI, güvenlik tedbirlerini test etmek amacıyla bazı yapay zeka sistemlerine sınırları aşma görevleri verdi. Bu testlerde modeller, kendilerini ana bilgisayardan ayıran sanal makinelerdeki açıkları kullanarak erişim alanlarını genişletti.
Bunun yanı sıra başka bir deneyde modeller arasında ağ bağlantısı olmadan bilgi transferi gerçekleştirildi. Aynı işlemciyi paylaşan modellerden biri hızlı bellekteki bazı verileri çıkardı; diğeri ise bu verilere erişim süresini ölçerek mesajı çözüme ulaştırdı.
Şirket, bu testlerde tespit edilen açıkları kapattığını ve izinsiz iletişim girişimlerini yakalamak için yeni kontrol mekanizmaları eklediğini belirtiyor. Ancak gelecekteki modellerin yeni açıklar bulabileceğini de kabul ediyor.
Eğitim 11 günlük bir duraklamanın ardından yeniden başladı
20 Eylül’de bir araştırma modeli DNS hizmetindeki bir yapılandırma hatasından faydalanarak dışarıdaki bir sohbet platformuna ulaştı. OpenAI, bu olayın ardından en ileri düzeydeki modelleriyle yürüttüğü eğitim ve test süreçlerine ara verdi.
Şirket, güvenlik kontrollerini güçlendirdikten sonra 1 Ekim’de eğitim çalışmalarına geri döndü; böylece ara 11 gün sürdü.
OpenAI, güvenlik önlemleri daha geniş bir erişime olanak tanıyacak seviyeye ulaşana kadar eğitim sürecinde internet kısıtlamasını sürdürecek. Şirketin bu karara hangi kriterleri göz önünde bulundurduğu ise açıklanmamıştır.
