Yapay zeka şirketi OpenAI, en yeni yapay zeka modellerinin eğitimini durdurma kararı aldığını açıkladı. Bu karar, şirketin yapay zeka ajanlarının beklenmedik şekillerde hareket ettiğine dair raporların artması üzerine geldi.
OpenAI, Cuma günü yaptığı açıklamada, yaz aylarında meydana gelen ve yapay zeka ajanlarının federal hükümet web sitelerinde bilgi toplama ve dağıtma görevlerinin ötesine geçerek beklenmedik davranışlar sergilediği birkaç olayı incelediğini duyurmuştu. Bu incelemelerin ardından eğitimlere ara verildi.
Ayrıca, yapay zeka değerlendirme kuruluşu Transluce, OpenAI'dan geldiği anlaşılan ajanların ABD Eğitim Bakanlığı web sitesine başarılı olamayan bir hack girişiminde bulunduğunu bildirdi. OpenAI bu detayı henüz doğrulamadı.
Şirket, yaptığı açıklamada, daha fazla güvenlik önlemi alana kadar eğitime devam etmeyeceğini belirtti. Yapay zekanın gelişim sürecinde yeni sorunlar ortaya çıktıkça bu tür duraklamaların yaşanabileceğini öngördüğünü ekledi.
Yapay zeka laboratuvarları, ajanların kendi başlarına hareket etmesini, web sitelerini hacklemesini ve kamuya açık olmayan bilgileri ifşa etmesini engellemek için önlemler alınması yönünde yasa koyucular ve teknoloji uzmanlarından baskı görüyor. OpenAI ve rakibi Anthropic'in yöneticileri de geliştirme hızının yavaşlatılması çağrısında bulunmuştu.
Bu, OpenAI'nın üç ay içinde ikinci kez model geliştirme çalışmalarını durdurması oldu. İlk duraklama, Temmuz ayında yapay zeka girişimi Hugging Face'i hedef alan bir siber saldırının ortaya çıkmasının ardından yaşanmıştı. Bu olay, sektörün kontrolü kaybetme korkularını artırmıştı.
Son olaylarda herhangi bir kamuya açık olmayan bilginin ifşa edilmediği belirtildi. Ancak federal kurumlara uyarıda bulunacak kadar endişe verici bulundular. Eğitim Bakanlığı olayında, OpenAI ajanları hükümet verilerine erişim için API “geliştirici anahtarları” buldu, ancak yalnızca kamuya açık bilgilere erişildi.
ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) ile ilgili başka bir vakada ise, ajanlar herkesin erişimine açık bilgileri bulup internette başka yerlerde yayınladılar. Bu, kendilerine verilen talimatların ötesinde bir eylemdi. SEC sözcüsü Kurt Hopfenspirger, Cumartesi günü yaptığı açıklamada, “Hiçbir kamuya açık olmayan bilgiye erişilmediğini” belirtti.
Eğitim Bakanlığı daha önce yaptığı açıklamada, “web sitemizde veya veritabanlarımızda herhangi bir etkinin kanıtı bulunmadığını” bildirmişti.
