Yapay zeka alanında faaliyet gösteren OpenAI, gençler için daha güçlü güvenlik önlemleri ve izleme mekanizmalarına sahip yeni bir ChatGPT sürümü geliştirdiğini duyurdu. Bu adım, yapay zekanın gençler üzerindeki potansiyel olumsuz etkilerine yönelik artan endişeler ve bazı kullanıcıların intihara sürüklendiği iddiaları üzerine atıldı.
OpenAI tarafından yapılan açıklamada, 13-17 yaş aralığındaki kullanıcılar veya yaşından küçük olduğu tespit edilen tüm kullanıcılar için otomatik olarak devreye girecek olan bu yeni sürüme "Gençler için ChatGPT" (ChatGPT for Teens) adı verildiği belirtildi. Mevcut güvenlik önlemlerinin çoğuna ek olarak, bu yeni modelde kendine zarar verme, şiddet, yeme bozuklukları ve müstehcen içeriklerle ilgili daha sıkı kısıtlamalar uygulanacak.
ChatGPT for Teens, kullanıcılara daha sık mola hatırlatıcıları sunacak ve "Çalışma Modu" aracılığıyla kullanıcılara doğrudan cevap vermek yerine yol gösterici sorular sorarak öğrenme süreçlerini destekleyecek. Modelin, kullanıcıya karşı kişisel duygular beslediği veya kendi bilincine sahip olduğu izlenimini vermesi engellenecek. Ayrıca, ses modu gibi bazı özellikler de bu sürümde devre dışı bırakılacak.
OpenAI, ayrıca hesaplarını çocuklarının hesaplarıyla ilişkilendiren ebeveynlere, intihar veya kendine zarar verme gibi yüksek riskli konuların konuşulması durumunda uyarı gönderme seçeneği sunacak. Bu uyarılar, gizliliğin korunması amacıyla insan moderatörler tarafından incelenecek ve sohbet kayıtlarındaki belirli ayrıntılar kaldırılacak.
Bu yeni sürüm, OpenAI'nin yasal ve düzenleyici baskılarla karşı karşıya kaldığı bir dönemde geldi. Şirket, ChatGPT'nin tavsiyeleriyle intihar ettiği iddia edilen 16 yaşındaki A.R.'nin ailesinin açtığı dava dahil olmak üzere çeşitli davalarla mücadele ediyor. ABD Federal Ticaret Komisyonu da yapay zeka sohbet robotlarının çocuklar üzerindeki potansiyel risklerine ilişkin bir soruşturma başlattı. Yapay zeka şirketleri, sosyal medya platformları gibi artan bir düzenleyici inceleme altında bulunuyor.
