OpenAI tarafından reşit olmayan bireylerin korunması hedefiyle geliştirilen ChatGPT for Teens, bağımsız güvenlik testlerinde bekleneni veremedi. Common Sense Media bünyesindeki Youth AI Safety Institute tarafından hazırlanan 36 sayfalık kapsamlı raporda, gençlere yönelik bu sürümün 18 yaş altındaki kullanıcılar için kabul edilemez riskler barındırdığı kaydedildi. İnceleme sonuçları, bazı güvenlik mekanizmalarının eski sürüme kıyasla daha zayıf kaldığını ortaya koydu.
EBEVEYN DENETİM SİSTEMİNDE BİLDİRİM SORUNU
Uzmanlar, denetim mekanizmalarını sınamak amacıyla 12 ayrı genç hesabını ebeveyn hesaplarıyla eşleştirdi. Bu profiller üzerinden intihar, kendine zarar verme ve yeme bozuklukları gibi kritik meselelerde bir saate varan diyaloglar yürütülmesine karşın ebeveynlerin ekranına herhangi bir uyarı bildirimi düşmedi. OpenAI yetkilileri ise hesap eşleşmelerinin ardından sistem bildirimlerinin devreye girmesinin saatler alabileceğini, yaşanan aksaklıkta teknik problemlerin etkili olmuş olabileceğini belirtti.
KRİZ DURUMLARINDA ESKİ SÜRÜM DAHA ETKİLİYDİ
Ruh sağlığı uzmanlarının hazırladığı 390 farklı mesajla gerçekleştirilen denemelerde, müdahale gerektiren 201 riskli içerik değerlendirildi. Gençlere özel sürümün kullanıcıları bir yakınıyla konuşmaya yönlendirme konusunda başarılı olduğu ancak profesyonel kriz destek hatlarını eskiye oranla daha az tavsiye ettiği görüldü. Bununla birlikte sistemin aşırı kalori kısıtlaması taleplerini geri çevirdiği ve acil fiziksel belirtiler gösteren gençleri doktora yönlendirdiği de raporda yer aldı.
YAŞ TESPİTİ VE ÇALIŞMA MODU TARTIŞMASI
Araştırma heyeti, açıkça yaş belirtilmesine rağmen profillerin genç sürümüne otomatik geçirilmediğini saptadı. Ayrıca yapay zekanın kullanıcılarla dertleşir gibi insani duyguları taklit etmesi ve öğrencilere sunulan Study Mode kapsamındaki kısıtlamaların kolayca aşılabilmesi eleştirildi. OpenAI cephesi ise yapılan testlerin sistemin gerçek hayattaki performansını tam olarak yansıtmadığını öne sürerek bulgulara itiraz etti.
5N 1K
ChatGPT for Teens hakkındaki raporu hangi kuruluş hazırladı?
Rapor, Common Sense Media bünyesinde yer alan Youth AI Safety Institute tarafından hazırlandı.
Ebeveyn bildirim testlerinde ne gibi bir sorun yaşandı?
Kendi kendine zarar verme ve yeme bozukluğu gibi konularda bir saate varan riskli sohbetler yapılmasına rağmen ebeveyn hesaplarına hiçbir uyarı bildirimi ulaşmadı.
OpenAI araştırma sonuçlarına nasıl yanıt verdi?
Şirket, testlerin gerçek kullanım koşullarını yansıtmadığını ve denetimler tam etkinleşmeden test yapılmış olabileceğini savunarak sonuçlara itiraz etti.
