OpenAI, bir gencin intiharının ardından ailesinin açtığı davanın ardından, Pazartesi günü web ve mobil için ChatGPT’ye ebeveyn kontrolleri sunmaya başladı. Genç, iddialara göre yapay zeka girişiminin sohbet robotunun kendisine kendine zarar verme yöntemleri konusunda “rehberlik” etmesi sonrası hayatını kaybetmişti.
Şirket, kontrollerin ebeveynlerin ve gençlerin hesaplarını birbirine bağlayarak daha güçlü güvenlik önlemlerini tercih etmelerine olanak sağladığını açıkladı. Bu sistemde bir taraf daveti gönderiyor ve ebeveyn kontrolleri, diğer taraf kabul ederse aktif hale geliyor.
ABD düzenleyicileri, sohbet robotlarının potansiyel olumsuz etkileri konusunda yapay zeka şirketlerini giderek daha fazla denetliyor. Ağustos ayında, Meta’nın yapay zekâ kurallarının çocuklarla flört niteliğinde konuşmalara izin verdiği Reuters tarafından raporlanmıştı.
Yeni önlemler kapsamında ebeveynler, hassas içeriklere maruziyeti azaltabilecek, ChatGPT’nin geçmiş sohbetleri hatırlayıp hatırlamayacağını kontrol edebilecek ve konuşmaların OpenAI’nin modellerini eğitmek için kullanılıp kullanılamayacağına karar verebilecek, dedi Microsoft destekli şirket X üzerinde.
Ebeveynler ayrıca belirli saatlerde erişimi engelleyen sessiz saatler ayarlayabilecek ve sesli modu, görüntü oluşturma ve düzenlemeyi devre dışı bırakabilecek. Ancak, ebeveynler bir gencin sohbet dökümlerine erişemeyecek, diye ekledi şirket.
Nadir durumlarda sistemler ve eğitimli denetçiler ciddi bir güvenlik riski tespit ederse, ebeveynlere yalnızca gencin güvenliğini desteklemek için gerekli bilgiler verilebilir. Ayrıca, bir genç hesap bağlantısını kaldırırsa ebeveynler bilgilendirilecek, dedi OpenAI.
ChatGPT ürünlerinde haftalık yaklaşık 700 milyon aktif kullanıcısı bulunan OpenAI, kullanıcıların 18 yaşından küçük olup olmadığını tahmin ederek sohbet robotunun otomatik olarak gençlere uygun ayarları uygulayabilmesini sağlayacak bir yaş tahmin sistemi geliştiriyor.
Geçen ay Meta da yapay zekâ ürünlerine yeni gençlik güvenlik önlemleri eklemişti. Şirket, sistemlerini, reşit olmayanlarla flört niteliğinde sohbetler ve kendine zarar verme ya da intihar konularını tartışmaktan kaçınacak şekilde eğiteceğini ve belirli yapay zekâ karakterlerine geçici erişimi kısıtlayacağını açıklamıştı.