OpenAI, ChatGPT’ye “Güvenilir Kişi” adlı yeni bir güvenlik özelliği ekledi. Şirketin duyurusuna göre özellik, 18 yaş üzerindeki kullanıcıların bir arkadaşını, aile üyesini ya da bakım veren bir kişiyi güvenilir kişi olarak tanımlamasına olanak sağlayacak. OpenAI, özelliğin kademeli olarak kullanıma sunulmaya başlandığını bildirdi.
Yeni sistem, kullanıcının kendine zarar verme düşüncesi içeren ciddi bir risk durumunda gerçek hayattaki destek ağıyla bağlantı kurulmasını amaçlıyor. OpenAI, özelliğin profesyonel bakım ya da kriz destek hizmetlerinin yerine geçmediğini, ChatGPT’nin gerekli durumlarda kullanıcıları kriz hatlarına ve acil destek kanallarına yönlendirmeye devam edeceğini belirtti.
Uyarı öncesinde insan denetimi yapılacak
Özellik kapsamında kullanıcı, ChatGPT ayarlarından bir yetişkini “Güvenilir Kişi” olarak ekleyebilecek. Davet edilen kişinin bu rolü kabul etmesi gerekecek. OpenAI’ın açıklamasına göre davetin bir hafta içinde kabul edilmemesi ya da reddedilmesi halinde kullanıcı başka bir kişiyi seçebilecek.
ChatGPT’nin otomatik sistemleri, kullanıcının kendine zarar verme ihtimaline işaret eden ciddi bir güvenlik riski tespit ettiğinde kullanıcıya güvenilir kişiye bildirim gönderilebileceğini haber verecek. Ardından özel eğitim almış küçük bir ekip durumu inceleyecek. İnceleme sonucunda ciddi güvenlik endişesi bulunduğu değerlendirilirse güvenilir kişiye e-posta, kısa mesaj ya da ChatGPT hesabı varsa uygulama içi bildirim gönderilecek.
OpenAI, bildirimin sınırlı bilgi içereceğini, konuşma ayrıntılarının ya da sohbet dökümlerinin güvenilir kişiyle paylaşılmayacağını vurguladı. Bildirimde yalnızca kendine zarar verme konusunun kaygı verici biçimde gündeme geldiğine ilişkin genel bir bilgi yer alacak ve güvenilir kişiye kullanıcıyla iletişime geçmesi önerilecek.
Yetişkin kullanıcılar için genişletiliyor
OpenAI, “Güvenilir Kişi” özelliğinin daha önce genç kullanıcı hesapları için sunulan ebeveyn güvenlik bildirimlerinin yetişkin kullanıcılara genişletilmiş bir versiyonu olduğunu belirtti. Şirket, özelliğin her hesapta hemen görünmeyebileceğini ve erişimin önümüzdeki haftalarda genişletileceğini de duyurdu.
OpenAI, hassas konuşmalarda ChatGPT’nin güvenlik yanıtlarını güçlendirmek için ruh sağlığı alanındaki uzmanlarla çalıştığını, sistemlerin kullanıcıları gerçek dünyadaki destek kaynaklarına yönlendirecek şekilde geliştirildiğini bildirdi.