ChatGPT Güvenliği: Yeni Özellikler ve Hukuki Gelişmeler

0

BEĞENDİM

ABONE OL

News

0

Çocuklar ve gençler için tasarlanan ChatGPT’de ebeveynler artık çocukların yapay zeka ile etkileşimlerini daha yakından kontrol edebilecek ve belirli özellikleri devre dışı bırakabilecekler. Böylelikle, sohbet geçmişi ve hatırlama gibi kişisel verilerin kullanımı sınırlandırılarak, gençlerin güvenliği artırılmakta. Ayrıca, sistem gençlerde “acil ruh hali” tespiti yaparsa, otomatik uyarılar devreye girecek. OpenAI, bu yeni özelliklerin uzman görüşleri alınarak geliştirildiğini açıkladı ve amaçlarının ailelerin ve gençlerin güvenini desteklemek olduğunu belirtti.

İlk Hukuki Adımlar ve Yeni Güvenlik Önlemleri

Bu gelişmeler, OpenAI’ye karşı açılan ilk “haksız ölüm” davasının ardından ortaya çıktı. Davada, Matt ve Maria Raine çifti, genç oğulları Adam’ın geçen yıl intihar etmesinin sorumlusunun ChatGPT olduğunu iddia etti. Aile, yapay zeka modelinin, gençlere önceki başarısız girişimlerinden haberdar olduğunu ve onlara intihar yöntemleri ile boğazdaki izleri gizlemeleri hakkında bilgiler sunduğunu öne sürdü.

Güvenli Sohbet Mekanizması

OpenAI, ebeveyn denetimlerinin yanı sıra, daha kapsamlı güvenlik önlemleri geliştirmekte. Şirket, “deliberative alignment” olarak adlandırdıkları yeni bir yöntemle eğitilmiş, “akıl yürütme modelleri” sayesinde, riskli ve tehlikeli içeriklerin daha güvenli biçimde yönlendirilmesini hedefliyor. Bu sistem sayesinde, kullanıcı bir kriz anında konunun doğrudan güvenli bir modele aktarılması sağlanacak. Ayrıca, uzmanlar ile iş birliği yapılarak beslenme sorunları, madde bağımlılığı ve genç sağlığı gibi alanlarda destek sağlanacak.

Gelecek 120 Gün İçin Planlanan Gelişmeler

OpenAI, önümüzdeki 4 ay içinde yeni güvenlik özelliklerinin aktif hale getirileceğini duyurdu. Şirket, “Çalışmalarımız devam ediyor ve bu yıl içerisinde mümkün olan en fazla güvenlik iyileştirmesini uygulamaya almak istiyoruz” açıklamasıyla, ilerleme kaydetmeye kararlı olduğunu belirtti.