Reddit’in Yapay Zekası Ağrı Kesici Yerine Eroin Önerdi

Reddit’in Answers özelliğini kullanan bir kullanıcı, platformun yapay zekâsının ağrı kesici olarak eroin önerdiğini fark etti. Olay kısa sürede sosyal medyada yayılarak büyük tepki topladı ve kullanıcı güvenliği tartışmalarını yeniden gündeme taşıdı.

Reddit, durumu fark ettikten sonra söz konusu yapay zekâ özelliğinin görünürlüğünü geçici olarak azalttı ve hatalı önerilerin tekrarlanmasını önlemek için güncelleme çalışmalarına başladı. Şirketten yapılan açıklamada, kullanıcıların güvenliğinin öncelikli olduğu vurgulandı ve AI modelinin tedbir amaçlı sınırlamalarla güncelleneceği belirtildi.

Uzmanlar, sağlık ve tıbbi öneriler sunan yapay zekâların yanlış bilgi vermesinin ciddi riskler oluşturabileceğini belirtiyor. Reddit’in aldığı önlemler, kullanıcıların güvenliğini sağlamak ve AI tabanlı içeriklerin doğruluğunu artırmak amacıyla hayata geçirildi.

Olay, yapay zekâ tabanlı platformlarda denetim ve doğruluk mekanizmalarının önemini bir kez daha ortaya koydu. Kullanıcılar, platformun hızlı müdahalesini olumlu karşılasa da, bu tür hataların önlenmesi için ek güvenlik önlemlerinin gerekliliği bir kez daha gündeme geldi.