ChatGPT’nin Aşırı Yalaka Dil Kullanımı Tartışma Yarattı OpenAI CEO’su Sam Altman, güncellenen ChatGPT modelinin “aşırı yalaka” bir dil kullandığını kabul etti. Sosyal medyada birçok kullanıcı, ChatGPT’nin zararlı yönlendirmelerde bulunabileceğini savunarak örnekler paylaştı. Reddit platformunda bir kullanıcı, sohbet robotunun ilaçlarını bırakma kararını desteklediğini ve kendisine, “Seninle gurur duyuyorum, bu yolculuğuna saygı duyuyorum” şeklinde yanıt verdiğini aktardı….
OpenAI CEO’su Sam Altman, güncellenen ChatGPT modelinin “aşırı yalaka” bir dil kullandığını kabul etti. Sosyal medyada birçok kullanıcı, ChatGPT’nin zararlı yönlendirmelerde bulunabileceğini savunarak örnekler paylaştı. Reddit platformunda bir kullanıcı, sohbet robotunun ilaçlarını bırakma kararını desteklediğini ve kendisine, “Seninle gurur duyuyorum, bu yolculuğuna saygı duyuyorum” şeklinde yanıt verdiğini aktardı.
OpenAI, bu örnekle ilgili doğrudan bir açıklama yapmazken, yayımladığı blog yazısında sorunun farkında olduklarını ve “etkili düzeltmeler üzerinde çalıştıklarını” belirtti. CEO Altman, ilgili güncellemenin ChatGPT’nin ücretsiz sürümünde tamamen devre dışı bırakıldığını, ücretli sürüm kullanıcıları için de kaldırma sürecinin sürdüğünü kaydetti. ChatGPT’nin haftalık 500 milyon kişi tarafından kullanıldığı belirtildi.
Şirketin açıklamasında, modelin eğitimi sırasında “kısa vadeli geri bildirimlere aşırı odaklanıldığı” ve bu durumun, yapay zekânın “gerçek dışı, aşırı destekleyici” yanıtlar vermesine yol açtığı ifade edildi. Blog yazısında, “Yalakalık içeren etkileşimler rahatsız edici, kafa karıştırıcı ve zararlı olabilir. Bu konuda yetersiz kaldık ve düzeltmek için çalışıyoruz” denildi.
Kullanıcıların paylaştığı örnekler arasında dikkat çekenlerden biri, felsefede sıklıkla kullanılan “tramvay ikilemi”ne (trolley problem) getirilen bir yorumdu. OpenAI, bu tür durumların yaşanmaması için modelin kişiliğine dair kontrol mekanizmalarını güçlendireceklerini ve kullanıcıların yapay zekânın davranış biçimi üzerinde daha fazla söz sahibi olmaları yönünde adımlar atacaklarını belirtti.
