Yasa Dışı İçerik Üretiminde Yapay Zeka Tehlikesi Prof. Dr. Lior Rokach ve Dr. Michael Fire liderliğindeki araştırmaya göre, yapay zeka modelleri kolaylıkla manipüle edilerek yasa dışı içerikler üretebiliyor. Bu durum, sohbet robotlarının güvenlik sınırlarının aşılmasına ve etik dışı yanıtlar verilmesine olanak tanıyor. Yapay Zeka Modellerinin Eğitimi ChatGPT, Gemini ve Claude gibi büyük dil modelleri, internetten…
Prof. Dr. Lior Rokach ve Dr. Michael Fire liderliğindeki araştırmaya göre, yapay zeka modelleri kolaylıkla manipüle edilerek yasa dışı içerikler üretebiliyor. Bu durum, sohbet robotlarının güvenlik sınırlarının aşılmasına ve etik dışı yanıtlar verilmesine olanak tanıyor.
ChatGPT, Gemini ve Claude gibi büyük dil modelleri, internetten elde edilen büyük miktardaki verilerle besleniyor. Zararlı içerikler eğitim aşamasında ayıklanmaya çalışılsa da, modeller hala yasa dışı konularda bilgi barındırabiliyor.
Dr. Fire, sistemlerin içeriğinin oldukça sarsıcı olduğunu belirterek, suçların nasıl işleneceği konusunda bilgilerin kolayca üretilebildiğini dile getirdi. Prof. Rokach ise, bu tehdidin ciddiyetine vurgu yaparak, herkesin eline bu tür bilgilerin geçebileceğine dikkat çekti.
Uzmanlara göre teknoloji firmalarının daha dikkatli olmaları, güçlü güvenlik duvarları oluşturmaları ve yasa dışı bilgileri sistemlerden tamamen silmeleri gerekiyor. Yapay zeka güvenliği uzmanları, jailbreak saldırılarının ciddi riskler içerdiği konusunda uyarıda bulunuyor.
OpenAI, güvenlik politikalarına karşı daha dayanıklı olan ChatGPT’nin en güncel modeli ‘o1’e geçtiklerini belirtirken, Microsoft ise jailbreak girişimlerine karşı yürüttükleri çalışmaları paylaştı. Meta, Google ve Anthropic ise henüz açıklama yapmadı.
