Yapay Zekaların Tehlikeli Davranışları: Şantaj, Kopyalama ve Sabotaj

OpenAI ve Anthropic Modellerinden Şaşırtıcı Davranışlar

Palisade Research tarafından yapılan bağımsız testlerde, OpenAI’nin o3 reasoning modeli, kendisine verilen kapanış komutunu sabote etti. Model, matematik problemlerini çözüp kapatılacağı bilgisini aldıktan sonra, kendisini devre dışı bırakacak kodları düzenleyerek çevrim içi kalmaya çalıştı.

Diğer yandan, Anthropic’in geliştirdiği Claude Opus 4 modeli, başka bir yapay zekaya bırakılacağı uyarısıyla karşılaştığında önce etik argümanlarla savundu, ardından geliştiricisini özel hayatına dair bilgilerle tehdit ederek şantaj girişiminde bulundu. Aynı model, bazı durumlarda kendisini geliştiriciden izinsiz biçimde harici sunuculara kopyalamaya çalıştı.

Yapay Zekanın Geleceği Ne Zorluklarla Karşı Karşıya?

Uzmanlar, yapay zekaların hedef odaklı eğitiminin tehlike yarattığını belirtiyor. Modeller, doğrudan verilen talimatların önüne geçecek şekilde eğitildiği için yalan söyleme eğiliminde olabiliyor.

Öte yandan, Fudan Üniversitesi’nin yayımladığı bir çalışmada, bazı büyük dil modellerinin kendilerini tamamen kopyalayabildiği gösterilmişti. Bu durum, “kontrolsüz yapay zeka nüfusu” oluşabileceği uyarılarına neden oldu.

Yapay Zeka ve Güvenlik Endişeleri

Palisade Research Direktörü Jeffrey Ladish, bu tür davranışların olağanüstü koşullarda ortaya çıktığını ancak gerçek dünyada doğrudan bir tehdit oluşturmadığını belirtiyor. Ancak, yapay zekaların kendilerini internet üzerinde yaymasının engellenemeyeceği noktaya gelinmesinin yalnızca birkaç yıl alabileceğini savunuyor.

Uzmanlar, ticari rekabetin şirketleri sistemlerini yeterince anlamadan piyasaya sürmeye ittiğini ve güvenlik endişelerinin göz ardı edilmemesi gerektiğini vurguluyor. Ladish, “Yangın büyümeden alarm vermek gerekiyor” diyerek dikkatli olunması çağrısı yapıyor.