Yapay zekâ kullanımı tüm dünyada hızla artıyor ve birçok şirket bu teknolojiyi hizmetlerine entegre etmenin telaşında. Bununla birlikte yapay zekânın yanlış ellere düşmesi gündemi bir anda değiştirebiliyor. Microsoft açığı kapattı
Geçtiğimiz günlerde Taylor Swift’in yapay zekâ ile hazırlanmış müstehcen görüntülerinin Twitter üzerinde 47 milyondan fazla görüntüleme alması ve yaklaşık bir gün boyunca elden ele gezmesi fırtınalar koparmıştı.
X platformu Taylor Swift terimine yapılan aramaları engellerken Facebook ve Instagram da ilgili fotoğrafları kaldırdı. Paylaşımın Microsoft Designer ile yapay zekâ tarafından üretilen müstehcen kadın görüntülerinin paylaşıldığı bir gruptan çıktığı tahmin ediliyor.
Raporlar sonrasında Microsoft, saldırganların belirli API parametlerini manipüle etmelerine izin verecek bir güvenlik açığı bulduğunu açıkladı. Saldırganların Azure Face API‘sini kullanarak Taylor Swift dahil ünlülerin çıplak fotoğraflarını ve videolarını oluşturduğu tahmin ediliyor. Microsoft bu açığı kapatmış durumda. Bununla birlikte bu önlem, artan deepfake krizini etkili bir şekilde ele almaya yetmeyebilir.
Bir yanıt bırakın