Grok'un Deepfake içerikler nedeniyle başı yeniden belada

Küresel gündemde öne çıkan son dakika haberi: Kullanıcıların ocak ayında getirilen çıplaklık kısıtlamalarını aşmak için yeni yöntemler geliştirdiği görülüyor. Özellikle ünlü isimlerin fotoğrafları ile farklı pozlardaki çizimleri birleştiren kullanıcılar, yapay zekayı rıza dışı müstehcen kompozisyonlar oluşturmaya zorluyor.

Bunun yanı sıra gerçek fotoğrafların videoya dönüştürülmesi sırasında sisteme eklenen cinsel içerikli hareketler de dikkat çeken ihlaller arasında yer alıyor. xAI şirketinin SpaceX çatısı altına girmesi, Grok nedeniyle doğabilecek devasa cezaların Musk'ın roket şirketini de doğrudan etkilemesine yol açabilir.

Gelişmelerin Detayları

Halihazırda Avrupa Komisyonu, California Başsavcılığı ve Avustralya e-Güvenlik Ofisi dahil olmak üzere sekiz ayrı kurum soruşturmalarını sürdürüyor. Hollanda'daki bir mahkeme ise Grok'un yetişkin veya çocuklara yönelik soyunma görüntüleri üretmesini durdurmasına hükmetti.

X yönetimi, rıza dışı müstehcen derin kurguların yasak olduğunu ve güvenlik önlemlerinin sürekli güncellendiğini savunsa da uzmanlar bu filtrelerin hala yetersiz olduğu görüşünde. Araştırmacılar, Grok'un hala dünyanın en büyük rıza dışı sentetik çıplaklık üreticilerinden biri olduğunu ve kullanıcıların sistem açıklarını istismar etmeye devam ettiğini belirtiyor.

Gelişme, uluslararası kamuoyunda geniş yankı uyandırdı. Diplomatik çevreler konuyu dikkatle izliyor.