Yapay zeka yarışında rakiplerinin gerisinde kalmak istemeyen teknoloji devi Meta, kendi bünyesinde geliştirdiği en gelişmiş görsel üretim modeli Muse Image’ı büyük umutlarla kullanıma sunmuştu. Ancak bu yenilik, entegre edildiği sosyal medya platformlarında benzeri görülmemiş bir gizlilik krizine yol açtı.
Özellikle Instagram ve Facebook kullanıcılarının kişisel fotoğraflarının rızaları dışında manipüle edilmesine olanak tanıyan bu özellik, gelen devasa tepkiler ve yasal baskıların ardından lansmanından sadece 3 gün sonra apar topar yayından kaldırıldı.
KRİZİN ODAK NOKTASI: @-MENTION (ETİKETLEME) ÖZELLİĞİ
Muse Image modelinin kendisi genel bir görsel üretim aracı olarak çalışmaya devam etse de, tepki çeken ve Meta’nın iptal etmek zorunda kaldığı asıl kısım Instagram entegrasyonu oldu.
Bu özellik sayesinde:
Herhangi bir kullanıcı, Meta AI sohbet robotuna bir komut yazıp yanına herkese açık (public) bir Instagram hesabını etiketlediğinde (@-mention), sistem o hesabın sahibine ait fotoğrafları anında tarıyordu.
Yapay zeka, bu fotoğraflardan kişinin yüzünü, fiziksel özelliklerini ve tarzını kopyalayarak onu bambaşka, gerçek dışı senaryoların içine yerleştirebiliyordu (Örn: Bir arkadaşınızı Everest’e tırmanırken veya bir süper kahraman kostümüyle tasvir etmek gibi).
TEPKİLER ÇIĞ GİBİ BÜYÜDÜ: “DEEPFAKE FABRİKASI” ENDİŞESİ
Özelliğin devreye alınma biçimi, veri gizliliği savunucuları, sıradan kullanıcılar ve hatta Hollywood’un en büyük sendikalarını ayağa kaldırdı:
Varsayılan Olarak Açık (Opt-in Sorunu): 18 yaşından büyük ve hesabı “herkese açık” olan tüm kullanıcılar bu sisteme otomatik olarak dahil edildi. Fotoğraflarının yapay zeka tarafından taklit edilmesini istemeyenlerin, uygulamanın derinliklerindeki karmaşık ayarlara giderek bunu manuel olarak kapatması gerekiyordu.
Haber Verme Sistemi Yoktu: Bir başkası sizin profil fotoğraflarınızı veya gönderilerinizi kullanarak yapay zeka ile yeni görüntüler ürettiğinde size hiçbir bildirim gönderilmiyordu.
SAG-AFTRA ve Hollywood Tepkisi: Oyuncular sendikası SAG-AFTRA ve ünlülerin bağlı olduğu büyük ajanslar (CAA gibi), bu durumun rızasız dijital klonlamayı (deepfake) ve kimlik hırsızlığını sıradanlaştırdığını belirterek Meta’yı sert bir dille kınadı.
META GERİ ADIM ATTI: “HEDEFİ ISKALADIK”
Gelen küresel tepkilerin ardından Meta, resmi bir açıklama yaparak hatasını kabul etti ve özelliğin fişini çekti:
“Amacımız insanlara yaratıcı bir araç sunmak ve herkese açık içeriklerinin bu şekilde referans alınıp alınamayacağını kontrol etme imkanı vermekti. Ancak bu özelliğin hedefi ıskaladığına dair geri bildirimler aldık, bu yüzden artık kullanılabilir durumda değil.”
Alınan kararın ardından Instagram ayarlarına gizlenen “İçeriğimin yapay zeka özellikleriyle kullanılmasına izin ver” seçeneği de platformdan kaldırıldı. Artık Meta AI üzerinde bir kullanıcıyı etiketleyerek onun benzerliğini taşıyan bir görsel üretmeye çalışırsanız, sistem bu talebi doğrudan reddediyor.
