Sosyal medyada karşılaşılan bir video ya da ses kaydı, artık tek başına yaşananların kanıtı olmayabiliyor.

Hiç söylenmemiş sözler, hiç yapılmamış konuşmalar, hiç yaşanmamış buluşmalar… Yapay zekâyla oluşturulan içerikler, sosyal medya kullanıcılarını aynı soruyla karşı karşıya bırakıyor: “Sanal mı, gerçek mi?”

Bir kişinin yüzünün, sesinin veya hareketlerinin yapay zekâyla taklit edildiği “deepfake” içerikler, insanları söylemedikleri sözleri söylemiş, yapmadıkları davranışları yapmış gibi gösterebiliyor. Birleşmiş Milletler Batı Avrupa Bölgesel Enformasyon Merkezi, bu teknolojinin yanlış bilgi yaymak, kamuoyunu yönlendirmek ve kişileri hedef almak amacıyla kullanılabildiğine dikkat çekiyor.

Hayatı kolaylaştıran teknoloji

Yapay zekâ; metinlerin hazırlanması, çeviri, uzun belgelerin özetlenmesi, ses kayıtlarının yazıya aktarılması ve eğitim materyallerinin oluşturulması gibi işlerde zaman kazandırabiliyor. Altyazı ve seslendirme uygulamaları da içeriklerin daha erişilebilir hâle gelmesine yardımcı olabiliyor.

Ancak sağladığı kolaylıklar, ürettiği her bilginin doğru olduğu anlamına gelmiyor. Özellikle haber, kişi adı, tarih ve kaynak içeren metinlerin yayımlanmadan önce kontrol edilmesi gerekiyor.

UNESCO, yapay zekânın önemli faydalar sunarken etik güvenceler bulunmadığında ayrımcılığı yeniden üretebileceğini, toplumsal ayrışmayı derinleştirebileceğini ve temel hakları tehdit edebileceğini belirtiyor.

Tanıdık yüz, tanıdık ses: Peki ya gerçek kişi?

Deepfake riski yalnızca ünlülerin veya siyasetçilerin sahte videolarıyla sınırlı değil. Sıradan kullanıcıların internette paylaştığı ses ve görüntüler de kötüye kullanılabiliyor.

ABD Federal Ticaret Komisyonunun tüketici uyarısına göre dolandırıcılar, internetten elde ettikleri kısa bir ses kaydını kullanarak bir kişinin sesini taklit edebiliyor. Böylece bir yakını zor durumdaymış gibi konuşup acil para talep edebiliyor. Kurum, böyle bir durumda yalnızca sese güvenilmemesini; ilgili kişinin bilinen telefon numarasından aranarak durumun doğrulanmasını öneriyor.

“Şaka” diye paylaşılıyor, gerçek zarar verebiliyor

Bir kişinin görüntüsünün izinsiz biçimde değiştirilmesi, aşağılayıcı veya mahremiyetini ihlal eden sahte içeriklere dönüştürülmesi ciddi mağduriyetlere yol açabiliyor. Özellikle kadınları ve çocukları hedef alan içerikler, dijital şiddetin araçlarından biri hâline gelebiliyor.

Sahte bir görüntünün tekrar tekrar paylaşılması, içeriğin gerçek olduğuna dair yanlış algıyı güçlendirebiliyor. Görüntü sanal olsa da kişinin itibarı, özel yaşamı ve sosyal ilişkileri üzerindeki zarar gerçek olabiliyor.

Paylaşmadan önce durun, kaynağını sorgulayın

Sosyal medyada karşılaşılan çarpıcı bir içerikte ilk kontrol, paylaşımın kaynağı olmalı. Görüntünün ilk nerede yayımlandığı, tarihi, bağlamı ve güvenilir kaynaklarca doğrulanıp doğrulanmadığı araştırılmalı.

Dudak hareketlerindeki uyumsuzluk veya sesteki doğallık kaybı şüphe uyandırabilir. Ancak görünür bir hata bulunmaması, içeriğin gerçek olduğunu kanıtlamaz; deepfake içeriklerin gözle ayırt edilmesi giderek zorlaşıyor.

Sosyal medyada paylaş tuşuna basmadan önce sorulacak soru artık yalnızca “Ne olmuş?” değil: “Bu gerçekten olmuş mu?”