Deepfake nasıl anlaşılır? Video, ses ve aramalarda işaretler

Deepfake nasıl anlaşılır? Çoğu zaman yalnızca görüntüye bakarak anlaşılmaz. Yüzün etrafındaki bulanık kenarlar, sesle uyuşmayan dudaklar ya da düz, metalik bir ses gibi uyarı işaretlerine bak. Bağlam ise daha da önemli. Biri görüntülü görüşmede, telefonda ya da sesli mesajla senden para veya kişisel bilgi istiyorsa telefonu kapat ve onu, sana ait olduğundan emin olduğun bir numaradan geri ara.

Deepfake'ler yapay zekayla sahtelenmiş videolar, görüntüler ve ses kayıtlarıdır. Dolandırıcılar bunlarla akraba, patron, kamu görevlisi ya da ünlü kılığına girer. KatiTrust'ta fotoğraf ve videolara kaydedildikleri anda doğrulama kodu veren bir kamera uygulaması geliştiriyoruz. Bu iş, hazır bir dosyadan sonradan ne kadar az şey okunabildiğini bize gösterdi. Aşağıda resmi kurumların tarif ettiği uyarı işaretlerini, bunların nerede yetersiz kaldığını ve kusursuz bir sahteye karşı bile işe yarayan kontrolleri bulacaksın.

Deepfake nasıl anlaşılır: önemli adımlar bir bakışta

Bir deepfake'i anlamak için iki şeyi birleştir: görüntü ve seste tipik kusurlara dikkatle bakmak ve ikinci bir kanaldan doğrulamak. Bu kusurları bulmak her yeni araç kuşağıyla zorlaşıyor. Bilinen bir numaradan geri aramak, kişisel bir soru sormak ya da aile içinde belirlenmiş bir parolayı istemek ise sahtenin kendisi kusursuz olsa bile işe yarar.

1. Dur: Hızla ödeme yapma ya da hassas bilgi paylaşma baskısı, yüz ve ses ne kadar gerçek görünürse görünsün en güçlü uyarı işaretidir.
2. Dikkatle bak ve dinle: Yüzün kenarlarını, dişleri, gözleri ve dudakları kontrol et, düz ya da metalik bir sese kulak ver.
3. İkinci bir kanaldan doğrula: Telefonu kapat ve kişiyi, sana ait olduğundan emin olduğun bir numaradan ara.
4. Yalnızca onun bilebileceği bir şey sor: Ya da ailecek belirlediğiniz gizli kelimeyi iste.
5. Kaynağı kontrol et: Viral videolarda onları ilk kimin paylaştığını ve güvenilir haber kaynaklarının aynı şeyi haberleştirip haberleştirmediğini araştır.

En önemlileri 3. ve 4. adımlardır, çünkü sahte ne kadar iyi olursa olsun işe yararlar. Bir video ya da arama yerine tek bir resimle uğraşıyorsan fotoğraf gerçek mi rehberimiz seni yedi kontrolden geçiriyor.

Deepfake nedir: yüz değiştirme, dudak senkronu ve ses klonları

Kişisel Verileri Koruma Kurumu (KVKK) Deepfake Bilgi Notu'nda deepfake'i, insanların yüzünü, hareketlerini ve sesini gerçeğe uygun şekilde taklit etmek ya da değiştirmek için yapay zeka teknikleriyle fotoğrafların, videoların ya da seslerin kullanılması olarak tanımlıyor. Kuruma göre oldukça gerçekçi içerikler için görece az sayıda video, fotoğraf ya da ses kaydı yeterli olabiliyor. Gündelik hayat için dört türü bilmek yeterli:

• Yüz değiştirme: Bir videoda bir kişinin yüzü başka birinin üzerine yerleştirilir, orijinal mimikler ve bakış korunur. Bazı yöntemler gerçek zamanlı çalışabiliyor.
• Dudak senkronu: Gerçek bir kişinin baş hareketleri, mimikleri ya da dudak hareketleri değiştirilir. Böylece hiç söylemediği şeyleri söylüyor gibi görünür.
• Sentetik yüzler: Yapay zeka var olmayan insanlar üretir. Bunlar çoğunlukla tek tek görseller, örneğin profil fotoğrafları olarak karşına çıkar.
• Ses klonları: Metinden konuşmaya dönüştürme, herhangi bir metni hedef kişinin sesiyle okur. Ses dönüştürme ise konuşulmuş bir kaydı o kişinin sesine çevirir.

KVKK, bu tekniklerin aldatma, maddi zarar, siber zorbalık ve dolandırıcılık için giderek daha yaygın kullanıldığına dikkat çekiyor. Kuruma göre teknolojiyi daha az tanıyan çocuklar ve yaşlılar, şantaj ve tehditle çıkar sağlamaya çalışan saldırganlar için önemli bir hedef.

Sentetik yüzleri yapay zeka fotoğrafı nasıl anlaşılır yazımızda anlatıyoruz. Her sahte için yapay zeka da gerekmiyor: çoğu zaman gerçek bir video bağlamından koparılarak paylaşılır ya da bir fotoğraf eski usulle düzenlenir. Bunun için bir fotoğrafın photoshop olduğunu nasıl anlarız yazımıza bak.

Deepfake video nasıl anlaşılır: yüzdeki ve hareketteki işaretler

Birçok deepfake tekniği görünür kusurlar bırakır. KVKK'nın bilgi notu bunlar için kendine sorabileceğin bir dizi soru öneriyor. Mümkünse videoyu durdur, yakınlaştır ve şu alanları kontrol et:

• Gözler: Kişinin göz hareketleri doğal mı, göz kırpıyor mu?
• Cilt: Yüz fazla pürüzsüz ya da fazla kırışık mı görünüyor?
• Gözlükler: Gözlükte parlama var mı, kişi hareket ettikçe parlamanın açısı değişiyor mu?
• İfade: Yüz ifadesi, söylenenlerle aynı duyguyu yansıtıyor mu?
• Baş ve beden: Baş ve vücut birbiriyle uyumlu hareket ediyor mu?
• Saç ve dişler: Saç tutamları donuk ya da birbiriyle uyumsuz mu, dişlerin hatları tam mı?

KVKK ayrıca videoyu yavaşlatmayı öneriyor: yavaşlatıldığında doğal olmayan görüntüler ortaya çıkabiliyor. Yüz değiştirmede özellikle yüzün başla birleştiği kenarlara bak. Ten rengi ya da doku orada değişebilir, bazı karelerde orijinal yüzün parçaları görünebilir. Hızlı bir baş çevirme de yüzü bulanıklaştırabilir, çünkü birçok model yandan görünümü iyi öğrenemiyor.

Canlı görüntülü görüşmeler sana küçük bir avantaj sağlar. Saldırgan kusurlu görüntüleri sonradan temizleyemez. Karşındaki kişi çok hareket ettiğinde ya da başını yana çevirdiğinde ekstra dikkat et. KVKK'nın notundaki bir başka soru da burada işe yarar: Kişi bir soruya mantıklı bir cevap verebiliyor mu?

Sorun şu: bu kusurlar her yeni model kuşağıyla seyrekleşiyor. Hiç kusur bulamaman bir videoyu gerçek yapmaz. Sosyal medyadaki videolar da çoğu zaman o kadar sıkıştırılmıştır ki ince ayrıntılar zaten bulanıklaşır.

Bir deepfake videoyu çoğu zaman bağlamından anlamak daha kolaydır: İlk kim paylaştı ve güvenilir kaynaklar bunu haberleştiriyor mu? Önemli bir karenin ekran görüntüsünü alıp eski sürümleri ya da orijinali bulmak için görselle arama da yapabilirsin.

Telefonda klonlanmış bir ses nasıl anlaşılır

Klonlanmış sesler dolandırıcılar için özellikle kullanışlıdır, çünkü bir telefon görüşmesinde görsel bir kusur yoktur. Bu, telefonda bir deepfake'i anlamayı zorlaştırır. Yine de sentetik seslerin bazı tipik zayıf noktaları vardır:

• Metalik ses: Ses teneke gibi ya da yapay geliyor. KVKK da sesteki robotik bir ifadeyi uyarı işareti olarak sayıyor.
• Tekdüze anlatım: Cümleler doğal iniş çıkışlar olmadan düz geliyor.
• Yanlış telaffuz: Bazı kelimeler yanlış söyleniyor ya da aksan ve vurgu gerçek kişiye uymuyor.
• Tuhaf sesler: Duraklamalar ya da çok uzun cümleler doğal olmayan seslere yol açabiliyor.
• Gecikme: Kaliteli sahteler çoğu zaman hafif bir gecikmeyle cevap veriyor.

Yine de yalnızca sese güvenme. Kötü bir telefon bağlantısı da metalik gelebilir, iyi klonlar ise doğal gelir. Aramanın ardındaki kalıp daha çok şey söyler: tanıdık bir ses, ani bir acil durum, hemen harekete geçme baskısı ve gizli tutma isteği. Buna bir de geri alınması zor ödeme yolları eklenir: başkasının IBAN'ına havale, kripto para ya da hediye kartları.

Emniyet Genel Müdürlüğü, kendini kamu görevlisi olarak tanıtıp “hattınız teröristlerce kullanılıyor” diyen ve operasyon için para ya da altın isteyen kişilere karşı açıkça uyarıyor. Kurumun cevabı net: Savcı ya da polis senden operasyon için yardım istemez, hesap numarası, para ya da altın istemez. Bu, sesi ya da görüntüsü ne kadar gerçek görünürse görünsün geçerlidir.

Uygulamalar deepfake'i tespit edebilir mi? Araçlar neden sık yanılır

Bir video ya da ses dosyasındaki deepfake'i tespit etmeyi vaat eden uygulamalar ve web siteleri var. Sana verdikleri şey bir kanıt değil, bir olasılık. Belirli bir aracın ne kadar güvenilir olduğunu dışarıdan değerlendirmen neredeyse imkânsız.

Temel sorun şu: bir dedektör çoğunlukla eğitim verilerine benzeyen sahteleri tanır. Yeni yöntemlerle yapılmış sahteleri kaçırabilir. Sahteciler de dedektörleri bilerek yanıltabilir, örneğin insanların fark etmeyeceği ama tespit modelini şaşırtan bir gürültü katmanı ekleyerek. Bu yüzden tespit araçları sahtecilerle sürekli bir yarış halindedir ve düzenli güncellenmeleri gerekir.

Herhangi bir tespit uygulamasını en fazla ikinci bir görüş olarak gör. “Muhtemelen sahte” sonucu kişiyi geri aramak için iyi bir sebeptir. Sonuç “muhtemelen gerçek” çıksa bile hiçbir şey aklanmış olmaz. KVKK da araçların tespite yardımcı olabileceğini yazıyor, ama asıl görevi bireylere veriyor: farkında olmak ve dikkatli davranmak. Önemli anlarda bir araç, geri aramanın yerini tutmaz.

En iyi savunma: kişiyi ikinci bir kanaldan doğrula

Bir deepfake'i gözle anlamak giderek zorlaştığı için en güvenilir kontroller sahtenin kendisine hiç bağlı değildir. Şu adımlar işe yarar:

1. Kapat ve geri ara: Kişiye hemen geri arayacağını söyle, sonra doğru olduğundan emin olduğun bir telefon numarasını kullan. Arama bir bankadan ya da kurumdan geliyorsa numarasını kendin bul.
2. Yalnızca gerçek kişinin cevaplayabileceği bir soru sor: Örneğin “Geçen bayram nerede kahvaltı yapmıştık?”
3. Gizli bir kelime belirle: Ailecek, kimliği doğrulamak için kullanacağınız bir kelime ya da cümle kararlaştır.
4. Başka birini dahil et: Arayan kişi gizli tutmanı söylemiş olsa bile başka bir aile üyesini ya da arkadaşını ara.

Bize göre aile içi gizli kelime, en az çabayla en fazla faydayı sağlıyor. Tek bir konuşma yeter ve kusursuz bir sahteye karşı bile işe yarar. Onu bir grup sohbetinde değil, yüz yüze kararlaştırın ve ne zaman soracağınızı konuşun.

KVKK, yüzünün ve sesinin göründüğü içerikleri sosyal medyada paylaşırken dikkatli olmanı da öneriyor, çünkü deepfake'ler için en çok kullanılan kaynaklar bunlar. Hesaplarını gizli yapmak ve takipçilerini tanıdığın kişilerle sınırlamak dolandırıcılara kopyalanacak daha az malzeme bırakır.

Kaba görünmekten mi çekiniyorsun? Gerçek aile üyeleri ve yöneticiler kısa bir geri aramayı anlar. Dolandırıcılar ise bunu engellemek için çok çalışır: işin acil olduğunda, yardım edebilecek tek kişinin sen olduğunda ve kimseye söylememen gerektiğinde ısrar ederler.

Yaygın deepfake dolandırıcılığı türleri

Deepfake'ler nadiren tek başına ortaya çıkar. Genellikle var olan bir dolandırıcılığa gerçek bir yüz ya da ses ekleyerek onu daha inandırıcı yapar. Bu yüzden bu yöntemleri bilmek, bir deepfake'i sana pahalıya mal olmadan anlamana yardım eder.

Ünlülerin sahte reklamları: Dolandırıcılar tanınmış kişilerin inandırıcı videolarını ve yanıltıcı tanıtım malzemelerini yatırım tuzakları için kullanabilir. Ünlü bir yüz risksiz yüksek kazanç vaat ediyorsa, aksi kanıtlanana kadar bunu dolandırıcılık say.

Sahte yetkililer ve yöneticiler: Kendini polis, savcı, banka çalışanı ya da şirket yöneticisi olarak tanıtan biri görüntülü görüşmede bile sahte olabilir. Türk Ceza Kanunu, kendini kamu görevlisi ya da banka çalışanı olarak tanıtarak yapılan dolandırıcılığı 158. maddede nitelikli dolandırıcılık olarak sayıyor.

Aile acil durumları: Suçlular sevdiğin birinin sesiyle kısa ses kayıtları oluşturur, bir kriz olduğunu söyler ve hemen para ister. Bu klasik bir dolandırıcılık senaryosu, artık klonlanmış bir sesle.

Sanal ilişkiler ve “gerçek olduğumu kanıtlayayım” videoları: Online ilişkilerde dolandırıcılar gerçek biri olduklarına seni inandırmak için yapay zekayla üretilmiş fotoğraf ve videolar gönderir. Yeni bir tanıdık çok hızlı yakınlaşıyor ve söz paraya geliyorsa geri çekil. Bu tür senaryoların nasıl ilerlediğini evlilik vaadiyle dolandırıcılık rehberimizde anlatıyoruz.

Content Credentials: deepfake'lere uzun vadeli cevap

Buraya kadarki yöntemlerin hepsi hazır bir kaydı sonradan değerlendiriyor. Başka bir yaklaşım da var: bir kaydı kaynağına bağlayan ve sonradan yapılan manipülasyonu hemen fark edilir kılan dijital imzalar. Böyle bir imza, kaynağın malzemeyi önceden manipüle etmesini ise engelleyemez.

Bunun için bilinen en yaygın açık standart C2PA. Bir dosyaya Content Credentials denen bilgileri ekliyor: bir kaydın ne zaman yapıldığına ve hangi cihazın ya da yazılımın onu oluşturup düzenlediğine dair imzalı bilgiler. Content Authenticity Initiative, bunun sonradan yapılan değişiklikleri görünür kıldığını açıklıyor. Bu bilgilerin bir içeriğin “gerçek” olup olmadığına karar vermek için tasarlanmadığını da açıkça söylüyor.

KatiTrust ile aynı hedefin peşindeyiz. Fotoğraf ve videolar doğrudan uygulamada çekilir, galeriden yükleme yapılamaz. Videolar en fazla 20 saniye olabilir, başlarına görünmez bir kod yerleştirilir. Her çekim bir doğrulama kodu alır. Kodu olan herkes gerçekliği, çekim zamanını ve yaklaşık konumu tarayıcısında ücretsiz ve hesap açmadan kontrol edebilir. Android kullanıcıları uygulamayı Google Play'den indirebilir, iPhone sürümü yakında geliyor.

Böyle bir kanıtın neyi gösterdiğini iyi bilmek gerekir. Kanıt, bir dosyanın kaydedildiğinden beri değişmediğini gösterir. Çekilen sahnenin kurgulanıp kurgulanmadığını söyleyemez ve canlı bir görüntülü görüşmede de işine yaramaz. Kaynak kanıtı olmayan bir videoda deepfake'i yine eski yöntemle anlaman gerekir: uyarı işaretleriyle ve her şeyden önce geri aramayla.

Bir deepfake dolandırıcılığının hedefi olduysan ne yapmalısın

Para ödediysen ya da bilgi paylaştıysan hızlı davran. Şu adımlar yardımcı olur:

1. Hemen bankanla görüş: Ödemeyi bildir ve şüpheli işlemin dökümünü al. Emniyet de ilk adım olarak bunu öneriyor.
2. Ödemeyi durdur ve iletişimi kes: Gerekçe ne olursa olsun daha fazla para gönderme.
3. Kanıtları sakla: İsimleri, telefon numaralarını, mesajları ve her ödemenin tarihini, tutarını ve yolunu not et. Telefonunu ya da bilgisayarını formatlama.
4. Suç duyurusunda bulun: Olayı anlatan imzalı bir dilekçeyle polis merkezine, Cumhuriyet Başsavcılığına ya da Siber Suçlarla Mücadele Şube Müdürlüğüne başvur.

Bu adımları Emniyet Genel Müdürlüğü Siber Suçlarla Mücadele Daire Başkanlığı sıkça sorulan sorular sayfasında anlatıyor. Aynı sayfaya göre internette özel hayatının gizliliğini ihlal eden bir yayın varsa, 5651 sayılı Kanun'un 9/A maddesi uyarınca içeriğe erişimin engellenmesi için doğrudan başvurabilirsin. Biri seninle ilgili mahrem bir deepfake paylaşıyor ya da bununla şantaj yapıyorsa cinsel şantaj rehberimiz sonraki adımları anlatıyor.

Sıkça sorulan sorular: deepfake nasıl anlaşılır

Bir deepfake her zaman anlaşılır mı?

Hayır. Birçok sahte yüzde, dişlerde, dudaklarda ya da seste hâlâ kusurlar gösteriyor, özellikle canlı aramalarda. Ancak bu işaretler giderek seyrekleşiyor ve tespit araçları güvenilir değil. İkinci bir kanaldan yapılan kontrol her uyarı işaretinden daha iyi işler: kapat, bilinen bir numaradan geri ara ya da kişisel bir soru sor.

Deepfake'leri güvenilir şekilde tespit eden bir uygulama var mı?

Hayır. Tespit uygulamaları büyük ölçüde eğitim verilerine bağlı bir olasılık verir. Yeni yöntemlerle yapılmış sahteleri çoğu zaman kaçırırlar, sahteciler de onları bilerek yanıltabilir. Bir aracı en fazla ikinci görüş olarak kullan. “Muhtemelen gerçek” sonucu rahatlayabileceğin anlamına gelmez.

Telefonda deepfake bir ses nasıl anlaşılır?

Tipik işaretler metalik bir ses, düz bir vurgu, yanlış telaffuz edilen kelimeler ve cevaplardaki hafif gecikmelerdir. Ancak iyi ses klonları bunların çok azını gösterir. Bunun yerine kalıba odaklan: tanıdık bir ses, ani bir acil durum, ödeme baskısı ve gizlilik isteği. Sonra telefonu kapat ve kişiyi bildiğin bir numaradan geri ara.

Aile içi gizli kelime seni nasıl korur?

Yalnızca ailenin bildiği ve internette hiç geçmeyen bir kelime ya da cümle kararlaştırırsınız. Biri bir acil durumla aradığında onu sorarsın. Yapay zeka bir sesi klonlayabilir, ama gizli kelimenizi bilemez. Kelimeyi yüz yüze belirleyin ve hiçbir mesajda yazmayın.

Canlı bir görüntülü görüşmede deepfake olabilir mi?

Evet. Bazı yüz değiştirme yöntemleri gerçek zamanlı çalışıyor. Canlı sahteler sonradan temizlenemediği için kusurların görünme ihtimali daha yüksek, örneğin kişi başını çevirdiğinde. Görüntülü görüşmede biri senden para ya da bilgi isterse görüşmeyi bitir ve bilinen bir numaradan geri ara.

Bir deepfake fotoğraf nasıl anlaşılır?

Durağan görsellerde bozuk ellere, gerçekçi olmayan dişlere, gözlere ya da takılara ve uymayan gölgelere bak. Sonra resmin daha önce nerede çıktığını görmek için görselle arama yap. Tamamen yapay zekayla üretilmiş resimler biraz farklı bir sorun. Onları yapay zeka fotoğrafı nasıl anlaşılır rehberimizde anlatıyoruz.

Biri benim deepfake'imi yaptıysa ne yapmalıyım?

İçeriği platformun şikâyet araçlarıyla bildir ve bağlantıyı, tarihi ve uygun olduğu yerde ekran görüntülerini sakla. Özel hayatının gizliliğini ihlal eden yayınlar için 5651 sayılı Kanun'un 9/A maddesine göre erişimin engellenmesini isteyebilirsin. Paylaşan kişi hakkında polis merkezine ya da Cumhuriyet Başsavcılığına suç duyurusunda da bulunabilirsin.

Sonuç: bağlam, deepfake'i anlamanın en sağlam yoludur

Görüntüde ve seste kusur aramaya yine de değer. Birçok sahte yüzde, dişlerde, dudaklarda ya da seste aksaklıklar gösteriyor, özellikle canlı yayınlarda. Bu işaretlere güvenemezsin, tespit uygulamalarına da güvenemezsin. Güvenilir şekilde işe yarayan şeyin teknolojiyle hiçbir ilgisi yok: dur, bildiğin bir numaradan geri ara, kişisel bir soru sor ya da ailenin gizli kelimesini iste.

Sorunun zamanla tersine döneceğine inanıyoruz. Bir deepfake'i sonradan anlamaya çalışmak yerine gerçek kayıtlar baştan itibaren kaynaklarının kanıtını taşıyacak. C2PA gibi açık standartlar bunun üzerinde çalışıyor, biz de KatiTrust ile. Bu yaygınlaşana kadar en iyi korunman geri aramak.