Deepfake dünyanın başını ağrıtıyor

Dünya nüfusunun yaklaşık dörtte biri 2024 yılında sandık başına gidecek. Dezenformasyon ve yapay zeka takviyeli hilelerin seçim sonuçlarını etkilemek için kullanılabileceğine dair telaşlar artıyor. Uzmanlar deepfake örneklerinin yaygınlaşmasının sonuçlarından çekiniyor. Dijital güvenlik şirketi ESET deepfake konusunu masaya yatırdı, bunun  kitlesel bir aldatma silahı olup olmadığını inceledi. 

Yaklaşık iki milyar seçmen bu yıl tercih ettikleri temsilcilerine ve siyasi önderlerine oy vermek üzere seçim merkezlerine gidecek. Ortalarında ABD, İngiltere ve Hindistan’ın da bulunduğu çok sayıda ülkede (Avrupa Parlamentosu için de) değerli seçimler yapılacağından, bu durum önümüzdeki birkaç yıl ve sonrasında jeopolitiğin siyasi görüntüsünü ve istikametini değiştirme potansiyeline sahip. Gerçek insanların geçersiz imajları, ses ve görüntü klipleri yaygınlaştıkça yapay zeka takviyeli bir dezenformasyon ihtimali giderek artan bir telaşa neden oluyor.

Sahte haberler, 2016’da Beyaz Saray yarışı sırasında büyük bir kıssa haline geldiğinden beri seçim ile ilgili manşetlere hakim oldu. Bundan  sekiz yıl sonra, tartışmasız daha büyük bir tehdit var; uzmanları bile kandırabilecek dezenformasyon ve derin sahteciliklerin bir kombinasyonu. Arjantin’deki seçimler öncesinde deverana sokulan bir dizi fotoğraf ve görüntü ile ABD Lideri Joe Biden’ın üzerinde oynanmış bir ses kaydı da dahil olmak üzere, yapay zeka tarafından üretilen seçim temalı içeriğin son örneklerinin, daha büyük ölçekte olabileceklerin habercisi olma ihtimali yüksek. 

Dünya Ekonomik Forumu riske dikkat çekti

Yanlış bilgilendirme ve dezenformasyon Dünya Ekonomik Forumu (WEF) tarafından önümüzdeki periyodun en değerli global riski olarak belirlendi. Deepfake’lerle ilgili sorun, yapay zeka dayanaklı teknolojinin artık ucuz, erişilebilir ve büyük ölçekte ziyan verebilecek kadar güçlü hale gelmesi olarak tanımlanıyor. Bu da siber hatalıların, berbat niyetli siyasi aktörlerin ve hacktivistlerin ikna edici dezenformasyon kampanyaları ve daha süreksiz, tek seferlik dolandırıcılıklar başlatma marifetlerini artırıyor. 

WEF’in raporuna nazaran sentetik içerik önümüzdeki iki yıl içinde bireyleri manipüle edecek, ekonomilere ziyan verecek ve toplumları çeşitli biçimlerde parçalayacak. ChatGPT ve çarçabuk erişilebilen üretken yapay zeka (GenAI) üzere araçların, daha geniş bir yelpazedeki bireylerin deepfake teknolojisi tarafından yönlendirilen dezenformasyon kampanyalarının oluşturulmasına katılmasını mümkün kılması değerli bir zorluğu oluşturuyor. 

Bir seçim sürecinde deepfake, seçmenlerin belli bir adaya olan inancını sarsmak için kullanılabilir. Şayet bir siyasi parti ya da adayın destekçileri düzmece ses ya da görüntülerle uygun bir halde yönlendirilebilirse, bu rakip kümeler için bir çıkar olacaktır.  Bu zorluğun temelinde kolay bir gerçek yatıyor: Beşerler bilgiyi işlerken niceliğe ve kolay anlaşılırlığa paha verme eğilimindedir. Benzeri bir ileti içeren ne kadar çok içerik görürsek ve bunları anlamak ne kadar kolay olursa, bunlara inanma bahtımız da o kadar yüksek olur. Buna bir de deepfake’lerin gerçek içerikten ayırt edilmesinin giderek zorlaştığı gerçeğini eklediğinizde, elinizde potansiyel bir demokratik felaket reçetesi var demektir.

Teknoloji firmaları bu bahiste ne yapıyor?

Hem YouTube hem de Facebook’un, yakın vakitte yapılan bir seçimi etkilemeyi amaçlayan kimi deepfake’lere cevap vermekte yavaş davrandığı söyleniyor. Bu durum, toplumsal medya şirketlerinin seçim manipülasyonu teşebbüslerini engellemelerini gerektiren yeni bir AB maddesine (Dijital Hizmetler Yasası) karşın gerçekleşti. 

OpenAI ise DALL-E 3 tarafından üretilen imajlar için Coalition for Content Provenance and Authenticity’nin (C2PA) dijital kimlik bilgilerini uygulayacağını açıkladı. Meta ve Google tarafından da denenen kriptografik filigran teknolojisi, geçersiz imaj üretmeyi zorlaştırmak için tasarlandı. Lakin bunlar hala bebek adımları ve seçim ateşi tüm dünyayı sararken tehdide karşı teknolojik müdahalenin çok az ve çok geç olacağına dair haklı kaygılar var. Bilhassa de WhatsApp kümeleri ya da robocall’lar üzere nispeten kapalı ağlarda yayıldığında, geçersiz ses ya da görüntüleri süratli bir biçimde takip etmek ve çürütmek güç olacaktır. 

Kaynak: (BYZHA) Beyaz Haber Ajansı