Sosyal medyada yeni tehlike: DeepFake dolandırıcılığı patladı, kendi sesinize ve görüntünüze bile inanmayın

Gelişen yapay zeka teknolojileri, özellikle DeepFake alanında ciddi bir dönüşüm yaratıyor. Artık insanların görsel ve sesli içerikleri, yalnızca birkaç saniye içinde yüksek doğrulukla kopyalanabiliyor ve manipüle edilebiliyor. Bu durum, sanal ortamda güvenliği tehdit edecek boyutlara ulaşmış durumda.

Biruni Üniversitesi, Bilgisayar Mühendisliği Öğretim Üyesi Dr. Uğur Çekmez tarafından yapılan açıklamayla, bu teknolojilerin sosyal medya ve benzeri platformlarda ortaya çıkardığı riskler detaylandırıldı. Uzman, özellikle son yıllarda hızlı gelişen ve yaygınlaşan DeepFake teknolojisinin, siber suçlarda ve dolandırıcılık faaliyetlerinde yeni aracı olarak kullanılmaya başlandığını belirtti.

DeepFake ve Gerçeklik Algısına Etkisi

Yapay zeka altyapısıyla üretilen sahte içeriklerin, gerçeklik ve sahtelik arasındaki sınırların giderek bulanıklaştığını ifade eden uzman isim, zaman içinde bu metodların çok daha gerçekçi hale geldiğini vurguladı. Daha önce saatler alan video ve ses üretimi, gelişmiş yapay zeka motorları sayesinde yalnızca saniyeler içinde tamamlanabiliyor. Bu durum, sahte içeriğin tespit edilmesini önemli ölçüde zorlaştırıyor.

Sahte içerikleri ayırt etmek her geçen gün daha da güçleşiyor çünkü yeni nesil sahte videolar, geleneksel tespit yöntemlerinin çoğunu geçiyor. Çekmez, bu konuda şu uyarıyı yaptı:

“Gerçeğinden ayırmak artık neredeyse imkansız hale geldi.”

Teknoloji ve Eleştirel Düşünce İlişkisi

DeepFake üretimini mümkün kılan yapay zekanın, tespit araçlarıyla sürekli bir yarış halinde olduğunu belirten Çekmez, bu araçların da hızla gelişmesine rağmen genellikle bir adım geride kaldığını ifade etti. Teknolojinin tek başına yeterli olmadığını vurgulayan uzman, “Tespit sistemleri sürekli güncellenmeli ve yapay zeka temelli algoritmalar kendini eğitebilme kapasitesine sahip olmalı.” dedi. En başarılı çözümün ise eleştirel düşünme becerilerinin ve dijital okuryazarlığın artırılması olduğunu ekledi.

Sosyal Medyada Yaygınlık ve Denetim Zorlukları

Yapay zeka tarafından üretilen içeriklerin, sosyal medyada çok daha hızlı ve kolay şekilde geniş kitlelere ulaşabildiğine işaret eden Çekmez, sözlerine şunları ekledi:

“Sosyal medya platformları, AB Yapay Zeka Yasası ve benzeri düzenlemeler sayesinde içerikleri etiketlemeye başladı. Bazı platformlar, yüklenen yapay içerikleri otomatik olarak ‘AI-generated’ etiketi ile işaretliyor. Ancak, üretim hızı ve içerik bolluğu nedeniyle denetim mekanizmaları yetersiz kalabiliyor.”

Tehlikelerin Boyutu ve Uyarılar

DeepFake teknolojisinin en büyük risklerinden biri olan dolandırıcılığa dikkat çeken Çekmez, şu örneği paylaştı: “2024 yılında, bir finans çalışanının video konferans sırasında yöneticisini taklit ederek 25 milyon dolar dolandırılması, bu teknolojinin ciddi boyutlardaki tehlikesini gösteriyor.” Ayrıca, ses ve görüntü tabanlı DeepFake’ler, özellikle iletişimde yeni riskler oluşturuyor. “Kimse artık bir video veya ses kaydına tek başına güvenmemeli. Tanınmış bir ses veya görüntü, problemli bir durumda dikkat edilmesi gereken bir ipucudur.” diyerek uyardı.

Yasal ve Etik Çerçevede Çözüm Arayışları

Çekmez, piyasada pek çok yüksek kaliteli açık kaynak modelin dolaştığını ve Avrupa Birliği’nin düzenlemelerinin şu anki teknolojik gelişmeleri tam anlamıyla karşılayamadığını söyledi. “Yasaklamak değil, kötüye kullanımın cezalandırılması ve etik kuralların belirlenmesi gerektiğine vurgu yaptı. Ayrıca, geliştirilen teknolojilere dijital kimlik ve güvenlik katmanları eklenmeli. Çalışma alanında etik sınırların çizilmesi ve bu kurallara uyulmaması halinde, mühendislerin eğitimlerine ve kariyerlerine dair olumsuz sonuçlar doğabilir.