AI Tabanlı Misinformasyon Tespiti Nedir?
NewsGuard, AI (Yapay Zeka) tarafından üretilen yanlış bilgileri tespit etmek için Pangram ile iş birliği yaparak yeni bir araç geliştirdi. Bu sistem, özellikle içerik çiftliklerini hedef alıyor ve %3000 oranında daha fazla site tespit edebilme kapasitesine sahip. Yapay zeka destekli bu sistem, yalnızca bireysel sayfaları değil, aynı zamanda tüm alan adlarını tarayabiliyor.
Pangram'ın Teknolojisi ve Çalışma Prensibi
Pangram'ın özel AI modelleri, büyük dil modelleri (LLM) tarafından oluşturulan içerikleri belirlemek üzere eğitilmiştir. Bu teknoloji, haber sitelerinin içeriklerinin ne kadarının AI tarafından üretildiğini değerlendiriyor. Eğer bir site, AI içerik çiftliği olarak sınıflandırılırsa, bu durum NewsGuard'a bildirilir ve insanlar tarafından incelenir.
Kritik Ölçütler: NewsGuard, bir siteyi AI içerik çiftliği olarak sınıflandırmak için üç ana ölçüt kullanıyor:
AI İçerik Oranı: Pangram’ın belirlediği oranda içeriğin AI tarafından üretilip üretilmediği.
Açıklama Eksikliği: İçeriğin AI tarafından üretildiğine dair açık bir bilgi yoksa.
Kullanıcı Yanılgısı: Kullanıcıları yanıltabilecek şekilde tasarlanmış bir görünüm.
Bu kriterler doğrultusunda, yanlış bilgi veya propaganda üreten içerikler tespit ediliyor.
Pangram ve NewsGuard İş Birliğinin Etkisi
Bu yeni sistem, son altı ay içinde 3,000'den fazla AI içerik çiftliği sitesini tespit etti. 2022'de manuel yöntemlerle tespit edilenlerden daha fazla sayıda. Örneğin, "Citizen Watch Report" isimli bir site, yanlış bir haberi yayımlayarak iki ABD'li senatörün Ukrayna'da 814,000 dolar harcadığını iddia etti. Bu tür yanlış bilgiler, sosyal medyada hızla yayıldı ve Rus devlet medyasınca da desteklendi.
Bir diğer örnek ise, "News 24" adlı bir sitenin Coca-Cola'nın Super Bowl LIX sponsorluğunu terk edeceğine dair asılsız bir iddiada bulunmasıydı. Bu içerikler, düşük kaliteli içerik üreten ve yalnızca reklam geliri elde etmeyi hedefleyen yapılar olarak karşımıza çıkıyor.
AI İçerik Çiftlikleri ve Reklamcılar İçin Riskler
NewsGuard, AI içerik çiftliklerini izlemeye birkaç yıl önce başladı. Bugün, Pangram her ay 300 ile 500 yeni AI içerik çiftliği sitesi tespit ediyor. Bu durum, düşük maliyetle düşük kaliteli içerik üretilmesine ve reklam gelirinin artırılmasına yol açıyor. NewsGuard, reklamcılar ve tüketiciler için bu sitelerden kaçınmalarını sağlamak üzere yeni tespit aracını geliştiriyor.
Rekabet Analizi: NewsGuard, reklamcıların bu tür içerik çiftliklerini engellemelerine yardımcı olmak için verilerini lisanslamayı planlıyor.
Kullanıcı Deneyimi: Tüketicilerin, tarayıcı uzantısı ile AI tarafından üretilen içerikleri fark etmelerini sağlayacak bir entegrasyon üzerinde çalışıyor.
Pangram'ın Geleceği ve Beklentiler
Pangram, 2023'te kuruldu ve kurucuları arasında eski Google mühendisleri ve Tesla bilim insanları bulunuyor. Yapay zeka teknolojisinin etkinliği, Eylül ayında Nature dergisinde yayımlanan bir raporda da onaylandı. Pangram, akademik alanda da kullanılmaya başlandı ve talebin artması bekleniyor. Pangram CEO'su Max Spero, online içerik alanında spam ve düşük kaliteli bilgilerin artacağına ve bu durumun kullanıcı deneyimini olumsuz etkileyeceğine dikkat çekiyor.
Bu sistem, hem reklamcılar hem de tüketiciler için önemli bir koruma aracı olacak. Yanlış bilgi ve yanıltıcı içeriklerin artışına karşı bir önlem olarak değerlendiriliyor.
