'Bilimsel içerik' adı altında hazırlanan yapay zeka videoları, çocukları hedef alıyor

BBC Küresel Dezenformasyon Ekibi, yapay zeka kullanarak sahte bilimsel videolar hazırlayan ve çocuklara "eğitim içeriği" olarak önerilen YouTube kanalları tespit etti.

STEM (Fen, teknoloji, mühendislik ve matematik) içeriğiymiş gibi hazırlanan, dezenformasyon yayan 20'den fazla dilde 50'nin üstünde kanal tespit edildi. Bu kanallarda gerçek olmayan bilimsel anlatım ve yanlış bilginin yanı sıra, komplo teorileri, insan kaynaklı iklim değişikliğinin inkarı ve uzaylıların varlığı gibi içerikler yer alıyor.

Bu analiz, YouTube'un çocuklara, gerçek eğitim içeriğinin yanı sıra sahte bilim videolarını da önerdiğini gösteriyor.

Daha fazla tıklama, daha fazla para

Kyle Hill, çok sayıda genç takipçisi olan bir YouTuber ve eğitimci. Birkaç ay önce bu videoları fark etmeye başladı. Takipçileri, yanlış bilgilerle dolu olan ve kendilerine önerilen içeriklerle ilgili kendisiyle iletişime geçti. Doğru içerik ve fikirleri çaldıkları, manipüle ettikleri ve tanıtım yaptıkları ortaya çıktı.

Videolar, izleyicilerin dikkatini çekmek için sansasyonel yorumlar, akılda kalıcı başlıklar ve dramatik görsellerle dolu iddialara odaklanıyordu. İzleyiciler ne kadar çok izlerse, kanallar ekrandaki reklamlardan o kadar fazla gelir elde ediyordu.

Bunun YouTube'a da faydası var. Videoların reklam gelirinin yaklaşık yüzde 45'ini platform alıyor.

Videolar "eğitici içerik" olarak etiketleniyordu. Bu da videoların çocuklara önerilme olasılığını artırıyor.

"Ben bir bilim insanı olarak bunu kişisel olarak algıladım" diyen Hill, "Bu kanallar, minimum çabayla izlenme sayısını en üst düzeye çıkarmak için en doğru şeyi bulmuş gibi görünüyor".

Nasıl doğrulanıyor?

BBC, YouTube'da Arapça, Rusça, İspanyolca gibi dillerde bu tür içerik üreten düzinelerce kanal buldu. Bu kanalların çoğunun bir milyondan fazla abonesi var. Videolar genellikle milyonlarca kez görüntüleniyor.

Kanal sahipleri, birçoğu günde birden fazla video olmak üzere, içerikleri hızlı bir şekilde yayımlıyor. BBC ekibi, bu kadar hızlı içerik üretmek için yapay zeka programları kullandıklarından şüpheleniyordu. Bu işte kullanılan, Chat GPT ve MidJourney gibi programlar, internette arama yapmak yerine, istendiğinde yeni içerik oluşturabiliyor.

Ekip bu şüphesini doğrulamak için her kanaldan videoları inceledi. Görüntülerin, anlatımın ve senaryonun yapay zeka kullanılarak yapılıp yapılmadığını anlamak için yapay zeka tespit araçlarını kullandı ve uzmanlarla analiz etti.

Analiz sonucunda, çoğu videoda, metin ve görseller oluşturmak, gerçek bilim videolarından içerikleri almak ve değiştirmek için yapay zeka kullanıldığı ortaya çıktı.

Sonuç: Gerçek gibi görünen ancak çoğunlukla doğru olmayan içerik.

Çocuklara nasıl erişiyor?

BBC ekibi, bu sahte bilim videolarının çocuklara önerilip önerilmediğini araştırdı. Bunun için YouTube'da çocuk hesapları oluşturdu. (Ekibin konuştuğu bütün çocuklar YouTube Kids yerine bu şekilde giriş yaptıklarını söyledi.)

Dört gün boyunca bilimsel eğitim videoları izledikten sonra YouTube, yapay zeka ile yapılmış videolar önerdi. Üzerlerine tıklandığında, daha fazla sahte bilim kanalı önerildi.

Ekip, önerilen içeriklerden bazılarını, izledikleri şeye inanıp inanmayacaklarını görmek için İngiltere ve Tayland'dan, 10-12 yaşlarındaki çocuklara gösterdi. Bir video, UFO ve uzaylı komplolarına odaklanıyordu. Diğeri Gize Piramitlerinin elektrik ürettiğini iddia ediyordu.

İzleyen çocuklar gördüklerine inandı. Bir kız izlediği şeyden keyif aldığını söyledi. "Başlangıçta uzaylıların var olduğundan emin değildim ama şimdi var olduklarını düşünüyorum."

Başka bir çocuk elektrik üreten piramitlerden bahsetti: "Bu kadar uzun zaman önce insanların modern teknolojiyi kullanarak elektrik üretebileceklerini bilmiyordum."

Ancak bazıları videolarda yapay zeka kullanıldığını fark edebildi. Bir çocuk, "İnsan sesi bile kullanmamaları komikti, bunun insan olmadığını düşündüm" dedi.

Onlara bu videoların yapay zeka tarafından oluşturulduğunu ve yanlış bilgiler içerdiğini açıkladığında çok şaşırdılar.

Biri, "Kafam gerçekten karıştı. Bunun gerçek olduğunu düşünmüştüm" dedi.

Başka bir çocuk ise, "Sahte olduğunu söylemeseydiniz muhtemelen inanırdım" sözlerini ekledi.

Çocuklar genelde yanlış bilgiye inanıyor

Eğitimciler, çocukların yeni ve ilgi çekici fikirlere olan doğal merakından faydalanmanın, neyin doğru olduğu konusunda kafalarını karıştırabileceğini söylüyor.

Oxford İnternet Enstitüsü Direktörü Prof. Vicki Nash, "Bu videolar komplo niteliğinde olduğu için başarılı" diyor ve ekliyor: "Hepimiz bize resmi olarak söylenenlerin tersi olan şeylerden etkileniyoruz ve çocuklar bu duruma yetişkinlerden daha elverişli."

İngiltere'de ilkokul öğretmeni olan Claire Seeley, "Çocuklar genellikle gördükleri şeyi gerçek olarak kabul ederler. Belki biraz daha büyüdüklerinde bunu sorgulamaya başlarlar."

Prof. Nash, "YouTube ve Google'ın sahte bilim haberleriyle sunulan reklamlardan para kazanması fikri bana etik dışı geliyor" diyor.

BBC ekibi yapay zekayla içerik üreten bazı şirketlerle iletişim kurdu. Biri, "eğlence amaçlı" içerik ürettiklerini söyledi. Çocukları hedef aldıkları iddiasını reddetti ve çoğu içerik için yapay zeka kullanmadıklarını söyledi.

YouTube, 13 yaş altı çocuklar için YouTube Kids platformunun kullanılmasını önerdiklerini söyledi. Platformlarından yanlış bilgi veren içeriklerin kaldırıldığını ve ailelere "güvenilir ve yüksek kaliteli deneyim" sağladıklarını ekledi. Bu videolardan elde edebilecekleri reklam gelirleriyle ilgili sorulara ise yorum yapmadı.

Yapay zeka araçları gelişmeye devam ediyor. Böyle videolar hazırlamak kolaylaşacak. Videoların kalitesi yükseleceği için ayırt etmek zorlaşacak.

Endişeli olduğunu söyleyen Seeley, öğretmen ve ebeveynlerin tehditlere hazırlanması gerektiğini ifade etti:

"Yapay zekayla hazırlanmış içeriklerin çocukların algısı üzerinde nasıl bir etkisi olduğunu henüz net olarak bilmiyoruz".

BBC türkçe