Dördüncü yazıyla devam ediyoruz.
Tarihçinin karşısında bir elektronik devin ceosu.
Kısa bir yazıyla konuyu kapatabilirdim. Ancak, farklı kulvardaki iki insan farklı yaşam ve inançtaki iki insan.
Hadi birisi konunun muhatabı.
Ya tarihçiye ne oluyor? Diye sormak geliyordur aklınıza.
Biz de röportajın analizini yapacağız elbette.
İki farklı kulvardaki kişinin ne konuştuğunu sunayım ki analizimizde hatalı davranmayayım.
Beddoes: Profesör Harari, buna ne diyorsunuz? AI silahlanma yarışı veya bir biyoteknoloji silahlanma yarışı olabilir mi? Kaybeden insanlık mı olacaktır?
Yuval Noah Harari: Evet, çünkü bir silahlanma yarışına girdikten sonra, birçok teknolojik gelişme ve deney tehlikeli olabilir. Herkes tehlikenin farkında ve tehlikeli işlere kimse yönelmek istemez aslında. Biz iyi adamlarız, ama güvenemeyiz. Amerikalılar bunu yapıyor olmalı. Çinliler de bunu yapıyor olmalı. Aynı silahlanma mantığında olduğu gibi geride kalamayız ve biz yapmalıyız.
Gerçek bir silahlanma yarışı olan otonom silah sistemleri size güzel bir örnek. Bunun çok tehlikeli bir gelişme olduğunu anlamak için dahi olmanız gerekmiyor. Herkes yarışta önde olmayı arzuluyor. Şimdi, önümüzdeki yirmi ya da otuz yıl içinde bilgisayarların ve insanların (yarı insan yarı makine) birleştiğini görmemizin mümkün olmadığını kabul ediyorum.
Önümüzdeki yirmi yılda yapay zekadaki gelişimi görebileceğimiz çok şey olduğunu düşünüyorum. Ama odaklanmak gereken nokta, insanları hacklemek. İnsanlar hakkında yeterli veriye sahip olduğunuz ve insanları yakınlarından daha iyi tanımak için yeterli bilgi işlem gücüne sahip olmanız demek. Şimdi düşüncelerini, salondaki insanlar için de duymak istiyorum. Biz bir noktada mıyız?… Ben bir teknoloji uzmanı değilim, ama gerçekten anlayan insanlar, Huawei ya da Facebook'a ya da hükümete ya da milyonlarca insana sistematik olarak hack edebilecek, yani onlardan daha iyi tanıyan bir noktaya yakın mıyız değil miyiz? Benim hakkımda, tıbbi durumum, zihinsel zayıflığım, yaşam geçmişim hakkında bildiklerimden daha fazlasını biliyorlar. Bu noktaya geldiğinizde, bunun anlamı, benden daha iyi öngörüp karar verebilmeleridir. Mükemmel değiller. Mükemmel bir tahminde bulunmak imkansız.
Beddoes: Bay Ren'e sormak istiyorum, sizce Huawei bu aşamada mıdır? İnsanları kendilerinden daha iyi tanıyor musunuz?
Bay Ren: Bay Harari'nin hayal ettiği bilim ve teknolojinin gerçek olup olmayacağından emin değiliz, ama hayal gücünü beğendim. Bir işletme olarak, müşterilerimiz ve onların veri ve bilgileri hakkında daha gizli bir anlayışta olmalıyız. Örneğin, madenciliğin herhangi bir el işi olmadan yalnızca yapay zekaya güvenmesi mümkün müdür? Bence evet. Birkaç bin kilometre uzaktaki madencilik artık hayal değil. Eğer bir maden donmuş veya yüksek rakımlı bir bölgede bulunuyorsa, yapay zeka kendini orada kanıtlayacaktır. Gelecekte, Brezilya'daki gibi en iyi madenler bu uzak madencilik modelini uygulayabilir. Bununla birlikte, mayınların yer tespiti de yapılabilir. Madenleri daha iyi anlamak için, teknoloji uzmanlarının madencilik uzmanlarıyla çalışması gerekir. Benzeri çalışma, sağlık sektöründe, yetişmiş doktorlar ile elektronik cihazlara entegre edildiğinde mümkündür.
Beddoes: Profesör Harari'nin otonom (kendi kendine çalışabilen) silahların geliştirilmesine ne dersiniz? Bu konudaki görüşünüz nedir? Harari'nin söylediği kadar tehlikeli olduklarını düşünüyor musunuz? Otonom silahlarla karşılıklı imha mantığı gerçekleşebilir mi?
Bay Ren: Askeri işler hakkında fazla bir şey bilmiyorum ya da askeri bir uzman değilim. Ancak herkes silah yapabilirse, silahlar artık silah olmayacak, tıpkı sopa gibi olacak.
***
Röportaj seyirciler karşısında yapılıyor. Hem de siz okuyucularımız gibi sabırlı seyirciler. Moderatör seyircilerden de sorular alıyor.
Seyirciler: Harari'ye sormak istiyorum. Neden Çin ile ABD arasında bir AI silahlanma yarışı olduğunu düşünüyorsunuz? Çin'deki uygulamaların sivil kullanım amaçlı olduğu görülüyor. Silahlanma yarışı mı yoksa ticari rekabet mi var sizce?
Bay Harari: Silah yarışında, mutlaka silah geliştirmek demek istemiyorum. Bugün bir ülkeyi elde etmek için mutlaka silahlara ihtiyacınız olmadığını düşünüyorum.
Güç 19. yüzyılda ve daha öncesinde Avrupa emperyalizmi ile oldu. Ticari emperyalizm ile askeri veya politik emperyalizm arasında sınır yoktur. Şimdi verilerle, bir ülkeyi kontrol etmek için bu yeni veri sömürgeciliği olgusunu görmeliyiz. Bir gücün dünyanın herhangi bir yerindeki tüm kişisel tıbbi ve cinsel tarihini bildiğini hayal edin. Silah yok asker yok tanklar yok. ABD Yüksek Mahkemesi'nin bir sonraki adayının, ya da Brezilya cumhurbaşkanlığına aday olan birinin kişisel bilgilerinin tamamını elinde bulunduran bir güç düşünün. Tüm zaaflarını biliyorlar. Geçmişini, üniversitedeyken, 20 yaşındayken yaptıkları her şeyi biliyorlar. Hala bağımsız bir ülke mi, yoksa bir veri kolonisi midir bu ülke ne dersiniz? İşte böyle bir silahtan bahsediyorum.
Seyirci: Dünya Ekonomik Forumu'nun genç topluluğunun bir katılımcısıyım. Sorum her ikiniz için de olacak. Her şeyden önce, dünya hükümetlerinin ve büyük şirketlerin, tüketicilerin hayatını şekillendirebilecek kadar güçlü mü olduklarını sormak istiyorum. Normal insanlara bırakılan güç nedir?
Beddoes: Cevabı sizden alalım Ren.
Bay Ren: Bence teknik değişimler oldukça, insanlar işleri daha iyi anlayacak ve giderek daha akıllı olacaklar. Örneğin, bugünün ilkokul öğrencilerinin ders kitaplarını anlamayabiliriz. Neden bunları öğreniyorlar? Üniversitelerde aldığımız dersler şimdi ortaokulda alınmakta. Bu aslında, bilgi çağında ilerleme kaydettiğimiz anlamına gelir. Ancak yine de yeni bilgilere hakim olmamız gerekiyor. Farklı insanlar değişen derecelerde bilgiye sahip olabilirler ve bu nedenle farklı işlere de sahip olabilirler. İnsanlar köleleştirilmekten ziyade yine inisiyatif alacaktır.
Beddoes: Harari?
Bay Harari: Bazılarımız tam tersi bir teknoloji inşa etmeye karar verebilir. Teknoloji her alanda kullanılabilir. Hükümetleri ve büyük şirketleri halkın yararına da görebilirsiniz. Sürveyansı (belirli hastalıkların nasıl ortaya çıktığı ve dağıldığına ilişkin sistematik olarak yapılan gözlem) çok sevenler de var. Yani bir program yaparsınız yapay zekalı, ele geçirilmek istendiğinde siz antivirüs sistemi geliştirebilirsiniz.
Beddoes: Evet süremizi tamamladık. İkinize de seyircilere de katıldıkları için teşekkür ediyorum.
*
Bu minvalde gerçekleşen röportaj sona erdi.
Biraz uzattık bu bölümü ancak bir tarihçinin enteresan konuyla ilgilenmesi rahatsız edici geldi bana.
Ayrıca ABD taraftarı değil Çin taraftarı da değil. Aslında hepsinin kendileri lehine çalışma yapması taraftarı.
Kendilerini tarif etmedi, biliyorum.
Onu biz yapacağız. Neden ABD veya Çin hakkında Harari konuşuyor. Al (yapay zeka) neden kendilerine hizmet etmeli? Kimin hizmetinde olmalı?
Ya etmezse?
Bakalım gelişmeler nasıl olacak?