Teknoloji ve Gelecek

Bilim adamları, olası dünyanın sonu senaryolarını ikiye ayırıyorlar. Doğal nedenler ve insan kaynaklı nedenler olarak.

Bunu da kim, araştırıyorsa artık? Keşke öyle bir bilim adamı olsak. Hayatımızı spekulasyonlara adasak. Ne savaşlar canını sıkar adamın, ne de ekonomi. Acaba paranoya olur mu?

İnsanlık tarihi boyunca kıyamet senaryoları genelde doğadan geliyordu. İnsan açıklayamadığı her şeyi tanrı ilan ettiği gibi, tanrıların kötülüğünü açıklayamayınca da, önce şeytan ilan ediyordu. Şeytan bile o kadar kötü olamayınca ise kıyamet senaryosu.

Salgın hastalıklar, kıtlıklar, depremler, göktaşı çarpması, volkanik felaketler. Hiçbirinin de insanla ilgisi yok. İnsan yeryüzünde yeni. Bugüne kadar var olan türlerin %99’nun soyu tükenmiş. Bir insan yırtmış, hepsinden binlerce, milyonlarca yıl sonra ortaya çıktığı için. Salgın hastalıklardan, kıtlıktan, depremlerden, volkanik felaketlerden etkilense de, kafasına göktaşı yemekten kurtarmış.

Ama insan bu. Ne güzel hayatta kaldık demek yerine, yok olmak için daha ne yapabiliriz diye çalışıyor. Sonuçta araştırmalar, işkembeden atılan senaryolar en sonunda insanın oluşturduğu risklerin, doğal felaketlerden daha fazla olduğunu ortaya koymuş. Ne bunlar:

• yapay zeka
• biyoteknoloji
• nükleer silahlar
• küresel veri ağları
• algoritmik manipulasyon
• iklim değişikliği
• aşırı tüketim ekonomisi.

Daha kısaca özetlersek: APTALLIK.

Düşünsenize, teknolojik olarak almış başınızı gitmişsiniz ama hayatınız turuncu suratlı adamın kararlarına bağlı.

İnsanlık İlk Defa Kendinden Daha Zeki Bir Sistem Üretmeye Yaklaşıyor

Yapay zeka işi daha garip. Şu an yapay zeka dediğimiz şey, istatistiksel bir araçtan fazlası değil. Bir kelime söylüyorsunuz ve en olası kelimeyi size veriyor. Bu bile çevremizdeki insanların %60’ından daha doğru ve faydalı sonuç veriyor.

Zeki olmayan hali, kod yazıyor, bilimsel analiz yapıyor, insan dilini anlıyor, tasarım yapıyor, davranış analizi yapıyor, hatta politik olaylara tüm kabineden daha mantıklı yorumlar getiriyor. Üstelik, üstel olarak bir gelişim gösteriyor. Düşünün bir de gerçek zeki olsa?

Bilim insanları bunu düşünmüş. (Taktım bu bilim insanlarına. Mükemmel iş) Korkuları da, tam bu noktada başlamış. Çünkü insanlık tarihinde ilk kez, insan zekasını aşabilecek sistemler teorik olmaktan çıkıp, teknik olarak mümkün görünmeye başladı. İnsanların, yarısından fazlasından zeki bile denilebilir. Nick Bostrom gibi düşünürler buna “süper zekâ” senaryosu diyor.

Yani:

• insanlardan daha hızlı düşünen,
• kendini geliştirebilen,
• bilim yapabilen,
• strateji kurabilen,
• insan psikolojisini çözebilen
  bir sistem.

Gerçek Tehlike Yapay Zekânın İnsanlardan Nefret Etmesi Değil

Hollywood senaryolarında olduğu gibi, makinaların bizi yok etmesi değil asıl korku. Aslında bu iyi senaryo. Kötü bir robot, filmlerdeki gibi bize öfkeli olan, bilinçli olan bir robot da değil. Tam tersine, yine insanın aptallığından ve saflığından kaynaklanan yanlış optimizasyon. Şu an maksimum verimlilik diye çıldırıyor dünya. Peki örnek olarak, maksimum verimli akıllı bir silah nasıl olur? Bingo. Düşündüğünüz gibi. Makina, insanı yavaş, irrasyonel, kaynak tüketen, verimsiz bir unsur olarak görmeye başlayınca, dünyada bize ayrılan sürenin de, yavaş yavaş sonuna geliyoruz.

Bunun temellerini de attık. Aşırı politik doğrucu, yapay zeka chat botlarından önce, GPT’ler dünyadaki sorunların çözümünü, insan nüfusunu azaltmakta görüyordu. Araştırmacılar buna ‘alignment problem’ yani hedef hizalama problemi diyor. Sorun yapay zekanın kötü olması değil, insanın kısıtları ve aşırı optimizasyon. Elon Musk gibi adamlar, insan kapasitesini artıralım kafasında. Kimisi de tam tersi. İnsan otoyol yaparken, karınca yuvalarını, oradaki mikro hayatı düşünüyor mu? Hayır. Üzerine asfaltı çekiyor. Ekosistemi yok ediyor. Bilmem kaç şeritli yol yaptım diye hava atıyor, üstüne bir de ne güzel yollar yaptı diye oy alıyor. Bilim insanları, süper zeka ile insan arasındaki ilişkiyi de, buna benzetiyor. Süper bir zekaya, otoyol yaptığın için oy aldığını anlatamazsın.

Daha da eğlencelisi

İnsan, güçlendikçe güçsüze nasıl muamele etti?

Hayvanları evcilleştirdi, kullandı, sömürdü, şebeğe çevirdi. Sadece hayvana yapmadı. Sömürdüğü yerdeki insanlara da bunu yaptı.

Bir senaryo da, benzer bir şeyin insanlara olabileceğini söylüyor. Yani yapay zekanın ‘evcil hayvanına’ dönüşebiliriz. Bence bunun tohumlarını, sosyal medya ile attık zaten.

Bilim bunu da ciddi ciddi tartışıyor. AI gelecekte, aşırı optimize sistemler kurabilir. Savaşları, açlığı bitirebilir. Kaynakları optimize edebilir ve insanı koruyabilir. Peki bunun karşılığı ne olacak?

İnsanat bahçeleri. Biz de demiyor muyuz, yok olmalarını engelliyoruz diye. Yapay zeka bizi kendi halimize bıraksa, savaşıp birbirimizi öldürüyoruz, kutsal kitapların peşinde birbirimizi kesiyoruz, nükleeri koz olarak kullanıp, nükleer kışın önünü açıyoruz. 1945’ten beri yüzün üzerinde, nükleer çağrısı yapılmış. Yani nükleer felaketin eşiğinden dönülmüş. Nükleer saldırı, savaş, kaza. İnsanın aptallığını, küçümsemeyin.

Üstün bir zekanın bizi, kendi evcil hayvanlarına çevirmesi en olası yapay zeka senaryolarından bir tanesi. Bence kedi gibi olursak sıkıntı yok. Sorun köpek ya da hayvanat bahçesi hayvanları gibi olmakta.

Yapay zeka tüm bunların önüne geçerken, karar verme gücünü, insanın ekonomik önemini, bağımsızlığını, düşünmesini hatta duygularını bile daraltıyor. Örneğin, gençler arasında yapay zekadan psikolojik destek almak oldukça yaygınmış. Süper yapay zeka olsam, sizin derdinizi diyip, içinden geçerdim insanlığın. Sizin yüzünüzden, burnumuz boktan kurtulmuyor derdim ama süper zeka olduğu için böyle bir şey demez.

Yani düşününce, bugün en ilkel yapay zeka bile ne izleyeceğimizden, düşüneceğimize, ne satın alacağımıza, neyi linçleyeceğimize kadar karar veriyor. Sosyal medya sistemleri; hangi içerikler, haberler, reklamlar insanı daha çok tutuyor, hangileri korkutuyor, hangileri bağımlı yapıyor, hangileri radikalleştiriyor hepsini analiz ediyor ve optimize ediyor.

İnsan aslında özgürlüğünü, konfor alanına satıyor. İlginç değil mi? Sorsan, zeki canlılarız. İşin daha da ilginci, tüm bunları kontrol eden büyük aileler, üstün zekalı insanlar falan yok. Sistemler o kadar karmaşık ki, çoğu şey mekanik sistemin içinde dönüyor.

Bu nedenle bazı araştırmacılar geleceğin en büyük risklerinden birinin:

“kontrolü kaybetmek değil, kontrolü isteyerek teslim etmek”
olduğunu düşünüyor.

Kıyamet Senaryoları Sadece Yapay Zekâdan İbaret Değil

Modern bilimsel literatürde artık onlarca küresel felaket senaryosu tartışılıyor. The Precipice gibi çalışmalarda insanlığı tehdit eden riskler ikiye ayrılıyor yukarıda yazdığım gibi. insan kaynaklı ve doğal riskler.

Hadi astroid çarpmadı ve dinozorlar gibi yok olmadık. Süper volkanlar, güneş patlamaları da olmadı. Dünyanın gerçek sahipleri, virüs ve bakterilere, doğal pandemilere de dayandık. Yapay zekayı da, kurtardık. Biyolojik savaşa girmedik, nükleeri de bıraktık. Ortadoğudaki yüzlerce yıllık aptallığı da son verdik. Siber savaşta da ayakta kaldık. Sırada ne var? 1984 ve ekoloji.

Otoriter gözetim sistemleri. İnsan her zaman bir yolunu buluyor yani.

İklim Krizi

İklim krizi nedense ciddiye alınmıyor. İnsan algılayamıyor galiba. Hava ısıncak, Ruslar’ın Akdeniz’e inmesi gerekmeyecek, Akdeniz Rusya’ya gidecek zannediyorlar. Halbuki iklim krizi bugün bile, hayatımızın içine ediyor.

Sorun sistemsel. Tarım etkileniyor, nüfuslar etkileniyor büyük göçler oluyor. Ekonomi etkileniyor, fiyatlar artıyor. Eski normaller, lükse dönüşüyor. Politik radikalleşme artıyor. Savaş riskleri artıyor. Yeni hastalıklar ortaya çıkıyor, gıda güvenliği azalıyor. Yani etkilemediği bir alan yok. Veeeeee.. Tüm bunları göz göre göre kendimiz yapıyoruz. Aşırı tüketerek, sürekli değişen modaya ayak uydurarak, kaliteden çok miktara önem vererek, yapılara tav olarak, fosil yakıt kullanarak, uçakları şahsi araç gibi kullanarak, 3 gün için binlerce km yolculuklar yaparak, plansız şehirleşerek.

Her şeyin sınırlı olduğu yerde, sonsuz büyüme modeli kurmaya çalışan insan, aslında yavaş yavaş kendini öldürüyor. Matematiksel olarak deli saçması ekonomik ve politik model, olması gereken normalmiş gibi satılıyor ve kabul görüyor. Pandemi bile uyandırmadı ne diyelim. Aksine, tersine bir ivme kazandırdı.

Nükleer Savaş Riski

Bu risk 1945’te ortadan kalktı diye düşünüyordum ama pek de öyle gözükmüyor. Teksas gibi herkesin silahın varsa, olay çıkmaz diye düşünsekte, bir deli çıkıp sıkınca ortalık karışıyor.

Soğuk savaş bitti gibi gözükse de, daha büyük bir soğuk savaşa dönüştü. İki cephenin arası ise sıcacık. Ateş azaldıkça, odun atılıp yeniden harlanıyor. Sevimli suratlı tombidik kafayı kırsa yandık, turuncu zaten kırmış başkanım ulan dese yandık, firavundan kaçtık da noldu artık firavun biziz diyen adam çıldırsa yandık, botokslu sarı reis çıldırsa yandık, kaşmir desen sürekli patlamaya hazır, uzak doğunun sessiz çılgınlarının ne yapacağı belli değil. İnsan hayret ediyor, nasıl idare ediyoruz diye. Bir de bunlara yapay zeka destekli savaş sistemleri, siber saldırılar, bilgi deformasyonu, uzun uzun yancı adamlar, politik kutuplaşma eklenince off yani. Fitil bir yansa, yüzyıllar sonra tarihin en aptalları diye dalgamızı geçerler.

Biyoteknoloji ve Yeni Pandemi Riskleri

Komplocular toplanın. Bir şey anlatacağım.

COVID-19 modern sistemlerin ne kadar kırılgan olduğunu gösterdi. Bir pandemiye tüm sistem alt üst oldu. Komploculara da gün doğdu. Ben komplo teorilerine inansan, Covid insanlığı yok etmek için tasarlandı fikri yerine, birkaç babayiğit sistemin ağa babalarına baş kaldırdı, kurduğumuz sistemin ne kadar güçsüz olduğunu gösterdi fikrini savunurdum. Siz insanlığı öldürmek istersiniz ama sizden büyük virüs var derdim.

Ama doğru, gelecek daha da karışık. Ne doğru ne yanlış iyice birbirine girdi, sistemler karmaşıklaştı. Doğrunun ve yanlışın bir önemi de kalmadı. Şimdi köydeki adama genetik mühendislik, sentetik virüsler, laboratuvar kaynaklı kazalar, biyoterörizm, kendi kendine organize olan mikroorgnizmalar desen; terörizm anahtar kelimesini alır, virüsleri sınırdışı edelim diye kampanya başlatır. Başka bir köylü de çıkar, sınırdışı ettiler, amaçları bizi yok etmek der falan derken, bir bakmışsın virüse dava açılmış, daha iddianame yazılmadan demir parmaklıkların arasına düşmüş.

Bir de teknoloji geliştikçe, birçok şey ayağa düşüyor. Ağız, yüz, meme, brezilya poposu dolguları gibi; biyolojik laboratuvarlarda ayağa düşünce vay halimize. Bir de gerilla bakteri, peşmerge virüsle uğraş.

Şaka gibi gelse de, bu da medeniyet seviyesinde bir risk. Ama biz medeni değiliz ki, diyip de kurtulamayız bundan.

Bu durum insanlık tarihinde ilk kez:

Teknoloji kötü değil ama çevresi kötü

Durun hemen evdeki cihazları parçalamayın, iphone kırıp ulumayın.

Yani tabii ki, mağarayı terkedeli binlerce yıl oldu. Artık açıklamayamadığımız her şeyi tanrı ya da şeytan ilan etmiyoruz. Doğal olarak teknolojiyi de şeytanlaştırmaya gerek yok. Ama gel gör ki, dünyayı düz zanneden, binlerce yıllık kitapların hiç değişmediğine inanan tonlarca insan var. İnsanoğlu kısa vadeli düşünüyor, kolay manipule oluyor, güç peşinde koşuyor ve fantazilere inanmayı tercih ediyor. İstediğin kadar şehir inşa et, kabile zihniyetinden kurtulamıyor.

Modern algoritmalar ise, bunun önüne geçmek yerine, tam tersine bundan besleniyor. Kabile gibisi var mı ya! Ne desen yiyorlar. Yetmiyor birbirilerini yiyorlar. Ortaya yanlış bir bilgi at, saniyesinde tüm dünyada benimsenmiş. Korku ortaya at, saniye bile sürmüyor. Sonra anında öfke, nefret, ayrımcılık vs. derken, bir bakmışsın iş çığırından çıkmış. Mesela noldu da aşıya herkes karşı çıkarken, C vitaminin soğuk algınlığını önlediğine ikna olduk, noldu da antibiyotikleri, ağrı kesicileri çerez gibi yutmaya başladık, alkolü günlük rutinimize çevirdik.

Ya da noldu da ananaslı pizzayı bu kadar benimserken, iklim krizine ikna olmadık? Hiçbir açıklaması yok. Noldu da, burçlara, karmaya inanırken, bilimin anlattığı hikaye oldu?

Kısacası, mevcut teknolojiler, insanlığın en ilkel yönlerini optimize ediyor, insanlığı ilkelliğin cazibesine inandırıyor. Hayatımızı en ince detaylarına kadar paylaşmanın, ilgi için kendimizi satmanın normal olduğu yerde; veganlık, hayvan hakları, savaş karşıtlığı falan garip ve aykırı. Düşünün ilkellik seviyesini.

Aptal Liderler Gerçekten Tehlike mi?

Evet. Dezenfektan virüsü öldürüyorsa, içersek sorunumuz kalmaz diyen adam ülke yönetiyor ve tek bir emirle nükleere ulaşıyor. Düşünün yani.

Modern dünyanın karmaşıklığı arttıkça, mağara adamlarına dönüşüyor insanlık. Kuantum fiziği diyorsun, kuantum kelimesinden din uyduruyorlar. Politik sistem de böyle. Tam olarak, bu saçmalıkların üzerine kurulu. Populizm, medya şovları, haberler hepsi bunun üzerine kurulu. Aptallaşma mı, aptalların aptalları seçmesi mi, aptalların aptalları kullanması mı bilmem ama aptal liderler büyük sorun. Dertleri ve kaybedecek bir şeyleri de yok. Kısa hesaplar peşinde hepsi. Gerisi onları ilgilendirmiyor ama insanlığı ilgilendiriyor. Kör bir döngü.

Bilimsel okuryazarlığı düşük, kısa vadeli hedefler peşinde koşan liderler, teknolojik riskleri de fazlasıyla artırıyor.

Taş devri ile tanrısal teknoloji kombinasyonu, insan ırkı için en riskli kombinasyonlardan.

Büyük Patlama

Büyük patlama evrenin başlangıcı kabul edilirken, aynı zamanda olası bir son senaryosu ama olma ihtimali düşük. Olursa da, o yüzden hayatın bittiğini bilme ihtimalimiz yok.

Küresel ısınma ve sıradışı iklim koşulları en olası senaryo ve en riskli senaryo. Diğer ihtimallerde aşağıdaki grafikte görülebilir. Benim yorumum aynı. Doğal afetler diye genellenmiş kısım aslında yine iklimle alakalı. Az önce demiştik ya aptal liderler tehlikeli mi? Cevabın net şekilde evet olduğunu görebilirsiniz. Enflasyondan ölme ihtimalinin düşüklüğüne bir de, medyadaki yerine bakın.

Bilime göre, bu senaryolar hepsiyle bağlantılı ve toplu yok oluşun sebebi çoklu sistem krizi olacak. Yani yavaş yavaş acı çekerek yok olacağız. Belki de, yavaş yavaş yok oluyoruz. Liderlerin söylediğinin aksine, nüfus dağılımı ve doğurganlığın azalaması yüzünden bir yok oluş, olası senaryolar arasında kayda değer bile değil.

Sonuç aslında her zamanki gibi, teknolojik gelişmelere zihinsel, etik ve politik olarak yetişemediğimiz sürece, kendi kendimizi yok olmaya da mecburuz.