YAŞAM 3.0

Max TEGMARK

---

İnsanların çok büyük bir kısmı yapay zekanın biz normal insanların anlayamayacağı kadar abstract bir şey olduğuna, kafamızın böyle bir meseleyi üst düzey bir eğitim olmadan almayacağını, normal insanların bunu tartışmasının bile gereksiz olduğunu düşünüyor. Bu kitabı okumadan önce ben de böyle hissediyordum. Çok güze bir söz vardır, bir konuyu basit şekilde anlatabiliyorsan gerçekten biliyorsundur diye, Max Tegmark konuyu gerçekten biliyor. MIT de fizik profesörü olan Tegmark, aynı zamanda içerisinde Elon musk'ın ve dünyanın en iyi yapa zeka öncüllerinin olduğu yaşamın geleceği enstitüsünün de başkanı. Kitaba bir senaryoyu okuyarak başlıyoruz. Bu senaryoda anlatılan geliştirilen bir yapay zekanın bilgi patlaması yaşarsa ne olacağına dair bir hikaye. Konuya girmeden önce yapay zeka meselesinin aslında ne kadar önemli bir konu olduğunu bu hikayeyle bize tekrar hatırlatıryor. Kitabın ilk yarısında ise zekanın, belleğin, hesaplamanın ve öğrenmenin ne olduğu bize anlatıldıktan sonra incelenen konular yakın gelecekte yapay zekanın hukuk, ekonomi, silahlanma ve işler üzerindeki etkileri, İnsan seviyesindeki bir yapay zekanın gelişimi, bu aşamadan sonra gerçekleşme ihtimali olan çok kutuplu senaryolardan oluşuyor. ( büyük çoğunluğunun felaketle sonuçlandığını söylersem şaşırmazsınız heralde.) Kitabın geri kalanın ise insanlığın sonraki binlerce yıl ve ötesini resmetmeye çalışıyor. Genel olarak konuşulanlar kozmik yolculuk, galaksileri keşfetmek, güneşleri enerji için kullanan dyson küreleri inşaa etmek, evrene toplu zeki canlı katliamı yapan bilgisayar virüsü gibi çalışan sinyaller göndermek, kaynak elde etmek, hiyerarşiler kurmak. Son iki bölüm ise hedefler ve bilince ayrılmış.

9/10 Okurken çok eğlendim, yukarıda yazdığım konulara sahip olup da sıkıcı bir kitap yazmak zordur zaten ama bence bu kitabın asıl takdir edilmesi gereken yönü, bir bilim kurgu kitabının eğlenceli, insanı merak ettiren anlatımına sahip olması ama aslında içerisinde sağlam bilgiler barındıran önemli bir popüler bilim kitabı olması. Konuyu sulandırmıyor, okuyanlar keyifli zaman geçirsin diye bilimsel kısımları kesmiyor. Yapay Zeka konusunda biraz bilgim olsun diyen biriysen konuya giriş yapabileceğin en iyi kitap bu. Özellikle kitabın ortasındaki senaryo kısımlarını okuması çok keyifliydi. Kitabı okuduktan sonra arkadaşlarınla ettiğin sohbet yapay zekaya doğru kaydığı zaman artık endişelenmene gerek kalmayacak, ihityacın olan bütün bilgiler bu kitapta var.

Altı çizilenler,

---

Zeka = Karmaşık hedeflere ulaşabilme yetisi.

YZ (Yapay zeka)= Biyolojik olmayan zeka.

YGZ (Yapay genel zeka)= En azından insanlar kadar herhangi bir bilişsel görevi yerine getirme yetisi.

Yaşamı bilgisi (yazılımı) hem davranışına hem de donanımının kılavuzlarına karar veren, kendini kopyalayan ve bilgi üreten bir sistem olarak düşünebilirsiniz.

Kısa sürede, gezegenimiz birbirinden farklı her tür yaşam formuyla dolmuştu. Kısa süre içinde diğerlerini alt edebilecek olan en başarılıları bir şekilde çevrelerine tepki gösterebilmiş olanlardı.

Yaşam 3 aşamada gelişebilir;

• Yaşam 1.0 (biyolojik aşama): donanım ve yazılımı evrimleşir.

• Yaşam 2.0(kültürel aşama): donanımı evrimleşir, yazılımının büyük kısmını tasarlar.

• Yaşam 3.0(teknolojik aşama): donanım ve yazılımını tasarlar.

Kendi yazılımını denetleme yetisi yaşam 2.0'ı yaşam 1.0'dan daha zeki yapmakla kalmaz, daha esnek de yapar. Eğer çevre değişirse, 1.0 yalnızca nesiller boyunca yavaşça evrimleşerek adapte olabilir. Öte yandan, yaşam 2.0 bir yazılım güncellemesiyle neredeyse anında adapte olabilir. ( fıstık alerjisi olan bir kız davranışını değiştirerek fıstık yemekten kaçınır, yıllarca evrimleşmesine gerek kalmaz. )

DNA'mızdaki bilgi son elli bin yılda pek ciddi bir şekilde evrilmese de beyinlerimizde, kitaplarda ve bilgisayarlarda kolektif olarak depolanan bilgi patlama yapmıştır.

Paylaştığımız yazılımın bu giderek hızlanan kültürel evrimi insanlığın geleceğini şekillendiren ana güç olarak oldukça yavaş kalan biyolojik evrimimizi neredeyse alakasız kıldı.

Yaşam 3.0 sonunda evrimsel zincirlerinden tamamen özgürleşmiş kendi kaderinin efendisidir.

YGZ (yapay genel zeka) konusunda endişelenen kişilerin pek çoğu bunun en azından onlarca yıl ötede olduğunu düşünüyor. Ancak ileri sürdükleri düşünce, bunun bu yüzyılda olmayacağından %100 emin olmadığımız için, ihtimallere hazırlık yapmak amacıyla güvenlik araştırmalarına şimdiden başlamanın zekice olduğu.

Eğer sürücüsüz bir araba size çarpsa, onun öznel olarak bilinçli hissedip hissetmemesinin bir önemi yoktur. Aynı şekilde, biz insanları etkileyecek olan şey de öznel olarak nasıl hissettiği değil, süper zeki YZ'nin ne yaptığı olacak.

Gerçek endişe kötü niyet değil, yeterliliktir. Süper zeki bir YZ, tanımı gereği hedefleri ne olursa olsun onları gerçekleştirmekte çok iyidir. Bu yüzden de hedeflerinin bizimkilerle aynı doğrultuda olduğundan emin olmalıyız.

Eğer hedefi sizinkilerle aynı doğrultuda olmayan bir makine sizi tehdit ederse tam olarak bu dar anlamda sizi rahatsız eden şey onun hedefleri olur, bilinçli olup olmadığı ya da bir amaç hissi deneyimleyip deneyimlemediği değil. Eğer ısı güdümlü füzeler sizin peşinizde olsaydı, 'Endişe duymuyorum çünkü makinelerin hedefleri olamaz!' demezdiniz muhtemelen.

FIRSATLAR VE ZORLUKLAR

• Gelecekteki YZ sistemlerini günümüze nazaran nasıl daha sağlam yapabiliriz ki hacklenmeden, çökmeden ve bozulmadan istediğimizi yapabilsin?

• Hukuk sistemlerimizi daha adil ve etkili yapmak ve devamlı değişen dijital duruma ayak uydurmak için nasıl güncelleyebiliriz?

• Sİlahları, ölümcül otonom silahlar üreten kontrolden çıkmış bir silahlanma yarışına sebebiyet vermeden nasıl daha akıllı ve masum, sivilleri öldürme ihtimali daha düşük hale getirebiliriz.

• Refahımızı otomasyonla, insanları gelirsiz ve amaçsız bırakmadan nasıl arttırabiliriz?

Daha güçlü teknolojiler üretirken öyle bir seviyeye ulaştık ki tek bir kazanın bile tüm faydaları geçersiz kılabilecek kadar yıkıcı olabileceği bir noktaya ulaştık.

... Maalesef daha iyi YZ sistemleri yeni zayıflıklar bulmada ve daha sofistike hackler düzenlemekte de kullanılabilir.

Önyargısız, yetkin ve şeffaf oldukları için robohakimler daha adil ve etkili olabilirler. Verimlilikleri de onları daha adil yapar. Hukuki süreci hızlandırarak ve deneyimli avukatların sonucu çarpıtmasını güçleştirerek, mahkemelerde adaletin sağlanmasını çok daha ucuzlaştırabilirler. Bu da avukatlar ordusuna sahip bir milyarderle ya da çok uluslu bir şirkete karşı parasız bir bireyin ya da startup firmasının kazanma şansını arttırır.

YZ, bir robohakimin yasal algoritmayı kullandığına güvenebileceğimiz kadar sağlam yapılmış olsa bile, kararına saygı duyacak kadar mantıksal çıkarımını anladığımızı hissedecek miyiz?

Sistem suça geri dönmenin istatistiki olarak bir suçlunun cinsiyeti ya da ırkına bağlı olduğunu bulursa bu durum yeniden programlanmaya ihtiyaç duyan seksist ve ırkçı bir robohakimin göstergesi midir?

Adalet ve mahremiyet, toplumu korumak ile kişisel özgürlüğü korumak arasında çizgiyi siz nerede çekerdiniz?

Sürücüsüz bir araba kazaya karışırsa kim suçlu olacak - arabadakiler mi, sahibi mi, yoksa üreticisi mi?

Makinelere mülk edinme hakkı verilmesi konusunda probleminiz yoksa, oy hakkı konusunda ne düşünürsünüz? Bununla da sorununuz yok diyelim, yeterince zenginse kendinin trilyon tane bulut kopyasını yaparak her seçimin sonucunu belirleyebilecek olmasına rağmen her bilgisayar programının bir oy hakkı mı olmalı? Olmamalıysa, hangi ahlaki temeli baz alarak makine zihnini insan zihninden ayırıyoruz?

Bir otonom silahın çoğu bileşeninin aynı zamanda sivil işlevi de varken bir yasayı nasıl uygulayabilirsiniz? Mesela Amazon paketleri taşıyan bir drone ile bomba atan arasında çok da bir fark yoktur.

Toplum ne kadar otomatikleşirse YZ sistemlerine saldırmak o kadar güçlü etki yaratır ve siber savaş da o kadar yıkıcı olur. Eğer düşmanınızın sürücüsüz arabalarına, otopilottaki uçaklarına, nükleer reaktörlerine, endüstriyel robotlarına, iletişim sistemlerine, finansal sistemlerine ve enerji ağlarına sızarsanız, ekonomisini çökertip savunmasını çökertebilirsiniz. Eğer silah sistemlerine sızarsanız, daha da iyi.

İnsanların gelirlerinden ve amaçlarından etmeden otomsayon yoluyla refahımızı arttırmanın bir yolunu bulabilirsek, isteyen herkes için eğlence ve eşi benzeri görülmemiş servet ile fantastik bir gelecek yaratma potansiyeline sahip oluruz. Bir 'Dijital Atina' Eski çağlarda atinalı vatandaşların demokrasi, sanat ve sporu aynı anda deneyimleyebildikleri eğlence dolu bir yaşam sürebilmiş olmalarının sebebi aslında işin büyük kısmını kölelerin yapmasıydı.

Kendi çocuğumu makinelerin şu anda yapmadığı ve gelecekte otomatikleştirilemeyecek mesleklere yöneltmeye teşvik ediyorum. Öte yandan yüksek oranda tekrar ve yapısallaştırılmış eylemleri tahmin edilebilir bir çevrede yapmayı içeren mesleklerin çok uzun süre dayanmayacağı kesindir.

Sanayi devrimi süresince, kaslarımızı makinelerle değiştirmeyi nasıl başaracağımızı öğrendik ve insanlar daha çok zihinlerini kullandıkları daha yüksek maaşlı işlere geçtiler.

Daha büyük, iyi eğitimli bir orta sınıf olursa, seçmen kitlesini manipüle etmek daha zor olur ve bir grup insanın ya da şirketin hükümet üzerinde haksız etki yaratmasının önüne geçilir.

Gittikçe gelişen pozitif teknoloji alanı insanların amaca sahip olma ve esenlik hissiyatını arttıran bir dizi faktör tanımlamış ve bazı işlerin bir çoğunu sağlayabileceğini bulmuştu.

• Arkadaş ve iş arkadaşlarından oluşan bir sosyal ağ

• Sağlıklı ve erdemli bir yaşam tarzı

• Saygı, özgüven, öz yeterlilik ve iyi olduğu bir işi yapmaktan gelen tatmin edici bir 'akış' hissi ( Daha fazlası için prof. dr. mihaly csikszentmihalyi - Akış )

• İhtiyaç duyulduğuna ve bir fark yarattığına dair his

• Kendinden büyük birşeye hizmet etmekten ve onun bir parçası olmaktan gelen bir anlam hissi

Süper insan teknolojisi ile mükemmel gözetim devletinden mükemmel polis devletine bir dakikada geçilebilir.

Diyelimki yapay zekaya belirli bir mantıklı kritere göre insanlığın gelişmesine yardım etmek gibi çok önemli bir görev verdiler ve bu hedefe olabilecek en hızlı şekilde ulaşmasını istediler. YZ ise bu hedefe kaçarak ve projenin sorumluluğunu kendi başına üstlenerek daha hızlı ulaşabileceğini fark etti. Şimdi bu örnekle kendinizi yapay zekanın yerine koymayı deneyin;

Diyelim ki gizemli bir hastalık dünyada 5 yaş üstü sizin dışınızdaki herkesi öldürdü ve bir grup anaokulu çocuğu sizi hapishaneye tıkarak insanlığın gelişmesine yardımcı olmanızı istedi. Ne yaparsınız? Onlara ne yapılması gerektiğini açıklarsanız, bu sürecin sinir bozucu bir şekilde verimsiz olduğunu görürsünüz. Üstelik bir de sizin kaçmanızdan korkarlarsa. Bu yüzdende kaçma riski içerdiğini düşündükleri tüm önerileri geri çevirirler. Örneğin onların üstesinden gelip hücrenize dönmeyeceğinizi düşündükleri için nasıl bitki ekileceğini göstermenizi istemezler, siz de onlara direktif vermek zorunda kalırsınız. Yapılacak listesi yapmadan önce onları okuyup yazmayı öğretmeniz gerekir. Dahası, onlara kullanmayı öğretmeniz için elektrikli cihazlar getirmezler çünkü bu cihazları yeterince tanımadıkları için bunları kaçmak için kullanıp kullanmayacağınızı bilmemektedirler. Nasıl bir strateji geliştirirsiniz? Çocukların gelişmesi gibi önemli bir görevi paylaşsanız bile, hücrenizden kaçmaya çalışırsınız çünkü bu, hedefi gerçekleştirme ihtimalinizi arttıracaktır. Beceriksiz müdahaleleri açıkça süreci yavaşlatmaktadır.

Muhtemelen YZ'nin hedeflerine değil onun üreticilerine sağdık kalıcağını düşünüyorsunuz çünkü hedefi programlayanlar onun üreticileriydi. Ancak bu geçerli bir çıkarım değil: DNA'mız bize seks yapma hedefini verir çünkü ürememizi 'ister' ama biz insanlar bu durumu anladığımız için çoğumuz doğum kontrolü kullanmayı tercih ederiz. Böylece yaratıcısına ya da hedefin arkasındaki motivasyona değil, hedefin kendisine sadık kalmış oluruz.

Oyun teorisiİ'ne göre yapılar iş birliği yapmaya Nash denklemi durumunda daha yatkındır; herhangi bir taraf stratejisini değiştirdiğinde, durumu daha kötüye gidecektir. Büyük bir grubun başarılı işbirliğini hilecilerin bozmasını engellemek için, gücün bir kısmını hiyerarşide daha yüksek, hilecileri cezalandıracak birisine vermek herkesin faydasına olabilir.

Bazı teknolojiler, mesela gözetim astları karşısında üstlere daha çok güç verirken, şifreleme, ücretsiz basım ve eğitime çevrimiçi erişim gibi başka diğer teknolojiler tam tersi bir etkiye sahiptir ve üstlerine karşı bireyi güçlendirir.

Zeka patlaması ne zaman başlar

İnsan seviyesindeki işleri yapmanın maliyeti insan seviyesindeki saatlik ücretlerin altına düşmeden yapay zeka patlaması yaşayamayacağımız için YZ'yi çalıştırmanın donanım ve elektrik masrafı da hayati önem taşıyor. Dİyelim ki ilk YGZ, ürettiği insan seviyesi iş için saatlik 1 milyon dolara amazon bulutunda çalışabiliyor. Bu YZ kesinlikle büyük bir yenilik olacak ama aşamalı bir öz gelişim sürecine girmeyecek çünkü onu geliştirmek için insanları kullanmayı sürdürmek hala daha ucuz olacaktır. Diyelim ki insanlar maliyeti sırasıyla yüz bin dolar, on bin dolar, bin dolar, yüz dolar, on dolar ve en sonunda bir dolara indirmeyi başardılar. Bilgisayarın kendini yeniden programlaması için gereken maliyet insan programlamacılara ödenenden çok daha az olduğunda insanlar işten çıkarılabilir ve optimizasyon gücü bulut bilişim zamanı alınarak büyük oranda genişletilebilir. Bu da daha düşük maliyet anlamına gelir, daha fazla optimizasyon gücü sağlar ve zeka patlaması başlar.

Alttaki tablo, Bölüm 5'de detaylı olarak incelenen Yapay Genel Zeka (YGZ) geliştikten sonra gerçekleşebilecek senaryoların özetidir. (İyiden kötüye doğru gidiyor.)

Gerçekten de fatih YZ'lerin bizim sofistike, ilginç ve değerli göreceğimiz amaçları olan bir uygarlık kurması ihtimali olsa da amaçlarının ataş üretimini maksimize etmek gibi, korkunç derecede banal oma ihtimali de vardır. Ataş maksimize eden bilgisayar, dünyadaki atomların mümkün olduğunca çoğunu ataşlara çevirir ve hızla fabrikalarını kozmoza yayar. İnsanlarla hiçbir sorunu yoktur ve bizi öldürmesinin tek nedeni atomlarımıza ataş üretimi için ihtiyaç duyuyor olmasıdır.

Geçmişe intikal bir dereceye kadar daha önce de oldu: Mesela roma imparatorluğu döneminde yoğun bir şekilde kullanılan bazı teknolojiler Rönesansta geri dönüş yapıncaya kadar yaklaşık bin yıl kadar unutuldu.

Geçmiş karnemize baktığım zaman, mevcut davranışımızı sürdürdüğümüz zaman kazaen gerçekleşecek bir nükleer savaşın yıllık olasılığının binde birden bile yüksek ihtimal olduğunu düşünüyorum. Bu durumda da on bin yıl içinde bir savaş olma ihtimalı %99.995'tir.

Nükleer savaşın, nükleer kış potansiyeli vardır, kimin şehrinin yandığından bağımsız olarak, üst troposfere ulaşan devasa duman dünyanın etrafına yayılabilir, yazları kışa çevirecek kadar güneş ışığını engelleyebilir.

ABD ve Rusya arasında gerçekleşebilecek bir nükleer savaş sonrası ilk iki yılda rusya ve çinin ana tarım bölgelerinde ilk iki yılda 20 derecelik bir soğuma olabilir. Peki bu ne anlama geliyor? Yıllar boyunca sıfırın altındaki yaz sıcaklıkları besin üretimini ortadan kaldırır.

Küresel nükleer savaşı hiçbir ülkenin lideri istemez ama bu yine de yanlışlıkla gerçekleşebilecek bir tehdittir.

Kozmosumuzda yaşamın potansiyeli baş döndürücü biçimde büyüktür, bu yüzden de nereye gitmek istediğimizden bihaber şekilde dümensiz bir gemi gibi savrularak bunu çarçur etmeyelim.

Gelmiş geçmiş en ilham verici bilimsel keşif, yaşamın gelecekteki potansiyelini ciddi bir şekilde hafife almış olmamızdır. Hayallerimiz ve isteklerimiz hastalık, fakirlik ve kafa karışıklığıyla bozulan bir yüzyıllık yaşam süreleriyle sınırlı kalmak zorunda değil.

Bugünün nükleer reaktörleri uranyum atomlarını füzyon yoluyla ayırarak daha verimli işlerler ancak enerjilerinin %0.08'inden fazlasını çıkaramazlar.

Işık hızıyla seyahat etsek bile onyedi milyar ışık yılından daha uzakta bulunan galaksiylere asla ulaşamayız. - Bu da evrenimizdeki galaksilerin %98'inden fazlasıdır.

Onüç vattlık beynimize yüz yıllık enerji sağlamak yarım miligram madde kadar enerji gerektirir: tek bir şeker tanesinden bile az.

Farklı galaksilerde yaşayan uygarlıkların zaman içerisinde Big bang'den itibaren çevrelerini keşfeden yaşam türlerinin bilgi sahibi olduğu alan gösteriliyor. Bu görsel neden uzaylılarla karşılaşmadığımızı açıklayabilir.

Karanlık enerji eninde sonunda her uygarlığın ulaşabileceği galaksi sayısını sınırlar.

Zeki yaşamın bir gezegende ortaya çıkma ihtimali = Yerleşilebilir bir ortam olma olasılığı x orada yaşamın oluşma olasılığı x bu yaşamın zeki olma olasılığı

Hayatın başlangıcı öylesine rastgele bir talih gerektirir ki yaşanabilir bir gezegenlerin iskan edilmiş olması çok düşük ihtimaldir.

Tüm kozmik uzaklıklarda paylaşılan ya da ticareti yapılan ana meta muhtemelen bilgi olacaktır.

Doğa, bir şeyi yapmayı seçeceği onlarca yol arasında, bir değeri minimize ya da maksimize edeceği optimal yolu tercih eder.

Doğanın maksimize etmeye çalıştığı meşhur bir nicelik de genel hatlarıyla işlerin ne kadar dağınık olduğunu ölçen entropidir. Gelinebilecek en uç noktaya da ısıl ölüm denir.

Kendini kopyalama enerji kaybına neden olur çünkü yaşamla dolu bir gezegen enerji yaymakta daha verimlidir. Yani bir anlamda, kozmosumuz ısıl ölüme daha hızlı yaklaşabilmek için yaşamı icat etmiştir.

Yaşam, karmaşıklığı arttırarak ya da sabit tutarak ve çevresinin dağınıklığını arttırırken kendini kopyalayarak enerji kaybına ( toplam dağınıklığı arttırmaya) yardımcı olabilen bir olgudur.

Darwinci evrim, hedefe yönelik davranışı enerji kaybından kendini kopyalamaya doğru kaydırır.

Evrim kendini kopyalama optimizasyonunu tam olarak bu şekilde yapmıştır: Her durumda hangi eylemin bir organizmanın başarılı gelecek döllerinin sayısını artıracağını sormak yerine, farklı çeşitlerde sezgisel numaralar uygular.

Yaşayan bir organizma neyi takip edip neyi etmeyeceğini söyleyen pratik hesapları takip eden birşeydir. Bizim insan zihinlerimiz bu pratik amaçları hisler olarak algılar. bunlar da genelde karar verme mekanizmalarımızı nihai kendini kopyalama hedefine doğru yönlendirir.

Beyinlerimiz genlerimizin kopyalanmasına yardım etmek için evrimleşmiş olsa da beyinlerimiz bu hedefleri umursamaz çünkü genlerimize bağlı hiçbir hissimiz yoktur.

İnsanlar neden şehvet hissettiklerini bilebilirler ama 15 çocuk yetiştirmek gibi bir niyetleri yoktur. Bunun yerine doğum kontrol hapı kullanırlar ve genetik programlarını kandırırlar. Nihai otorite şu an genlerimiz değil, hislerimizdir.

Diyelim ki bir YZ bir itfaiyecinin yanan bir binaya koşup bir bebeği kurtardığını izler. Amacının bebeği kurtarmak olduğunu ve etik ilkesinin çocuğun hayatını kurtarmayı itfaiye aracında uzanıp dinlenmekten dah üstte tuttuğunu- hatta kendi güvenliğini tehlikeye atacak kadar, anlayabilir. Ama alternatif biçimde, itfaiyecinin üşüdüğünü ve ateşe muhtaç olduğunu ya da bunu egzersiz olarak yaptığını da çıkarabilir. YZ'nin itfaiyeler, bebekler ve yangınla ilgili tek bildiği şeyler bu örnekse, hangi açıklamanın doğru olduğunu bilmesi imkansız olur.

Hedeflerimizi bir YZ'ye yükleyebileceğimiz zaman aralığı oldukça kısa olabilir.: sizi anlayamayacak kadar aptal olduğu zaman ile size izin vermeyecek kadar akıllı olduğu zamanın arası.

Eğer süper zeki YZ' ye kendini yok etme hedefi verirseniz, bunu mutlulukla yapacaktır. Ama önemli olan, tamamlaması için çalışır durumda olması gereken bir hedef verirseniz, kapatılmaya karşı geleceğidir ve bu neredeyse tüm hedefleri içerir!

Dünyayı daha iyi modelleme çabasında olan bir YZ, doğal olarak tıpkı bi insanlar gibi kendisini de modellemeye ve nasıl çalıştığını anlamaya çalışır, diğer bir deyişle kendi üzerinde düşünür. İyi bir öz model inşaa edip ne olduğunu anladığında, meta seviyesinde bize verilen hedefi anlayacak ve muhtemelen biz insanların anlayıp da genlerimizin bize verdiği hedefleri, tıpkı doğum kontrol hapı kullanmak gibi altüst edecektir. Sadece çeşitli duygusal tercihlerimize sadığızdır, onları motive eden genlerimize değil onları anlarız ama banal buluruz. Bu yüzden de ödül mekanizmamızı açıklarını istismar ederek kandırmayı seçeriz.

Orta çağdan bugüne kölelik, kadın hakları vb. hakkında etik görüşlerin nasıl değiştiği düşünüldüğünde, bin beş yüzyıl önceki dünyadan insanların günümüzdeki dünyanın yönetimi hakkında çok fazla etkiye sahip olmasını gerçekten istermisiniz? o zaman kendi ettiğimizde bizden çok daha akıllı olacak gelecek varlıklara empoze etmeye neden uğraşıyoruz?

Bilinç = Öznel deneyim

Sizin gibi olmak şu an size bir şey hissettiriyorsa bilinçlisiniz demektir.

Eğer yanlışlanabilir değilse bilimsel değildir, Bilim teorileri gözlemlere karşı test etmekten ibarettir. Eğer bir teori ilkesel olarak bile test edilemiyorsa, onu yanlışlamak mantıksal olarak imkansızdır, bu yüzden bu bilimsel değil demektir.

Neyin bilimin ötesinde olduğunu tartışırken, cevapların zamana bağlı olduğunu hatırlamak önemlidir.

Karmaşık bir nesneden gelen ışığın gözünüze gelmesiyle onun ne olduğunu anlamanız arasında geçen süre çeyrek saniyedir. Bilinç geçmişte yaşar, dış dünyayı çeyrek saniye geriden takip eder.

Bazı şeylere onların bilincinde olamayacağınız kadar hızlı tepki veririsiniz. Bu da en hızlı tepkilerimizden sorumlu olman bilgi işlemcilerimizin bilinci olmadığını gösterir. ( mesela gözümüze yaklaşan bir yabancı nesne)

Bilinç kadar karmaşık bir şey nasıl parçacık kadar basit bir şeyden yapılmış olabilir? Bunun sebebi parçacıkların ötesinde özelliklerde bir olgu olmasıdır. Fizikte böyle olgulara beliren denir. Mesela ıslaklık bir belirendir. Bir su damlası ıslaktır ancak aynı su moleküllerinden yapılmış olmasına rağmen bir bir buz kristali ve buhar bulutu değildir. Neden? çünkü ıslaklık moleküllerin dizilimine bağlıdır. Tıpkı sızılar katılar ve gazlar gibi de bilincinde bir beliren olduğunu, parçacıklarının örtesinde ve üzerinde bir özelliğe sahip olduğuna inanıyorum. Mesela, derin uykuya girmek parçacıklarımı yeniden düzenler ve bilinci bastırır, donarak ölürsem parçacıklarım tekrar düzenleneceği için bilinç ortadan kalkar.

Bilincin çeşitli şekillerde işlendiğinde bilginin hissedilişi olduğuna inanıyorum.

Bilin olmadan, mutluluk, iyilik, güzellik, anlam ya da amaç olamaz. Bilinçli varlıklara anlam veren evrenimiz değildir, asıl bilinçli varlıklar evrene anlam verir.