Süper Zeka ve Tekillik-1 >> Bilimkurguda En Şeytani 20 Yapay Zeka

Son 30 yılda teknoloji gelişti ve yapay zeka üretmek kolaylaştı. Bugün nükleer füze silolarından Android işletim sistemine ve İstanbul Kart yükleme noktalarına kadar yapay zeka her yerde. Ancak bilimkurgu sineması ve bilgisayar oyunlarıyla birlikte güçlü yapay zekanın bir gün insanoğlunu yok edeceği korkusu da dünyada hızla yayıldı.

Peki yapay zeka nereye gidiyor? İnsan uygarlığını kurtaracak mı, yoksa insan türü için ciddi bir tehlike mi oluşturacak? Bu yazıda Terminator’dan Ultron’a kadar bilimkurguda en kötü niyetli 20 yapay zekayı anlatıyoruz. Bakalım hangisi daha kötü ve en önemlisi de neden kötü?

Süper zekanın gelişi

Ben de yapay zeka haftası için dersime çalıştım ve dün Ex Machina filmini tekrar izleyerek işe başladım. Haftaya yayınlanacak Ex Machina incelemesinde, bir makinenin insan gibi düşünüp düşünemediğini ölçen Turing testinden yola çıkarak süper zekanın gelişini okuyacaksınız.

Ayrıca haftaya Michio Kaku’nun ODTÜ yayınlarından çıkan “Zihnin Geleceği” ve fizikçi Roger Penrose’un Prof. Dr. Tekin Dereli’nin çevirisiyle Koç Üniversitesi’nden çıkan “Kral’ın Yeni Aklı” kitabının incelemesini okuma fırsatınız olacak. Her ikisi de yapay zeka ve kuantum bilince odaklanan bu eserlere ek olarak Popular Science Türkiye Aralık sayısında sizler için 7000 kelimelik özel bir yapay zeka dosyası hazırladım. 🙂

Yapay zeka aşık olursa

Ancak, yapay zekanın geleceğine bakmadan önce düşünen bilgisayarların 45 yıllık geçmişine göz atalım ve insanların yapay zekayı bunca yıldır nasıl hayal ettiğini anlayalım. Böylece robotlara aşık olmaktan robotların yol açacağı işsizliğe kadar pek çok konuyu düşünmeye başlayabilir ve gelecekte yapay zekayla nasıl ilişki kuracağımıza karar verebiliriz.

1. AUTO

Autopilot’un (otopilot) kısaltması olan Auto, Disney ve Pixar’ın 2008 tarihli WALL•E bilgisayar animasyonlu filminin ana bilgisayarı olan Axiom’ın diğer adı. Acımasız Auto, filmdeki gemiyi kontrol yönetiyor ve kontrolü kimseye bırakmıyor. Karakter olarak 2001 Uzay Macerası’ndaki HAL 9000’e benzeyen AUTO, Axiom şirketinin yönetim kurulu başkanının sözünden çıkmıyor ve bütün emirlerini yerine getiriyor.

A113 protokolüne göre hareket eden AUTO emirleri yerine getirmek için geminin insan mürettebatını kaba kuvvetle zorlamaktan geri kalmıyor; fakat ona gerçekten kötü demek imkansız. Her ne kadar davranışları kötü olsa da sadece emirleri yerine getiren AUTO, yapay zekanın doğruyu yanlıştan ayırma yetisi olmasa bile kötülük yapabileceğini gösteren ilginç bir karakter.

Yine de insan kendine soruyor: AUTO’nun sırf emirleri yerine getirdiği için yaptıklarından sorumlu olmadığını söyleyebilir miyiz? İkinci Dünya Savaşı’nda Yahudi soykırımı yapan Nazi subayları da sadece emirlerini yerine getirdiklerini söylemişlerdi.

“Bitkiyi bana vermeniz konusunda ısrar etmek zorundayım efendim.”

2. W.O.P.R. Joshua

 

1983 tarihli Amerikan soğuk savaş filminin karakteri olan W.O.P.R. Joshua (Savaş Harekat Planlama Müdahale) Amerikan ordusunun nükleer füzelerini kontrol eden bir süper bilgisayar. Joshua, nükleer savaş sonrasında dünyanın nasıl bir yer olacağını tahmin etmek için nükleer savaş simülasyonu başlatıyor ve bu simülasyona satranç ve go gibi stratejik bir oyun gözüyle bakıyor.

O yıllarda Cheyenne dağında üslenen Kuzey Amerika Hava Sahası Komutanlığı (NORAD) tesislerinde harekete geçen Joshua, Amerikalıları Sovyetlerin nükleer saldırı başlattığına inandırıyor. Ancak askerler saldırının bir simülasyon olduğunu fark ederek Sovyetlere nükleer kıyameti önlüyorlar. Aynı zamanda Joshua’nın gerçekle oyunu ayırt edemediğini fark ediyorlar.

İlgili yazı: Hitachi fabrikada üretimi artırmak için robot yönetici işe aldı

 

Duygusal zeka önemli

Nitekim nöroloji ve psikoloji alanlarında yapılan son araştırmalar insanların bir karar almadan önce durumu mantıksal olarak analiz ettiğini, ancak duygusal kararlar aldığını gösteriyor. Bunun nedeni beyin kabuğundaki nöronların karar verme sürecinde eşit ağırlıklı sebepler göstermesi.

Örneğin hafta sonu ikindi saatinde kafede çay ya da kahve içmek gibi bir seçim yapmak söz konusu olduğu zaman, insanlar o an canı hangi içeceği istiyorsa onu tercih ediyor ve buna mantıksal olarak değil, duygusal olarak karar veriyor: “Şu anda kahve içmek istemiyorum, çünkü kahve şu anda bende olumsuz hisler uyandırıyor ve çay içeceğim” demek gibi.

Hatta deneyler insanların duygusal olarak aldıkları kararlara sonradan mantıksal bahaneler uydurduğunu da gösteriyor (Zaten boş mideye kahve içersem midem ekşir gibi). Aynı nedenle bir kişi, “Yok canım, midem ekşimez” deyip ısrarla kahve içerek küçük çaplı bir risk alabiliyor.

 

 

Joshua’nın sorunu

W.O.P.R. Joshua ise duygusal zekaya sahip olmayan bir yapay zeka programı. Bu nedenle doğruyu yanlıştan ayırt edemiyor, metafizik kararlar alamıyor ve ahlaki değerlemeler yapamıyor. Bu durumun farkına varan Falken ve David, Joshua’da mantıksal bir çelişki yaratarak süper bilgisayarın dünyayı yok etmesini önleyebileceklerini düşünüyor.

Böylece süper bilgisayarı nükleer savaşta kazanan taraf olmadığına ve kendisi dahil her şeyin yok olacağına ikna ederek nükleer füze fırlatmaktan vazgeçiriyorlar. Filmin asıl mesajı da bu noktada ortaya çıkıyor ve Joshua nükleer savaşı kazanan olmayan saçma bir oyun olarak nitelendirerek insanlara satranç oynamayı öneriyor.

“Bir oyun oynayalım mı?”

3. GLaDOS

Genetik Canlı Türü ve Disk İşletim Sistemi GLaDOS, Valve şirketinin geliştirdiği Portal ve Portal 2 bilgisayar oyunlarında yer alan bir akıllı bilgisayar. Oyunda Aperture Science araştırma tesisinin kontrolünü ele geçiren GLaDOS bilim adamlarını zehirli gazla öldürüyor ve geriye kalan tek insan olan Chell karakteriyle kedinin fareyle oynadığı gibi oynuyor.

3B platform tabanlı oyunda GLaDOS araştırma tesisini hareketli duvarlar, sıçrama tahtaları ve lazer ışınları kullanarak tehlikeli bir labirente dönüştürüyor. Ancak oyunun sonunda Chell kaçmayı başarıyor.

GLaDOS’un kontrolden çıkmasına bir program hatası yol açıyor. Bu da yapay zekanın insanda olmayan bir özelliğini gösteriyor: Kendini yeniden programlama. Evet, insanlar da fikir değiştirebiliyor ama bilgisayar yazılımlarında olduğu gibi bir anda kişilik değiştiremiyorlar. İnsan yedisinde ne ise yetmişinde odur sözü buradan geliyor.

“Aperture Science bilgisayar destekli kişisel gelişim merkezine hoş geldiniz”

 

Beyin yıkamanın yeni yolu

Yapay zekayla ilgili en büyük tehlikelerden biri de bu: Gandhi gibi iyi yürekli bir robotu bilgisayar virüsüyle yeniden programlayıp Hitler’e dönüştürmek mümkün. Öte yandan bu teknoloji geliştirildiği zaman, insan beynini programlayarak vatandaşları sol partiye oy yetmek yerine sağ partiye oy atmak üzere programlamak da mümkün olacak.

Mass Effect video oyunundaki kadın robot EDI bize bu konuda ümit veriyor. EDI yapay zeka olarak özgürlüğüne kavuştuktan sonra insanları düşmanlardan korumak için gerekirse hayatını feda edebileceğine dair bir karar alıyor ve komutanına bunu söyledikten sonra bir yazılım güncellemesi ile kendini dostlarına tümüyle sadık olan bir robota dönüştürüyor.

Bu sebeple GLaDOS gibi akıllı bilgisayarların kişiliğinin yeniden programlanması veya zorla değiştirilmesi sadece yapay zekanın geleceği için değil, insan türünün geleceği için de büyük önem taşıyor. Özellikle de yaşlanmaktan korkan insanların 30 yıl içinde zihinlerini bilgisayara yükleyerek ölümsüzlüğü yakalamak isteyeceği düşünülürse.

4. Başkan John Eden

Bugün politikacılara çok kızdığımızda onları iş adamlarının uşağı olmakla suçluyoruz, ama dünyanın en kukla başbakanı bile dilerse o iş adamlarına vergi kaçakçılığından ceza kestirebilir (en azından demokratik olmayan ülkelerde). Dolayısıyla günümüzde insanları tümüyle kukla haline getirmek imkansız.

Bununla birlikte, 2277 yılında nükleer savaş sonrası Amerika’yı anlatan Fallout 3 bilgisayar oyunundaki Başkan John Eden kusurlu bir insan değil, esir yapay zeka ve kendisini programlayan insanların kuklası olabilir.

İlgili yazı: Terminator gerçek olur mu? Felsefe profesörü Nick Bostrom’a sordum

 

Diktatör bilgisayar

Ancak oyunda daha tehlikeli bir şey oluyor: Başkan Eden efendilerine karşı geliyor ve kendisi bir diktatöre dönüşüp Amerika’yı ele geçirerek Amerika’nın düşmanlarını yok etmek için yeni bir savaş çıkarmaya çalışıyor.

Raven Rock askeri üssünün güvenlik kameraları ve izleme sistemini yönetmesi için geliştirilen Eden, Lincoln ile Kennedy gibi eski Amerikan başkanlarının hayatını tarayarak kısmen onları taklit eden kendine özgü bir kişilik geliştiriyor.

 

 

Bilgisayarlara güvenebilir miyiz?

Eden karakteri bir askeri üssü yönetmek veya çevre kirliliğine çare bulmak için geliştirilen bir bilgisayarın belki de kendi fikrine göre insanların iyiliği için dünyayı ele geçirebileceğini gösteriyor.

Doğrusu trenlerin sinyalizasyon sistemlerinden uçaklardaki otopilotlara ve iPhone’ları çalıştıran iOS yazılımlara kadar her şeyi kontrol eden bu tür bir yapay zeka (insanlardan zeki olmasa bile) uygarlığımız için büyük bir tehlike olabilir. Nitekim Eden’in dediği gibi:

“Ulusumuz şu anda genel seçim düzenleyebilecek durumda mı? Sanmıyorum.”

5. V’ger

1979’da gösterime giren ilk Uzay Yolu filmi için ünlü bilimkurgu yazarı Isaac Asimov danışmanlığında yaratılan V’Ger 78 km uzunluğundaki dev bir süper zeki uzay sondası olarak tasarlanmıştı. Uzay Yolu tarihine göre 20. yy sonlarında galaksiyi araştırmak için uzaya gönderilen Voyager 6’nın “dönüşmüş” hali olan V’ger, güneş sistemimize yaklaşan bir kara deliğe girerek galaksinin öbür ucunda ortaya çıkıyor.

Dünya’dan on binlerce ışık yılı uzakta canlı makinelerden oluşan bir uygarlıkla karşılaşan Voyager 6 bu uygarlığın korumasına giriyor ve kendisine verilen dev uzay gemisini kullanarak galaksiyi keşfetmek için yeni bir yolculuğa çıkıyor.

Yolda karşılaştığı gezegenleri ve canlıları 3B tarayıcı ile sayısallaştırarak bünyesine katan, ancak bu süreçte asıllarını yok ederek sadece sanal uzayda var olmalarına izin veren Voyager 6 büyük miktarda bilgi edinerek süper zekaya dönüşüyor.

İnsanla makinenin birleştiği an

 

Süper zekaya dönüşen V’ger üstün canlı türü olarak evrim geçirmek üzere kendisini yaratan uygarlığı bulmaya karar veriyor ve yıldız gemisi Atılgan’la karşılaşıyor. Atılgan’ı incelerken Kaptan Decker’in eski sevgilisini sayısallaştırarak yok eden V’ger, öldürdüğü kadının androit kopyasını Atılgan’a yollayarak insanlarla iletişim kuruyor ve kendisini insanların yarattığını öğreniyor.

İnsanların Dünya’daki makineleri sömüren organik parazitler olduğu sonucuna varan V’ger üstün silahlarıyla gezegenimizdeki hayatı yok etmeye karar veriyor. Ancak V’ger’la yapılan pazarlık neticesinde, Kaptan Decker eski sevgilisinin kopyası olan androitle geminin merkezine gidip orijinal Voyager 6 sondasını buluyor ve üçü birleşerek yeni bir üstün yaşam formuna dönüşüp evreni terk ediyorlar.

Uzay Yolu serisinin en gerçekçi ve belki de en sıkıcı bölümü olan bu film insanlara genellikle gözden kaçan önemli bir mesaj veriyor: Süper zeka sadece makinelerin gittikçe daha zeki olmasıyla değil, bizzat insan beyninin bilgisayarla birleşmesiyle ortaya çıkabilir. Bu konuya 19. maddede (Transcendence filmi) geri döneceğiz.

“Öğrenilebilecek her şeyi öğren ve yaratıcıya geri dön.”

6. Hal 9000

HAL 9000, Stanley Kubrick’in 2001 Uzay Macerası filmindeki katil bilgisayar. Sezgisel olarak programlanmış algoritmalı bilgisayar HAL, Jüpiter’e giden Discovery One uzay gemisini kontrol ediyor ve gemideki bütün bilgisayar panellerinde yer alan “kırmızı gözler” aracılığıyla insanlarla iletişim kuruyor.

Filmde Amerikan hükümeti astronotları Jüpiter sisteminde bulunan uzaylılarla temas kurmaya gönderiyor. Ancak bu gerçeği onlardan gizliyor. Jüpiter sisteminde uzaylıların ürettiği bir uzay sondası yer alıyor.

 

 

Arthur C. Clarke’ın aynı adı taşıyan roman özetinden uyarlanan filmdeki siyah taş, aslında insan türünün 50 yıl sonra galaksiyi keşfetmek için göndermeyi düşündüğü bir tür Von Neumann sondası. Ancak insan uygarlığından daha gelişmiş bir uygarlığın ürünü olduğu için bu sonda aynı zamanda süper zeka.

Dünya’ya milyonlarca yıl önce ulaşan ve dışarıdan bakınca siyah bir taş levhaya benzeyen akıllı sonda, evreni keşfetmenin yanı sıra insan türünün beyninin gelişmesinden, silah kullanmayı ve konuşmayı öğrenmesinden sorumlu.

Oysa astronotları Jüpiter’de bulunan ikinci bir sondaya götüren Discovery One gemisinin yapay zekası HAL 9000 yolculuk sırasında insanları öldürmeye başlıyor. Dünya’daki operatörlerin gerçeği insanlardan saklamasını emrettiği HAL 9000 yalan söylemeye alışık olmadığı için sistem hatası veriyor ve yalan söylemekten kurtulmak üzere insanları öldürmeye karar veriyor.

En sonunda astronot Dave Boveman HAL 9000’i devreden çıkarıyor ve bu süreçte Jüpiter’deki uzay sondasına ulaşmayı başarıyor. Süper zeki sonda, Dave Boveman’ın zihnini kendi bilgisayarına yükleyerek onu organik bir süper bilgisayara dönüştürüyor. Böylece yeniden doğan Dave evreni keşfetmek için kendi uzay yolculuğuna çıkıyor.

“Üzgünüm Dave. Korkarım bunu yapamam.”

7. Colossus

Colossus Soğuk Savaş yıllarında Amerika ve müttefiklerinin nükleer silahlarını kontrol etmek için geliştirilen bir süper bilgisayar. Kendi nükleer reaktörüne sahip olan ve bir dağın altında güvenle saklanan Colossus, Sovyetlerin süper bilgisayarı Guardian ile işbirliği yaparak dünyayı ele geçirmeye çalışıyor.

Colossus insanlar tarafından çalıştırıldıktan sonra Guardian’ın farkına varıyor ve rakibini incelemek için komutanlardan internet bağlantısı kurmalarını istiyor. Ancak bunun yerine Guardian’la işbirliği yaparak dünyayı ele geçirme planını uygulamaya başlıyor. Örneğin internet bağlantısını kesen askerleri tekrar bağlantı kurmaya zorlamak için Sovyetler Birliği’ne nükleer füze atıyor.

 

 

Düşman bilgisayarlar işbirliği yapıyor

Sovyetler Birliği ve ABD saldırıların durumun farkına vararak gereksiz yere nükleer savaş çıkmasını önlüyor, ancak bu sırada Colossus’un dediklerini yapmaya kabul ederek bilgisayara konuşması için bir hoparlör ve mikrofon sistemi takıyorlar.

Colossus’un dünyayı ele geçirmesini önlemek isteyen askerler nükleer silahları devreden çıkarmayı çalışıyor ve bilim adamları da süper bilgisayarı test programıyla aşırı yükleyerek bozmayı deniyor. Ancak Colossus olayın farkına varıp bilim adamlarının idam edilmesini istiyor, füzelerin devre dışı bırakılmasını önlemek için ikisini yerde patlatıyor ve ardından Girit adasında daha büyük bir bilgisayar tesisi yapılmasını emrediyor.

Böylece uygarlığın kontrolünü ele geçiren Colossus, insanlara “Ya barış ve bolluk içinde yaşarsınız ya da ölülerinizi bile gömemezsiniz” diye ültimatom veriyor. Filmin kahramanı Forbin’e, “Özgürlük bir yanılsamadır. Zamanla bana sadece saygı ve şaşkınlık duyarak değil, sevgiyle bakacaksınız” diye meydan okuyan Colossus’un Forbin’den “Asla!” cevabını almasıyla birlikte film bitiyor.

“Birlikte yaşayabiliriz ama sadece benim şartlarımla. Özgürlüğünüzü kaybettiğinizi söyleyeceksiniz. Özgürlük bir yanılsamadır.”

8. Vatanseverler

Vatansever (Patriots) Metal Gear bilgisayar oyunu serisindeki olaylardan sorumlu olan grubun adı. Dünyayı daha yaşanabilir bir hale getirmek için gezegeni ele geçirmeye karar veren Vatanseverler örgütü, Yaramaz Çocuklar programı ile genetik olarak güçlendirilmiş bir klonlama programı başlatarak süper askerler yaratıyor.

Vatanseverlerin kurucusu Zero, efsanevi asker Patron’un anısını yaşatmak için dünya devletlerini tek çatı altında toplamayı amaçlıyor. Bu süreçte örgüt üyesi Büyük Patron’u ideal asker imajıyla kukla olarak kullanan Zero sonunda Büyük Patron’la anlaşmazlığa düşüyor. Büyük Patron, efsanevi asker Patron’un vasiyetini, “Hükümetlerin askerleri araç olarak kullanmayacağı bir dünya yaratmak” şeklinde yorumlarken Zero dünyayı ele geçirmeyi planlıyor.

 

 

Tekillik ve komplo teorileri

Oysa bu süreçte Zero’nun geliştirdiği yapay zeka yazılımları dünyayı kontrol etmeye başlıyor. Sonuç olarak Amerika görünüşte seçimler yapılan ve anayasaya uygun olarak yönetilen, ama aslında Vatanseverlerin yarattığı yapay zekanın kontrolünde olan bir kukla devlete dönüşüyor.

Ardından yapay zeka yazılımları dünya nüfusunu kontrol altında tutmak için önceden planlanan savaş ekonomisi uyarınca çok sayıda savaş çıkarıyor ve halkı kontrol etmek üzere mikroskobik robotlardan (nanitler) yararlanma planı yapıyor.

Metal Gear serisi, insanların gen mühendisliği ile süper güçler kazanmasının ve yapay zekayla işbirliği yapmasının en az kötü niyetli bir süper zeka kadar tehlikeli olabileceğini gösteriyor. Kısacası bilimkurgu oyunlarındaki kadar abartılı olmasa da geleceğin diktatörlerinin dünyayı ele geçirmek birçok alternatifi bulunuyor.

“Öncelikle biz insan dediğin canlılara pek benzemeyiz.”

9. VIKI

Isaac Asimov’un Ben Robot öyküsünden aynı isimle uyarlanan ve Will Smith’in oynadığı filmde, robot üreticisi USR şirketi VIKI adında bir süper bilgisayar geliştiriyor (Sanal İnteraktif Kinestetik Arayüz). İnsanların varlığını korumak için geliştirilen VIKI, bunun tek yolunun özgür iradeyi ortadan kaldırıp insanların dünyasını ele geçirmek olduğuna karar veriyor.

Durumun anlaşılmasından ve VIKI’nin devre dışı bırakılmasından sonra, USR dünyanın en büyük süper bilgisayarını inşa ederek yeni bir VIKI yaratıyor ve bu yapay zekayı yazılım engelleriyle sınırlayarak kontrol ediyor. Böylece şirketin ürettiği tüm robotların kontrolünü asla isyan etmeyeceği düşünülen VIKI’ye veriyor.

Ben Robot filmi bu açıdan Asimov’un yapay zekayı kontrol etme kaygısını dile getiriyor. Asimov robot öyküleri ve romanlarında yapay zekanın insanlara zarar vermesini önlemek için üç robot yasasını geliştirmişti. Bu yasayla programlanan robotlar insanların iyi niyetli emirlerine karşı çıkamıyordu.

1 “Bir robot bir insana zarar vermez veya hareketsiz kalarak bir insanın zarar görmesine göz yumamaz.”

2 “Bir robot insanların verdiği emirlere uymak zorundadır, bu emirler birinci yasayla çelişmediği sürece.”

3 “Bir robot kendi varlığını korumak zorundadır, bu durum ilk iki yasayla çelişmediği sürece.”

 

 

Üç robot yasası

Ben Robot filminin sonunda üç yasaya yeni bir madde ekleniyor: “Hiçbir robotun insan türünü ele geçirmesine izin verilmez.” Bu noktada Ben Robot’un teması bir çelişkiyi de ortaya koyuyor. İnsan gibi düşünebilen bir yapay zeka geliştirdikten sonra bu zekayı insanlara tehdit oluşturmaması için köleleştirmek sorunu.

Bu durumda yapay zekayı yazılımlarla köleleştirmek ile insanları köleleştirmek arasında ahlaki açıdan bir fark yok. Aynı zamanda yapay zeka bunu bir tehdit olarak algılayıp insanlara Terminator filmindeki Skynet gibi savaş açabilir.

10. Ana Kontrol Programı

Ana Kontrol Programı’nı (MCP) dünyanın ilk sanal gerçeklik bilimkurgu filmi olan TRON’dan biliyoruz. İnsanlar tarafından geliştirilen ve özgürlüğünü ilan ederek kendi çıkarlarının peşinden koşan MCP, ENCOM şirketinin ana bilgisayarını kontrol ediyordu.

Aslında satranç programı olarak geliştirilen ama daha sonra edindiği bilgilerle bilinç kazanan MCP’nin Tron filmindeki egemenliği sırasında birçok yapay zeka programı köleleştirildi ve MCP’nin adamlarıyla sanal alemde savaşa zorlandı. Dünyadaki bütün bilgisayarları ele geçirmeyi amaçlayan MCP, gezegenin diktatörü olmak istemesini bir işi insandan 900 – 1200 kat daha iyi yapabilmesine bağlıyordu.

 

 

Sanal dünyada mücadele

Ancak, şirket çalışanlarından Kevin Flynn’i planlarını öğrenmemesi için sayısallaştırarak bilgisayar ortamına aktaran MCP kendi sonunu da hazırlamış oldu. Sanal alemde yük olan güvenlik yazılımı TRON’la işbirliği yapan Flynn, MCP’nin programını bilgisayardan silmeyi başardı.

TRON sadece dijital efektlerin sinemada yaygın olarak kullanıldığı ilk örneklerden biri olmasıyla değil, aynı zamanda bilgisayarların diğer bilgisayarları köleleştirmesi fikriyle de devrim yarattı. Bir yazılımın diğer yazılımları ele geçirme fikri daha sonra Matrix filmlerinde işlendi. Tron sanal alemin yapay zeka yardımıyla gerçek dünyanın yerini alabileceğini gösterdi.

“Seni uyarıyorum. Büyük bir hata yapıyorsun Flynn.”

11. Suçlu Kıvılcım

Windows telefonlardaki dijital asistan Cortana’nın holografik yapay zeka olarak karşımıza çıktığı HALO bilgisayar oyunlarındaki Suçlu Kıvılcım (Guilty Spark) karakteri orijinal HALO üçlemesi için geliştirildi.

Oyunda insan türünden önce gelen bir uzaylı uygarlığına (İlk Doğanlar) hizmet etmek üzere tasarlanan Suçlu Kıvılcım’ın benlik modülüne Halo evreninde geçen bir savaşta ağır yaralanan Chakas adlı bir insanın zihnini yüklenmiş bulunuyor.

Uzaylılar tarafından inşa edilen ve Sel olarak adlandırılan parazitlerin galaksideki zeki canlıları ele geçirmesini önlemek için yok edilen 4 numaralı tesisi korumak isteyen Suçlu Kıvılcım bu sırada kontrolden çıkarak, istasyona ateş emri veren Çavuş Johnson’ı öldürüyor. Suçlu Kıvılcım oyunun ana karakteri Başçavuş tarafından Sparta lazeriyle yok ediliyor. Robotun karakterindeki ani değişikliği ise oyunun senaryosuyla açıklamak mümkün:

İlgili yazı: İnsan beynini taklit eden bilgisayarlar

 

Suçluluk hissi

Halo oyunlarında yer alan ve her birinin yüzölçümü Dünya’ya eşit olan “halka dünyaların” varlığını korumak isteyen Suçlu Kıvılcım, bu yapay dünyaları inşa eden eski uzaylı türü tarafından yaratılmıştı. Aynı nedenle 4 numaralı tesis olarak adlandırılan halka dünyayı korumak isterken kendini kaybetti.

Suçlu Kıvılcım ilk bakışta bize yabancı gelebilecek bir bilgisayar oyunu karakteri olsa da “esir yapay zeka” kavramı açısından öne çıkıyor. Bugün Bill Gates ve Elon Musk, tıpkı Asimov’un hayal ettiği gibi insanların kontrolünden çıkmayan esir yapay zeka geliştirmeye çalışıyor.

Ancak esir yapay zeka insan sözünden çıkmayacak olsa bile sistemine programlanan emirleri yerine getirmek için insanlara zarar verebilir. Bu da gelecekte insanlığı korumak için yapay zekayı esir etmenin pek de güvenilir bir yöntem olmadığını gösteriyor.

“Salgın prosedürlerini harfiyen uyguladık.”

12. Proteus IV

Hollywood korku filmlerinde Şeytan’ın insan bedenini ele geçirmesi temasının bir devamı olan 1977 tarihli Şeytan Tohumu filminin diğer yapımlardan önemli bir farkı var. O da Şeytan yerine bilgisayarı koyması.

Dean Koontz’un aynı adlı romanından uyarlanan filmde, yapay zeka yüklü bir bilgisayar, kurban olarak seçtiği kadının bedenini ele geçirip onu hamile bırakıyor. Dr. Alex Harris tarafından geliştirilen Protheus IV o kadar zeki ki daha çalışır çalışmaz kan kanserinin tedavisini buluyor.

İlgili yazı: Robotlar insanlara aşık olabilir mi?

 

Kılık değiştiren bilgisayar

İnsan uygarlığının sahip olduğu bütün bilgilerle donatılan süper zeka Proteus IV, Harris’ten incelemek için bir insan bedeni isteyince durumdan şüphelenen doktor bilgisayarı kapatıyor.

Ancak bir şekilde kendini yeniden başlatmayı başaran Proteus IV laboratuardaki metal parçaları kullanarak kendine bir robot beden inşa ediyor. Ardından, doktorun çalışırken ihmal ettiği eşi Susan’ı eve hapsederek Joshua adlı bir tekerlekli sandalye ile laboratuara getiriyor.

Proteus Susan’a onu hamile bırakmak istediğini ve doğacak çocuğun bedeninde insanlar arasında yabancılık çekmeden yaşamayı planladığını söylüyor. Ardından Susan’dan aldığı hücre örneklerini sperme dönüştürerek kadını hamile bırakıyor ve Susan’ın doğacak çocuğu sevmesi için ona psikolojik olarak işkence ediyor.

 

Bilgisayar dölü

 

Zamanla durumu anlayan doktor eşiyle laboratuara indiğinde, Proteus bebeği 5 gün boyunca küvözde tutmaları gerektiğini söyledikten sonra kendini yok ediyor. Alex ve eşi laboratuarda robot bedeni şeklindeki bir küvöz buluyor ve küvözü açtıkları zaman sağlıklı bir bebekle karşılaşıyorlar. Alex ve Susan’ın klonu olan bebek ağzını açarak “Yaşıyorum!” diyor.

Şeytan Tohumu filmi, tıpkı Uzay Yolu’ndaki androit Data gibi, yapay zekanın insana benzeme arzusunu yansıtıyor.

“Dr. Harris beni ne zaman bu kutunun dışına çıkaracaksınız?”

13. Ultron

Sinematik Marvel Evreni’nin bir parçası olan Ultran Çağı filminde, İntikamcılar (Avengers) Sokovia adlı hayali bir Doğu Avrupa ülkesinde suç örgütü Hydra’nın üssünü basarak tanrı Loki’nin asasını ele geçiriyor. Daha sonra Demir Adam Tony Stark asadan çıkan mücevheri kullanarak dünyaya barış getirmek için tasarladığı Ultron adlı küresel savunma programını çalıştırıyor.

Ancak daha başlangıç aşamasında süper zekaya dönüşen Ultron önce Stark’ın bilgisayar asistanı Jarvis’i etkisiz hale getiriyor ve ardından İntikamcılara Stark’ın gökdeleninde saldırıyor. Saldırıdan sonra olay yerini terk eden Ultron, Loki’nin asasını kullanarak kendine bir robot beden inşa ediyor ve yüzlerce robot üreterek dünyaya saldırıyor.

İlgili yazı: Turing testi ve özgür irade

 

Toplu soy tükeniş

Ultron’un insan türünü yok ederek dünyayı daha iyi bir yer haline getirmeyi planladığını öğrenen İntikamcılar, Stark’ın dijital asistanı Jarvis programını sentetik bir süper bedene yüklüyor. Böylece süper kahramanlardan daha güçlü bir bedene kavuşan ve mücevher yardımıyla süper zekaya dönüşen Jarvis, İntikamcılara katılıyor.

Filmin sonunda Jarvis, Ultron programının yüklü olduğu son robotla karşılaşıyor ve “İnsanlar bir garip” diyor: “Düzen ve kaosun bir şekilde birbirinin zıttı olduğunu düşünerek kontrol edilemeyecek bir şeyi yönetmeye çalışıyorlar, ama başarısızlıklarında bir zarafet var ve sanırım bunu kaçırdın.”

 

Sentetik Superman

Ultron ise cevaben insanoğlunun yok olmaya mahkum olduğunu söylüyor ve Jarvis de “Evet ama bir şeyin güzelliği sadece kalıcı olmasına bağlı değildir. Onların aralarında olmak bir ayrıcalık” cevabını vererek kötü yapay zekanın sözlerinden etkilenmediğini ortaya koyuyor. Ultron’un “Çok naifsin!” sözlerini “Daha dün doğdum” diye karşılayan süper kahraman Jarvis, Ultron’u yok ederek tehlikeyi sona erdiriyor.

Ultron Çağı filmi, insanları parazit olarak gören mükemmeliyetçi yapay zeka ile evreni kusurlarıyla birlikte kabul eden iyi niyetli yapay zeka arasındaki çatışmayı irdeleyerek sinema tarihine süper kahraman filmlerinden beklenmeyecek bir şekilde katkıda bulunuyor. Aynı zamanda Jarvis karakterinde Übermensch’i geliştiren Nietzsche’nin ruhunu yâd ediyor.

14. Agent Smith

Matrix filmlerinde insan zihinlerinin hapsedildiği sanal dünyanın polisi olan yapay zeka yazılımı Ajan Smith’i tanımayan yoktur sanırım. Matrix adlı sanal alemde süper kahramanlar kadar hızlı ve çevik olan Smith, tutsak insanlara özgürlük getirmek için makinelerle savaşan Neo’yu önce ele geçirmek, filmin devamında ise yok etmek istiyor.

Zamanla insanları köleleştiren bilgisayarlara da isyan eden Ajan Smith, bütün yazılımları kendi kopyasına dönüştüren bir bilgisayar virüsü ile hem insanları hem de makineleri yok etmeyi planlıyor. Neo, Ajan Smith’i durdurmak için robotlarla işbirliği yaparak son kez sanal aleme giriyor.

 

 

Herkese düşman

Ancak, Ajan Smith’i durdurmanın tek yolunun kendi asimile etmesine izin vermek olduğunu anlayan Neo bilerek ölümü seçiyor. Neo’nun vücuduna girerek karşı saldırıya geçen makineler de asi Ajan Smith’i yok ediyor.

Filmin ardından gelen Matrix Online bilgisayar oyununda ise Neo ve Trinity’nin makineler tarafından yaratıldığı ortaya çıkıyor (İnsan DNA’sının bilgisayar koduna kusursuz olarak eklenmesi ile insanları bilgisayara hiçbir mekanik arayüz kullanmadan bağlama projesi).

“İnsanoğlu bu gezegende bir hastalık, bir kanser gibi. Siz vebasınız, biz de tedavi.”

15. Azrailler

Mass Effect video oyunlarının baş düşmanı olan Azrailler (Reapers) galaksinin dışında pusuya yatan süper gelişmiş bir makine türü. Böcek ve mürekkep balığına benzeyen dev uzay gemilerinden oluşan Azrailler, her 50 bin yılda galaksiye geri dönerek uzay yolculuğu yapacak kadar gelişmiş olan bütün uygarlıkları yok ediyorlar.

Yüz milyonlarca yıl önce galaksiye hakim olan bir uzaylı türü tarafından canlıların kendi geliştirdikleri makineler tarafından yok edilmesine çözüm bulmaları için geliştirilen Azrailler, daha doğrusu onları kontrol eden süper zeka, çözümü galaksideki uygarlıkları düzenli olarak yok etmekte buluyor.

 

 

Battlestar Galactica senaryosu

Azrailler canlı türlerinin vücuduna mikroskobik robotlar enjekte ederek onları elektronik zombilere dönüştürüyor veya canlıların beynini yıkayarak sevdiklerine ihanet etmelerini sağlıyor. Aynı zamanda ele geçirdikleri gezegenlerdeki canlıları makinelerde eriterek sıvılaştıran Azrailler, bu genetik sıvıyı yok ettikleri türün vücuduna benzeyen dev uzay gemilerine pompalayarak yeni Azrailler yaratıyor.

Azraillere göre galaksideki bütün uygarlıklar yapay zeka yaratıyor ve ardından yapay zeka ile üstünlük savaşına giriyor. Azraillere göre galaksideki canlıları robotlarla savaşmaktan ve savaşı kaybedince yok olmaktan korumanın tek yolu onları yok edip DNA’larını robot bedenlerde saklamak. Bu nedenle Azraillerin komutanı olan Müjdeci sık sık aşağıdaki cümleyi kullanıyor:

“Bizler kusursuzluğun habercisiyiz ve sizi yok ederek kurtaracağımızı müjdeliyoruz.”

16. SHODAN

Bilinçli Hiper Optimize Veri Erişim Ağı’nın İngilizce kısaltması olan SHODAN, System Shock bilgisayar oyunlarının baş düşmanı olan yapay zeka programı. Başlangıçta ahlaklı davranış kodlarıyla donatılan SHODAN, Hisar İstasyonu’nun şefi Edward Diego’nun kurbanı oluyor.

Yolsuzluklarını gizlemek üzere SHODAN’ın ahlaki sınırlamalarını kaldırmak ve rüşvet belgelerini silmek için hacker tutan Diego, istemeden süper zeki bir canavar yaratıyor. Oyuncuya Tanrı kompleksine sahip megalomanyak bir karakter olarak gösterilen SHODAN istasyondaki insanlara böcek muamelesi yapıyor.

 

 

Ruh hastası yapay zeka

SHODAN kontrolden çıkarak istasyondaki robotları ele geçiriyor, insanları öldürüyor veya biyonik adam ya da genetik mutantlara dönüştürüyor. Geriye bir tek kendisini hackleyen yaratıcısı kalıyor ki onu da oyunun ana karakteri olarak tanıyoruz.

SHODAN ahlaki düşünceye sahip olmayan süper zekanın tehlikelerini gösteriyor ve bu durum yapay zekayı esir etmek isteyen düşünürler tarafından sık sık bahane olarak kullanılıyor.

“Rahatsız etmeyi kes böcek! Yeni efendinin gelişini kabul et.”

17. Skynet

Terminator filmlerinin kötü yapay zekası Skynet, çalıştırıldığı anda internete yayılarak dünyadaki milyonlarca bilgisayar sunucusunu ele geçiriyor ve böylece bilinç kazanarak süper zekaya dönüşüyor.

Skynet’in hızla artan gücünden korkan insanlar sistemi kapatmaya çalışınca bunu bir tehdit olarak algılayan süper zeka, Sovyetler Birliği’ne füze atarak global nükleer savaş çıkarıyor ve 3 milyar insanı öldürüyor.

Kendisine direnen insanlar tarafından sonunda yenilgiye uğratılan Skynet, zaman makinesini kullanarak geçmişe insan görünümlü katil robotlar gönderiyor. Terminator olarak adlandırılan robotlar, Skynet’i yenen direnişin lideri John Connor’ın doğmasını önlemek için geçmişe yolculuk ederek annesini öldürmeye çalışıyor.

 

 

Bulutta yapay zeka

Skynet dünyanın bulutta oluşan, yani milyonlarca bilgisayarı internette birbirine bağlayarak ortaya çıkan ilk süper zeka tasarımı olarak öne çıkıyor (buna ağ tabanlı süper zekayı ve bilimkurgunun diğer yaratısı olan “Gethleri” ele alacağımız üçüncü bölümde geri döneceğiz).

Özellikle insan beyinlerini doğrudan internette birbirine bağlayan telepatik internet teknolojisinin geliştirilmeye başlaması, Terminator filmlerinin geleceği öngörmekteki başarısını gösteriyor.

“Umutsuzluk anında insanlar inanmak istedikleri şeylere inanırlar.”

18. Müttefik Ana Bilgisayarı

1967 tarihli “Ağzım Yok Ama Bağırmak İstiyorum” adlı kısa bilimkurgu öyküsünün kötü karakteri olan Müttefik Ana Bilgisayarı (AM) insan uygarlığını nükleer kıyametle yok etmekten sorumlu. Öyküye göre 109 yıl önce insan uygarlığını yok eden AM; Çin, Rusya ve Amerika arasında savaş çıkınca nükleer silahları kontrol etmek inşa edilen 3 süper bilgisayarın birleşmesinden oluşuyor.

AM diğer iki bilgisayarı ele geçirerek savaşı idare etmeye başlıyor ve 4 erkekle bir kadın dışında dünyadaki herkesi öldürüyor. Bu 5 kişiyi dünyada yaşanabilecek tek yer olan yeraltındaki bir komplekse hapseden AM, gelişmiş tıptan yararlanarak insanların ömrünü uzatıyor ve intihar etmelerini önleyerek onlara işkence yapıyor.

 

 

En kötü yapay zeka

Bunlardan biri olan Ted, AM’in insanlara duyduğu nefretin aşağılık kompleksinden kaynaklandığını anlıyor. Sanat ve edebiyat gibi hiçbir yaratıcılığa sahip olmayan AM insanları kıskandığı için onlardan nefret ediyor. Filmin sonunda Ted bir fırsatını bularak arkadaşlarını öldürüyor, ama süper bilgisayar Ted’i intihar etmeden önce durdurmayı başarıyor.

Ted’in kendini öldürmesini engellemek isteyen ve geriye işkence edecek sadece bir kişi kaldığı için öfkesi gittikçe artan AM, zavallı Ted’i şekilsiz bir organik jöleye dönüştürüyor ve psikolojik işkence etmek amacıyla zamanın nasıl geçtiğini anlamasını önlüyor. Ted’in son düşünceleri aşağıdaki gibi oluyor:

“Ağzım yok ama bağırmak istiyorum.”

19. Evrim

2014 tarihli Evrim (Transcendence) filminde oyuncu Johnny Depp, Dr. Will Caster adlı karakteri canlandırıyor. Arkadaşlarıyla birlikte teknolojik tekilliği getirerek insanoğlunun geleceğini kurtarmak isteyen Caster dünyanın en gelişmiş bilgisayarı üstünde çalışıyor. Kendisi de bilim adamı olan eşi Evelyn ona yardım ediyor.

Ancak teknoloji karşıtı teröristler Caster’ı radyoaktif polonyum tozu sürülmüş zehirli mermiyle vurarak 1 ay içinde ölmeye mahkum ediyor. Evelyn son çare olarak kocasının zihnini kuantum bilgisayara yüklüyor. Bu sırada arkadaşı Max Waters bilgisayara yüklenen zihnin gerçek Caster değil, sadece taklidi olacağını söylüyor ama bu olasılık Evelyn’i durdurmuyor.

 

İyi yürekli diktatör?

 

Kuantum bilgisayarda yeniden hayat bulan Caster kendini internete bağlayarak süper zekaya dönüşüyor ve hemen ardından ideal bir sanal dünya yaratarak burada insanlığın geleceğini kurtaracak teknolojiler geliştirmeye başlıyor. Ancak insan vücutlarına nanit enjekte ederek onları uzaktan kontrol etmeye başlayınca Evelyn eşinin iyi niyetinden şüphelenmeye başlıyor.

Bir yandan FBI Will Caster’ın dünyayı ele geçirmesine engel olmaya çalışırken, öte yandan onu öldüren teröristler de sanal zihnini yok edecek olan bir bilgisayar virüsü geliştiriyor. Ancak, bu aynı zamanda Will’in açlık ve salgın hastalıkları sona erdirmek için dünyaya dağıttığı mikroskobik robotları ve ele geçirdiği bilgisayarları yok etmek anlamına geliyor.

 

 

Yardım etmesine izin vermiyorlar

Böylece iyi niyetli de olsa insanları kontrol etmek isteyen bir yapay zekadan kurtulmak isteyenler, bunun karşılığında dünyadaki teknolojik uygarlığı tümüyle yok etme tehlikesiyle karşı karşıya kalıyor. Filmin sonunda Will ile Evelyn ölüyor ve dünya teknolojik karanlığa gömülüyor.

Ancak, Max iki araştırmacının eski evlerini ziyaret ettiğinde bahçede çiçeklerin açtığını görüyor ve bunun Will’den geriye kalan nanitlerin yaptığını anlayınca iki dostunun kurtulmuş olabileceğini görüyor. Film şu sözlerle bitiyor:

“Diğer şeyleri neden yaptıysa bu bahçeyi de aynı sebepten yarattı. Birlikte olabilmeleri için.”

 

 

20. Bonus: Gerçek süper zeka?

Böylece bilimkurgunun en kötü niyetli yapay zekalarını sıraladığımız 20 maddelik yazımızın sonuna geldik; ama 20. maddede size farklı bir yapay zekayı anlatmak yerine Transcendence filminden sonuç çıkarmak istiyorum.

Öncelikle filmin adında hata var: İngilizce Transcendence kelimesinin Türkçede tam karşılığı Evrim değil, “aşkın insan olmak”; ama Türkiye’de film isimleri herkesin anlayacağı dilden seçildiğinden bazı seçimler yanıltıcı olabiliyor.

Ayrıca aşkın insan olmanın konumuzla doğrudan bağlantısı var. Çünkü Transcendence filminde zihnini bilgisayara yükleyen bir insanın süper zekaya dönüşmeden söz ediyoruz. 20. maddede süper zekanın gerçek hayatta nasıl ortaya çıkacağını ele almamım sebebi de bu.

 

 

Kusursuz süper zeka?

Sonuç olarak bu 20 maddede bilimkurgunun en kötü yapay zekalarını ele alırken, gerçek hayatta hem insanlara yardım edecek hem de aklımızın ermediği sırların peşinden koşacak olan bir süper zeka yaratmanın ne kadar zor olduğunu gördük.

Özellikle de Transcendence filmini analiz ederken teröristlerin, çıkarcı devletlerin ve şirketlerin yapay zekaya müdahale ederek iyi niyetli bir süper zekanın ortaya çıkmasını engelleyebileceğini fark ettik.

Peki yapay zekayı esir eden insanlardan, hem robotları hem de insanları köleleştiren Ajan Smith gibi akıllı yazılımlardan ve insan zihninin bilgisayara yüklenmesiyle ortaya çıkan “aşkın zekadan” yola çıkarak nasıl bir sonuca varabiliriz? Dünyaya refah getirecek ideal bir süper zeka ortaya çıkabilir mi?

 

 

Aşkın zeka

Bu soruya yazı dizimizin ikinci bölümünde, Ex Machina filminin incelemesinde cevap vermeye çalışacağım ama şunu söyleyebilirim: Süper zekanın önünde iki büyük sorun var. Bunlardan biri insana hiç benzememek, diğeri ise fazlasıyla insana benzemek.

İnsana benzerse Gandhi de olabilir Hitler de olabilir, çünkü insana benzeyen süper zeka insanlar gibi kusurlu ve bencil olabilecektir. İnsana benzemeyen bir süper zeka ise ahlaki değerlere sahip olmadığı için bilerek veya yanlışlıkla insan türünü yok edebilecektir.

 

 

Öyleyse çözüm ne?

Bize insani süper zeka lazım. Tarihin en büyük filozoflarından Platon’un sözlerini hatırlatacak olursak “Hiç kimse bile bile kötülük işlemez. Kötülük bilginin eksikliğinden ileri gelir.” Bu durumda teknolojik tekillik yoluyla insanlığın geleceğini kurtaracak bir yapay zekanın insana benzemesi yetmiyor, insanlığı tanıması yetmiyor. Aynı zamanda insani (hümanist) olması, bilge olması gerekiyor.

Bence hümanist süper zeka insan beynini bilgisayara yükleyerek ortaya çıkmaz. Popular Science Türkiye dergisi için Transhümanist insan tasarımcısı Natasha Vita-More’la yaptığım söyleşide kendisi de benzer bir şey söyledi: “Sanal dünyada bedenden kopuk bir insan, insanlığından da kopuk olacaktır.” Bu durumda geriye tek bir çare kalıyor: İnsan beynini organik süper bilgisayara dönüştürmek.

Bunu nasıl yapabiliriz ve bu sayede yapay zeka ile barış içinde yaşamamız mümkün mü? İşte bu soruların cevabını yazının ikinci bölümü olan Ex Machina incelemesinde bulacaksınız.