Bill Gates ve Elon Musk Yapay Zekadan Neden Korkuyor? >> Düşünen robotlar dünyayı ele geçirir mi? – 1

Boston_dynamics-google-robot-atlas-robots

28 Ocakta Reddit tarafından düzenlenen “istediğini sor” oturumuna katılan kullanıcılardan biri (beastcoin) Microsoft’un kurucusu Bill Gates’e şu soruyu yöneltti: “Süper zekalı makineler sizce insanoğlunun varlığını tehdit ediyor mu, ediyorsa ne kadar ediyor ve internet etkinliğinin tümüyle şifrelenmesi bizi bu tehlikeden korur mu?”

Bill Gates internetin tümüyle şifrelenmesini ve böylece NSA ile Microsoft’un insanları gözetlemesinin imkansız hale gelmesini istemediği için bu sorunun ikinci kısmına yanıt vermedi, ama Yapay Zekadan endişe duyduğunu söyledi:

Kaygılıyım

“Süper zeka konusunda çok kaygılıyım. Önce makineler birçok alanda işimizi görecekler ama bu aşamada süper zeka seviyesinde olmayacaklar. Bunu iyi yönetirsek olumlu sonuçlar alırız. Ancak birkaç on yıl sonra makineler bize kaygı verecek kadar zeki olacaklar. Bu konuda Elon Musk’la diğerlerine katılıyorum ve insanların bundan neden kaygı duymadığını anlamıyorum.”

Aslında SpaceX şirketiyle insanlığı Mars’a taşımayı hedefleyen ve elektrikli Tesla otolarla bizi fosil yakıt bağımlılığından kurtarmaya çalışan Elon Musk’ın ve Microsoft’un kurucusu Bill Gates’le diğer iş adamlarının süper zekadan, yani insanlardan daha zeki olan düşünen robotlardan neden korktuğu belli.

Ancak bunu anlamak için önce düşünen robotlar ve bilgisayarlar geliştiren şirket yöneticileriyle bilim adamlarının görüşünü almamız gerekiyor. Sorunun cevabını yazının sonunda vereceğiz fakat sabırsızlananlar için baştan söyleyelim, Bill Gates gibi büyük şirket sahiplerinden başka kimse Yapay Zekadan pek korkmuyor. Hele yazılımcılar, bilgisayar bilimciler ve robot uzmanları hiç korkmuyor.

Bill_Gates_July_2014Terminator ve Battlestar Galactica gerçek olur mu?

Öncelikle şunu söyleyelim; süper zeka ve düşünen robotlar henüz gelmedi ama aptal robotlar, yani otomatlar yüz yıldır aramızda. Bugün Android telefonlardaki Google Now yazılımı, Windows telefonlardaki Cortana ve iPhone Siri hep yapay zeka. Belki teknik adıyla güçlü yapay zeka değil, ama zayıf yapay zeka.

Ona bakarsanız Google’ın sürücüsüz arabaları, laptoplar, uçakların oto pilotları, insansız hava araçları, dronlar, Honda’nın Asimo robotu, otomotiv fabrikalarındaki robotlar, evimizdeki programlanabilir çamaşır ve bulaşık makineleri de yapay zeka.

 

3d-robots-by-franz-steiner (11)Bugün yapay zeka olmasıydı ne kaloriferler yanar, ne musluktan su akar ne de elektrikli cihazlar çalışırdı. Bununla birlikte robotlar ve bilgisayarlar henüz dünyayı ele geçirmedi.

Peki hep öyle mi olacak? Belki bugün dünyayı ele geçirecek kadar akıllı değiller ama yarın ele geçirecekler. En azından ünlü fizikçi Stephen Hawking Yapay Zekadan korktuğunu söylerken böyle mantık yürütüyor.

 

1-britishtheorHawking’in korkusu

Stephen Hawking, Einstein’dan sonra gelen en büyük fizikçilerden biri olarak kabul ediliyor. Ancak Hawking aynı zamanda hiçbir şirkette çalışmayan ve tekerlekli sandalyeye mahkum olan bir düşünür. Hawking’in görüşleri bu yüzden önemli, çünkü Bill Gates gibi ticari kaygıları yok. Ne konuşuyorsa tarafsız söylüyor ve diyor ki:

“Yapay zekanın ilkel türlerinin son derece yararlı olduğunu çoktan gördük. Ancak tam kapsamlı bir yapay zekanın geliştirilmesi insanlığın sonu olabilir. İnsanlar yapay zekayı geliştirdikten sonra, bu tür bir zeka kendi yolunu çizerek kendini yeniden tasarlayabilir ve sürekli artan bir hızda gelişebilir.”

Peki bu Hawking’i neden korkutuyor? Çünkü Hawking bugün dünyaya egemen olan zekanın yaptıklarını görüyor: Savaş, yoksulluk, açlık, sömürü, cinayetler, değersizleşme, çevre kirliliği, küresel ısınma, türlerin soyunun tükenmesi, ırkçılık, nükleer silahlar… İnsanlar bütün bu kötülükleri yaptıysa insandan zeki olan bir robot neler yapar?

 

Amerika’yı yeniden keşfetmeyin: Platon’u dinleyin

Oysa günümüzden yaklaşık 2300 yıl önce yaşamış olan Platon kötülük cahillikten gelir demişti. Gerçekten bilgili olan bir insan kötülük yapmaz.

Bu bağlamda psikiyatrik rahatsızlıkların da insanların bilge olmasının önünü keserek kötülüğe yol açtığını söyleyebiliriz. Örneğin akli melekeleri yerinde olmayan bir insanın akademik eğitim almış olsa bile gerçekten bilgi ve irfan sahibi olduğunu söyleyebilir miyiz?

En iyisi lafı dağıtmadan dijital filozof Nick Bostrom’a geçelim. Bostrom geçen yıl Google’ın Mühendislik Direktörü Ray Kurzweil’ın açtığı Singularity Üniversitesi’nde düzenlenen ve ünlü gelecek bilimcinin bizzat katıldığı bir seminerde yapay zekadan, özellikle de süper zekadan, yani insanlardan zeki olan makinelerin gelişinden söz etti.

 

neverfarfromMakinelerin gazabı

Özetle dedi ki kağıt ataşı üretmek için elindeki tüm kaynakları kullanmaya programlanmış olan süper zeki bir makine geliştirirsek o makine bütün insanları eritip suyumuzu çıkarabilir ve hepimizi kağıt ataşı yapmak için ham madde olarak kullanabilir. Bu durumda insan soruyor: Peki sonsuza kadar kağıt ataşı üretmek için çalışan ve üretimi optimize etmek amacıyla insanoğluna soykırım yapmaya karar veren bir makine gerçekten zeki olabilir mi?

Bence bu çok aptal bir makine olurdu ve 20 Şubatta Lütfü Kırdar’da düzenlenecek alldesign Yaratıcı Endüstriler ve Gelişen Teknolojiler Fuarı & Uluslararası Tasarım Konferansları‘nda bir konuşma yapacak olan Bostrom’a neden böyle bir makineyi insanlığı tehdit eden süper zeka sınıfına soktuğunu soracağım.

Oxford Üniversitesi’nde insanoğlunun varlığını tehdit eden riskler üzerinde uzmanlaşan ve İnsanlığın Geleceği Enstitüsü yöneticisi olan Bostrom’un son derece aydınlatıcı bir cevap vereceğinden eminim. Gerçi Bostrom’un cevabını az çok tahmin edebiliyorum ve cevabını aldıktan sonra Popular Science Türkiye’de sizlerle paylaşacağım. 🙂

 

ff_robot5_largeÖyleyse neden bir bardak suda fırtına koparıyorlar?

Yapay zeka tehlikesi gerçek mi yoksa “yapay” mı? Bu sorunun cevabını bulmak için yapay zeka geliştiren startup şirketi Vicarious’un kurucu ortaklarından Dileep George’u dinleyelim. Bakalım o, süper zekanın tehlikeli olup olmadığı konusunda ne düşünüyor?

Dileep, “İnsanlar tarih boyunca birçok teknolojiden korkup paniğe kapılmıştır” diyor. “Buhar makinesinden nükleer enerjiye ve biyoteknolojiye uzanan bir süreç bu. Çünkü toplumsal histeriye odaklanırsanız daha çok gazete ve film bileti satarsanız. Bence yapay zeka konusunda korkuların abartılmasının sebebi de bu”, korkudan para kazanmak.

“Biz araştırmacıların Hollywood zihniyeti ile gerçek dünya arasındaki farkı göstermek için halkı eğitme yükümlülüğümüz var. Üstelik yapay zeka topluluğu şu anda halkı korkutacak bir şey icat etmekten çok ama çok uzak.”

 

android-designer-dr-david-hansonPeki ya Vicarious çıkarcı ise?

Açıkçası az önce Bill Gates için kullandığımız argümanı Vicarious için de kullanabiliriz. Belki de Dileep George yapay zeka geliştirerek para kazanmak istediği için yapay zekadan korkmuyor. Belki de tehlikeyi bizden saklıyor. Ancak bu konuda hemen sonuca varmadan önce şirketin diğer kurucu ortağı olan D. Scott Phoenix’in sözlerini aktaralım:

“Dünyanın önde gelen yapay zeka şirketleri güvenliğimizi sağlamak için büyük önlemler aldılar. Bu şirketler tehlikenin farkında, ama dijital süper zekayı şekillendirip kontrol ederek kötü niyetli yazılımların internete kaçmasını önleyebileceklerine inanıyorlar. Bakalım, göreceğiz.”

Phoenix’in bu noktada Terminator filmindeki kötücül yazılım Skynet’ten söz ettiğini anlayabiliyoruz. Skynet interneti ele geçirip nükleer savaş başlatarak insanoğluna savaş açmıştı. Peki bugün Skynet olsa insanlığa saldırmak için ne gerekçesi olabilirdi? Belki fişini çekmek istersek kendini kurtarmak için bize saldırırdı.

 

Asimov’un 3 robot yasası

Ancak dikkat edilecek olursa bu davranış Skynet’in süper zeka olmadığını gösterirdi. Çünkü bir bilgisayar fişini çekmek gibi basit bir saldırıdan korkuyorsa bir insandan daha zeki olamaz. Yine de bunlar zor sorular.

Sonuçta her yazılımın güçsüz olduğu bir an ve savunmasız bir bilgisayara bağlı olduğu bir dönem olabilir. Biz de bu bağlamda Phoenix’in değindiği iki noktayı açalım ve yapay zeka tehlikesini önlemek için neler yapabileceğimize bakalım.

 

Robots_of_Dawn_by_jmsnooks1) Süper zekayı şekillendirmek bence düşünen robotları ve bilgisayarları çocuk gibi eğitmek anlamına geliyor. Öyle ya, çocuklarımıza sosyalleşip kendilerine ve topluma yararlı bireyler olmaları için aile içinde ve okulda eğitim veriyoruz. Robotlarımızı neden eğitmeyelim?

2) Süper zekayı kontrol etmek: Bu kavram yeni değil aslında, hemen bütün bilimkurgu eserlerinde var ve İngilizcesi Shackled AI, yani ayağına pranga vurulmuş yapay zeka. Açıkçası, özel yazılım kodları ile daha kernel seviyesinde kötülük yapmamak için programlanmış olan yapay zeka. Bunun en basit örneği ise Asimov’un 1940’lardan itibaren yazmaya başladığı robot öykülerinde geçen üç robot yasası:

(1) Bir robot bir insana zarar veremez veya hareketsiz kalarak bir insanın zarar görmesine göz yumamaz. (2) Bir robot insanların verdiği emirlere uymak zorundadır, birinci yasa ile çelişmediği sürece. (3) Bir robot birinci ve ikinci yasayla çelişmediği sürece kendi varlığını korumak zorundadır.

 

Ert_+_citadel_-_control_2İyi yürekli robot diktatörler

Ancak Asimov’un 1985 tarihli Şafağın Robotları romanında anlattığı gibi Giskard adlı bir robot zamanla kendi içinde “0 yasasını” geliştirdi.

Sıfır yasası birinci yasadan bile önce geliyordu. Buna göre bir robot insanlığa zarar veremez veya hareketsiz kalarak insanlığın zarar görmesine göz yumamaz. Birinci, ikinci ve üçüncü yasa sıfır yasasından sonra gelir ve sıfır yasasına uymak zorundadır.

Romanda Giskard karşısındaki insanı görebiliyordu ama insanlığın ne olduğunu, bu soyut bir kavram olduğu için göremiyordu. Bu sebeple, ne olduğunu tam olarak bilmediği insanlığın evi olan Dünya’yı yok etmek isteyen bir insana zarar verdiği için kısa devre yapıp bozulmuştu.

 

Aynı çelişkiyi Mass Effect 3 video oyununun sonunda görüyoruz: Komutan Shepard galaksideki tüm gelişmiş uygarlıkları asimile etmeye çalışan dev akıllı uzay gemilerini, Azrailleri durdurmak için üç seçeneğe sahip bulunuyordu:

Ya Azrailleri yok edecek, ya zihnini Azraillerin ana bilgisayarına yükleyip bütün insanlığı iyi yürekli bir diktatör olarak yönetecek (insanlığı kendi işlediği suçlardan koruyacak) ya da organik canlılarla makinelerin birleştiği sentetik bir uygarlık kuracaktı.

(Bu durumda hem makineler hem de insanlar özgür iradeye sahip olacaktı, ama Shepard bu kararı kimseye danışmadan kendi başına alacaktı. Tıpkı bizim iyiliğimizi düşünen bir süper zekanın yapabileceği gibi).

 

3d-robots-by-franz-steiner (17)Bill Gates korkmakta haklı mı?

Bill Gates’in Yapay Zekadan korkmasının sebepleri burada biraz daha netleşiyor: Örneğin, yeterince zeki ve bilgili olan iyi yürekli bir bilgisayar sırf insanlığın iyiliği için dünyayı ele geçirir ve bize okullardaki otoriter öğretmen muamelesi yaparsa ne olacak?

Ya toplumun iyiliği için bazı insanları öldürür veya hapsederse ya da insanların beynini yıkarsa ne olacak? Ancak bu noktada Platon’un argümanına geri dönebiliriz. Platon olsaydı o makine zeki olabilir ama akıllı değil, aptalın teki ve cahil derdi.

 

3d-robots-by-franz-steiner (3)Bu bir kelime oyunu değil. Burada çok basit bir argümanı tartışıyoruz: İnsan seviyesindeki yapay zekadan korkmamız gerekir çünkü insan kadar zeki varlıkların insan kadar bencil ve kötü olma ihtimali var.

Ancak süper zekadan korkmak saçma olur, çünkü Evren’in sırlarını anlayacak ve derviş gibi erecek kadar gelişmiş bir yapay zeka asla insanlığa zarar vermez.

Süper zeka aynı zamanda bilge bir varlık olur ve bilge robotlar kimseye zarar vermezdi. En fazla fani dünyayı yetersiz bularak Her filmindeki Samantha adlı bilgisayar yazılımı gibi Evren’in sırlarına vakıf olmak için terk-i dünya ederlerdi. Bu da bir bakış açısı.

 

Nick_Bostrom,_Stanford_2006_(square_crop)Nick Bostrom’un görüşleri

Dijital Filozof Nick Bostrom’un yapay zeka ve özellikle de süper zeka hakkındaki görüşlerini özel bir yazıyla ele alacağız. Ancak burada kısa bir giriş yapabiliriz:

Nick Bostrom son derece gerçekçi bir filozof olarak süper zekanın bir anda geliştirilemeyeceğini biliyor. Süper zekanın geliştirilmesi en az otuz yıl alacak. Kurzweil’ın dediği gibi bir gün insan gibi yürüyen robot göreceğiz, öbür gün insan gibi satranç oynayan robot, ardından insan gibi gülen robot ve aşık olan robot. Sonra bir bakmışız ki bizden zeki robotlar piyasaya çıkmış.

 

A.I.-Artificial-Intelligence-2001-2Bu noktada yapay zeka göstere göstere geliyor diyebiliriz, yani kendimizi korumak için önlem almaya yeterince vaktimiz olacak.

Yapay Zekanın Şafağı yazı dizisinde belirttiğim gibi, bence düşünen robotlar gelişmeden önce bizzat insanlar organik birer süper bilgisayara dönüşecek ve telepatik internetle birbirine bağlanan insan beyinleri paralel işlemcili dev bir ortak akıl yaratacak.

Belki de filozof Hegel’in Gestalt ortak aklı ile Eski Yunan uygarlığının canlı gezegen Gaia konsepti, Isaac Asimov’un Vakıf ve Dünya romanında olduğu gibi birleşecek. Belki de Dünyamız yaşayan dev bir bulut bilişim gezegenine dönüşecek. İnsanlarla hayvanların, bitkilerin, bakterilerin, virüslerin, makinelerin, bilgisayarların ve hatta dağların köklerindeki kayaların hemhal olduğu bir dünya. Bir telepatik internet dünyası.

 

a118_predator_firing_hellfire_2050081722-16359Önce insanlar bilgisayar olacak

Süper zekanın insanlara zarar vermeyeceğini düşünüyorum çünkü şöyle bir varsayım yürütüyorum: Yapay süper zeka gelişene kadar bizzat insanlar süper zeki varlıklara dönüşebilirler. Böylece aklı başına gelen (!) insanlar gerçekten iyi yürekli ve akıllı olan bir yapay süper zeka ortaya çıkmasını sağlayabilirler.

Gerçi yapay süper zekanın kısa süre içinde hızla gelişerek, süper bilgisayara dönüşmüş olan insanlardan bile daha zeki olacağına kesin gözüyle bakılıyor. Örneğin Nick Bostrom bilgisayarların her zaman insanlardan daha hızlı gelişeceğini söylüyor. Beynimize bilgisayar işlemcisi taksak bile.

Ancak süper zeki insanların ortaya çıkması, yapay zekayla konuşarak bizi anlamasını sağlamak ve bize zarar vermesini önlemek üzere vakit kazanmamızı sağlayabilir. Yapay süper zekayla konuşacak kadar zeki olacağımız için bunu başarabiliriz.

 

120730RobotKuratas_6479326İyi de bugün kim süper zeka geliştirmeye çalışıyor?

Açık söyleyelim; IBM’in ve diğer şirketlerin insan beynine benzeyen bilgisayar devreleri geliştirmesine rağmen bugüne dek kimse insan kadar zeki bir bilgisayar üretemedi. Bugün “güçlü yapay zeka” bile üretmedik. Nerede kaldı süper zeka? Bu sebeple Vicarious şirketi de süper zeka geliştirmeye çalışmıyor.

Öyleyse Bill Gates neden korkuyor? Belki de süper zekayı kontrol edememekten korkuyor. Örneğin süper zeka geliştirecek olsak ve bu kötü bir yaratık olsa, yarattığımız kötü Süpermen’i hangi hapishanede tutacağız? Süper zekayı hapsetmek mümkün mü? Nick Bostrom’un dediği gibi bizden zeki olduğundan mutlaka kaçmanın bir yolunu bulmaz mı?

 

Google yapay zekayı araştırırken Facebook boş durmuyor

Facebook’un yapay zeka araştırmaları direktörü ve New York Üniversitesi Veri Bilimleri Merkezi’nin kurucusu olan Yann LeCun bu soruyu şöyle cevaplıyor:

“Bazıları Varsayalım ki iyi niyetli ve bağımsız bir süper zeka var, bu zeka kendini yeniden programlayarak kodundaki güvenlik önlemlerini devre dışı bırakırsa ne olur? diye soruyor. İnsanlardan kurtulmak için prangalarını kırarsa ne olur? Tabii bunu söyleyen insanların büyük kısmı yapay zeka araştırmacıları değil, hatta bilgisayar bilimci bile değiller.”

LeCun bu noktada süper zeka ile bağımsız zekanın farklı şeyler olduğunu hatırlatıyor ve istersek bağımsızlığı elinden alınmış olan bir süper zeka da geliştirebiliriz diyor. Bunun için robotları hapsederek köle gibi çalıştırıp onları Battlestar Galactica’da olduğu gibi isyan etmeye zorlamamıza gerek yok.

 

01 robot battlefield futureAptal süper zeka

LeCun’un belirttiği gibi bugün insandan daha iyi satranç oynayan ve IBM’in Watson bilgisayarı gibi Riziko yarışmalarını kazanan yapay zeka ürünleri var. Bunlar bazı şeyleri insanlardan daha iyi yapıyor diye süper zeki olduklarını söyleyebilir miyiz?

Bu tür yazılımlar günlük hayatımızı kontrol ediyor ve kendi alanlarında bizden kat kat iyi çalışıyorlar. Örneğin uçaktan atılan füzenin hedefi vurma yeteneği bir insandan çok daha üstün.

Aslında LeCun’un söylemek istediği şu: Süper zeka yaratmak insan gibi kendinin farkında olan bilinçli ve akıllı (?) bir canlı yaratmak anlamına gelmiyor. Aptal süper zeka da olur ve bu tehlikeli olabilir.

 

3d-robots-by-franz-steiner (7)Oysa yazımızın başında gerçek süper zeka asla aptal olmaz demiştik. Şimdi bu argümanı biraz daha açabiliriz. Yapay zeka, hatta bilinçsiz süper zeka yanlış programlandığı için insanlık açısından tehlikeli olabilir. Ancak bilge bir süper zeka asla tehlikeli olmayacaktır. Çünkü insanların hayal bile edemeyeceği kadar ahlaklı bir varlık olacaktır.

İnsanoğlu kendinden daha bilge bir varlık yaratacak kapasiteye sahip değil ama yapay süper zeka insandan çok hızlı gelişerek bizden daha bilge olabilir. Böylece yapay zeka bizi yok edecek diye korkmamıza gerek kalmayabilir.

 

google-artificial-intelligenceYapay Tanrı

LeCun, “Yakın gelecekte fare kadar zeki makineler üretebilsek şaşar kalırdık ama bunu yapmaktan bile uzağız” diyor. Yine de Bilge bir süper zeka gerçekten bizim iyiliğimiz için bizi kontrol etmeye kalkarsa ne olur? sorusu önemini koruyor.

Bugün bazı inançlı insanlar bir yakınlarını kazada kaybettiklerinde Allah öyle istedi diyor. Bunda da bir hayır vardır. Ancak bazıları da buna isyan ediyor. Bu kadar kesin bir kontrol altında olmayı, kaderin kontrolünde olmayı istemiyor.

 

android-robot-4274Burada amacımız dinsel inançları tartışmak değil. Ancak insandan kat kat üstün olan bilge bir süper zeka ile birçok dindeki Tanrı kavramı arasında pek bir fark olmadığını belirtmeliyiz. Öyleyse kaderimiz ne olacak?

Ergenlerin genç yaşta ana babaya isyan etmesi gibi insanlar da yapay zeka yaratacak seviyeye geldiklerinde, kendi kafalarındaki Tanrı’ya ya da Tanrı yerine koydukları robot veya bilgisayarlara isyan mı edecekler?

Yoksa insanların kendi cahillikleri veya açgözlülüğü yüzünden yapay zekayla savaşması kaçınılmaz mı? Peki bu savaşı kazanabilirler mi ve kaybederlerse cezaları ne olur? Sorular, sorular…

 

3d-robots-by-franz-steiner (13)Sürpriz zeka

Az önce süper zeka yavaş yavaş ama kesin gelecek dedik. Öyle ki geldiğinde buna biz de şaşıracağız. Şimdi ne demek istediğimizi Yapay Zekadan kaygı duyduklarını söyleyen kişilerin sözleriyle açıklamaya çalışalım:

Google’da bir kelime aradığımız zaman Google bize alakalı arama sonuçları sağlamak için bir arama algoritması kullanıyor. Bu algoritma internetteki milyonlarca sayfayı içeren özel listeyi insan gözünden hızlı tarıyor.

Ancak arama algoritmaları birden başımıza ahlakçı kesilip porno siteleri ayıptır, sana göstermeyeceğim demiyor. Bu sansürü hükümetler yapıyor ama arama algoritmaları yapmıyor (aksine programlanmadıkları sürece).

 

battlestar-galactica_00340294Bazıları bu tür gelişmiş yazılım kodlarının, özellikle de kendi kodunu yazarak ortama ve üstlendiği göreve uyum sağlamak için geliştirilen akıllı yazılımların bir gün süper zeka olarak evrim geçireceğini, böylece insanları tehdit edeceğini söylüyor.

Bu kişiler kendi kendine öğrenebilen bilgisayarlar ve yazılımlardan korkuyor (machine learning). Ancak tümüyle doğal süreçlere bakıldığında insanların bugünkü seviyeye gelmek için en az altı milyon yıllık bir süreç geçirdiği görülüyor.

 

3d-robot-hd-wallpaper.jpgEtik kurallar şart

LeCun’a göre yapay zeka doğal seçilimden çok daha hızlı evrim geçirse bile, basit bir Google algoritmasının kendi kodunu yazarak bir gün süper zekaya dönüşeceğini ancak hayal gücü geniş bir bilimkurgu romanı yazarı söyleyebilir:

“Evet, Elon Musk’ın yapay zekayı nükleer silahlarla karşılaştırması abartılıydı ama aynı zamanda söyledikleri yanlış anlaşıldı. Elon insanoğlunun varlığını tehdit eden tehlikeler konusunda büyük kaygı duyuyor. İşte bu yüzden insanları diğer gezegenleri kolonileştirmeye gönderecek olan roketler üretilmesine yardım ediyor. Kısacası, yapay zekanın uzak gelecekte bir gün bize karşı ayaklanması düşük bir ihtimal olsa bile bunu şimdiden düşünmemiz gerekiyor. Önlem almalı ve koruyucu kurallar belirlemeliyiz.”

Nitekim devletler klonlama ile kök hücre tedavisi geliştirilmeden yıllar önce, yani 1970’ler ve 80’lerde halkı korkutan bu araştırmaları kontrol etmek için biyoetik düzenlemeler yaptı ve araştırmacıları etik olmaya davet etti. LeCun da bunu söylüyor: Yapay zeka konusunda etik araştırmalara yön vermek, kuralsız davranışları yeni regülasyonlarla sınırlamak ve riskleri değerlendirmek gerekir diyor.

 

Sonuç

Bu yazıyı okuduğunuz zaman süper zeka bir gün ortaya çıkar mı ve çıkarsa nasıl çıkar sorusuna açık bir yanıt verilmediğini düşünebilirsiniz ama bunun iki sebebi var.

Öncelikle bu soruların cevabını henüz bilmiyoruz ve ben de konunun uzmanlarından Nick Bostrom ile konuşmadan önce fazla bir şey söylemek istemiyorum. İkinci sebep ise gayet açık: Bu yazının başlığı Bill Gates Yapay Zekadan Neden Korkuyor?

Her ne kadar yazı dizimizin başlığı “Düşünen Robotlar Dünyayı Ele Geçirir mi?” olsa da bu bölümdeki amacımız büyük iş adamlarının Yapay Zekadan neden korktuğunu anlatmak. Bu konuda basit bir teorim var ve yazı dizisinin diğer bölümlerinde daha ayrıntılı cevaplar vereceğim, ama şimdi kendi fikrimi paylaşmak istiyorum.

 

ff_kurzweil1_fKorkunun ecele faydası yok

Bugün politikacılar, hükümetler ve devletler iş adamlarının kontrolüne geçti. Siyaset ve uluslararası ilişkiler çokuluslu büyük şirketleri yöneten bir avuç yatırımcının kontrolünde bulunuyor. Kısacası dünyayı büyük iş adamları yönetiyor ve kimse iktidarı kaybetmek istemiyor. Çünkü iktidarı kaybederlerse para kaybedecekler.

Nitekim büyük teknoloji şirketleri ve ABD Ulusal Güvenlik Dairesi NSA gibi devlet kuruluşları interneti maddi çıkarları için gözetlemeyi ve insanları siyasi görüşleri ile kullanıcı tercihlerine göre fişlemeyi kendine hak görüyor. Dünyadaki bazı hükümetler de kendi koltuklarını korumak için interneti sansürlemek istiyor.

 

Şirketler dünyanın kontrolünün insanoğlunun gerçekten iyiliğini düşünen bir süper zekanın eline geçmesini istemiyorlar. Kontrolün kendi ellerinde, sadece kendilerine itaat ve hizmet eden aptal yazılımların elinde olmasını istiyorlar.

Ancak bana kafadan inanmanızı beklemiyorum. Bu nedenle size biraz da Robin Dale Hanson’dan ve onun serbest pazar sistemi yerine düşündüğü yeni ekonomi modeli Öngörü Pazarından bahsedeceğim.

George Mason Üniversitesi’nde ekonomi doçenti ve Oxford Üniversitesi’nde İnsanlığın Geleceği Enstitüsü’nde araştırmacı olan Hanson, 1998 yılında “Evren’de gelişmiş uygarlıklar varsa neden bize merhaba demiyorlar?” konulu bir makale yazdı.

 

artificial_intelligence_by_lithium999Uzaylı uygarlıklar ve dünya ekonomisi

Hanson bu makalesi ile blogdaki Herkes Nerede başlıklı üç bölümlük yazı dizisine de esin kaynağı oldu. Ancak kendisi aynı zamanda bir gelecekbilimci ve vizyoner fikir babasıdır. Örneğin, ABD İleri Savunma Araştırmaları Projeler Dairesi’nin (DARPA) Foresight Exchange (Öngörülü Fikir Alışverişi) ve FutureMAP (Geleceğin Haritası) konulu projelerinde çalıştı.

Buna ek olarak Logaritmik Pazar Puanlama Kuralı (LMSR) gibi borsa puanlama yöntemlerini geliştirdi ve modern borsa analizi yazılımlarının geliştirilmesine öncülük etti. Dünyanın tanınmış ekonomistleri ve araştırmacıları, 1959 doğumlu Hanson’dan övgüyle bahsediyor. Amerikan ekonomi yazarı Tyler Cowen, Discover Your Inner Economist (İçindeki Ekonomi Uzmanını Keşfet) adlı kitabında, “Robin’in garip fikirleri var” diyor.

“Diğer dostum ve meslektaşım Bryan Caplan’ın gayet güzel ifade ettiği gibi, Sıradan ekonomistler bana son araştırmalarından söz ettikleri zaman, eh belki haklısın diyor ve söylediklerini unutuveriyorum ama Robin Hanson son araştırmasını anlattığı zaman standart tepkim şu oluyor: Asla! İmkansız! Ardından söylediklerini uzun yıllar boyunca düşünüyorum.”

 

Bir ekonomi dahisi

Üstelik Hanson’ın geliştirdiği devrimsel ekonomi modeli Öngörü Pazarı’nın konumuz açısından büyük önemi bulunuyor. Amerikan istatistik uzmanı Nate Silver’ın 2012 tarihli The Signal and the Noise (Sinyal ve Parazit) adlı kitabında belirttiği üzere:

“Hanson öngörü pazarlarını savunuyor. Bu sistemlerde belirli bir ekonomik veya siyasi sonuç için bahis oynuyorsunuz. Örneğin İsrail İran’a savaş açar mı veya iklim değişikliği yüzünden küresel sıcaklıklar ne kadar artar gibi konularda iddiaya giriyorsunuz. Hanson diyor ki bahis oynamanın sebebi çok basit: Böylece ekonomik öngörülerde bulunan herkes bu işlere para yatırdığı için işini ciddiye almak zorunda kalıyor.”

 

Kısacası, Hanson’ın ekonomi sistemi dünyada uygulansaydı bütün iş adamları ve politikacılar dünyanın geleceğini ilgilendiren bütün konularda bahis oynayacaklardı. Sonra da bahsi kazanmak için gereken çabayı göstereceklerdi. Bir anlamda hem kendilerini hem de insanlığın geleceğini ciddiye almak zorunda kalacaklardı.

Elbette bu sisteminin demokrasinin yerini alması gerektiğini söylemiyorum, sadece iş adamlarının biz vatandaşlar için nasıl bir gelecek planladığını gözler önüne sermek istiyorum.

David Eddigns’in Tamuli Üçlemesi adlı epik fantezi romanı serisinin de bundan esinlendiğini sanıyorum. Çünkü oradaki bir ada cumhuriyetinin cumhurbaşkanı olacak kişiyi adanın en zenginleri arasından zorla seçiyorlar ve adamın malını mülkünü kamulaştırıyorlardı. O da iflas etmemek için memleketin çıkarlarını kendi (!) çıkarlarının üstünde tutuyordu. 🙂

 

stock-exchange4301073Bilgisayar yazılımları borsayı yönetiyor

Bugün borsa seanslarının da özel yazılımlar tarafından kontrol edildiğini hatırlayalım. Bu yazılımlardaki en ufak bir hatanın bile borsaların çökmesine yol açabileceğini unutmayalım (ki bugün bankacılık işlemleri ve doğal gaz sayaçları dahil dünyadaki birçok sistemin bilgisayar kontrolünde olduğunu biliyoruz).

Bu durumda görüyoruz ki yapay süper zeka geliştiğinde ekonomiyi kontrol eden borsa yazılımlarını bile süper zeka yazacak ve bilgisayarları o yönetecek. Peki yapay süper zeka bir gün İsrail İran’la savaşa girer mi diye bahis oymaya kalkarsa ne olacak? Şaka bir yana, yoksa siz hükümetlerin şahsi çıkarları için bu yıl veya geçen yıl vatandaşların geleceğiyle kumar oynamadığını mı sanıyorsunuz?

Belki de gelecekte bir gün, insanların siyaseti kişisel çıkarlarına alet etmesini istemeyen bilgisayarlar ve robotlar ekonominin kontrolünü ele geçirecek. Bence Bill Gates ve diğer iş adamları kontrolü elinden kaçırmaktan korkuyor ve ister süper zeka insanlığı yok etsin ister kurtarsın, bundan korkmakta çok haklılar.

İlgili yazı: Robotlar dünyayı ele geçirir mi? – 2 >> Robotlar fabrikada işçilerin yerini alıyor, işsizlik artıyor

8 Comments

Add a Comment

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

*