Ahlaklı Robotlar -1: Robotlar Etik Kararlar Alabilir Mi?
Otopilotla kendini süren Tesla otomobil ters şeritten gelen aracı görünce hayatınızı kurtarmak için sağa kırıp emniyet şeridine geçecek. Peki yol kenarındaki bisikletli çocuğun hayatını tehlikeye atacak mı? Yapay zeka her yerde ve ölüm-kalım kararları alan ahlaklı robotlar geliştirmek şart oldu.
Ahlaklı robotlar ve etik yapay zeka
Makineler insan hayatını kurtarmak; çocuklara, yaşlılara ve yatalak hastalara bakmak veya robot taksi olarak yolcu taşımak için etik kararlar alabilir mi? Robot dadıya çocuklara iyi davranmayı öğretebilir miyiz?
Peki silahlı otonom dronlar, bir otobüs dolusu sivili canlı bombadan kurtarmak için insanlara sormadan ateş açabilir mi? Yapay zeka dediğimiz şey reklam hedefleme algoritmalarından Google arama ve Facebook paylaşım algoritmalarına kadar her yerde hayatımıza girdi.
20 yıldır uçakları bilgisayarlar uçuruyor. En az 40 yıldır demiryolu sinyalizasyon sistemlerini ve trafik ışıklarını bilgisayarlar yönetiyor. Yapay zeka olmasaydı bu yazıyı laptopta yazamazdım. Bilgisayarlar ve mobil uygulamalar olmasaydı siz de akıllı telefon ekranında yazıyı okuyamazdınız.
Öyleyse yapay zeka bir otobüs dolusu sivilin hayatını kurtarmak için biri masum insan ve diğeri masumun hemen yanında saklanan canlı bomba olmak üzere, iki kişiye ateş etmek gibi insanların bile zorlanacağı etik kararlar alabilir mi? Dahası robotlar etik kararlar almalı mı?
İlgili yazı: 2045’te İşçi ve Memurların Yarısı Robot
Ahlak algoritması
Ahlaklı olmayı, insani değerleri, özetle insan olmayı bilgisayarlara programlayabilir miyiz? 4 bölümlük bu yazı dizisinde etik yapay zeka konusunu yazılımcılar, robot bilimciler, meslek etiği uzmanları ve askeri hukukçularla ele alacağım; ama önce sizinle kişisel bir tecrübemi paylaşmak istiyorum.
Neden motosiklet kullanmıyorum?
Motosiklet kullanmayı çok severim. Tarlada ehliyetsiz kullanmışlığım vardır ve fırsatını bulursam kaçırmam; ama motosiklet ehliyetim yok ve trafiğe hiç çıkmadım. Bunun sebebi çocukken yaşadığım bir tecrübe.
Dokuz yaşındayken BMX bisikletim vardı. O zamanlar küçük tekerlekli alçak bisikletler modaydı. Dağ bisikletleri ise Türkiye’de pahalı ve nadirdi. O zamanlar da hız yapmazdım, yokuş aşağı bile ellerim frende olurdu ve bu yüzden 3 yaşındaki bir kızın hayatını kurtardım.
Bisikletle eve dönerken yola aniden 3 yaşında bir kız fırladı. Annesi gitti çocuk diye çığlık attı ve ben frene bastım. Hızlı gitmediğim halde çocuğa 10 cm mesafede durabildim. Sabinin başı tekerleğin boyunu aşmıyordu. O gün motosiklet kullanma hayallerimden vazgeçtim.
Ancak, size bu sayfalarda birkaç kez sürücüsüz otomobilleri, Kara Şimşek gibi kendi kendini kullanan Uber-Volvo arabaları, Tesla ve prototip Google araçları anlattım. Bir arabanın Kara Şimşek K.I.T.T. gibi konuşması ve sürücüsüz gitmesi harika değil mi? Ancak yeri gelecek, bunun için iki satır önce yaptığım gibi ölüm-kalım kararları alması gerekecek.
İlgili yazı: İnternetinizi uçuracak en iyi 10 modem
Siri’ye ahlak nedir diye sorun
Bilmez ve size cevap veremez: “Bak, yardıma ihtiyacım var. Ahlak nedir bilmek istiyorum.” “Ahlakın ne olduğunu bilmiyorum.” Siri’yi dinledikten sonra, böyle basit (?) bir soruya bile cevap veremeyen aptal robotlar mı dünyayı ele geçirecek diye sorabilirsiniz. Elon Musk’a göre olabilir.
Ünlü iş adamı robotlarla ilgili açıklamasında şunları söylemişti: “Yapay zeka hakkında çok dikkatli olmamız gerektiğini düşünüyorum. Bence insanlık olarak karşılaştığımız en büyük varoluş riski bu. Yapay zekayı geliştirirken resmen şeytan çağırıyoruz.”
İlgili yazı: Uber Robot Taksi Hizmeti Başlatıyor
İlk Terminator üretildi
Onun adı Predator. ABD hava kuvvetlerinin otonom silahlı dronu. Havada uçup teröristleri gözetliyor ve Amerika’dan telsizle emir gelirse araç konvoyuna tank katili füzelerle ateş açıyor. Son 10 yılda Afganistan ve Irak’ta düzinelerce hedefi imha etti.
Bugün Türkiye dahil, dünyada silahlı dron geliştiren 30 ülke var. Bu gerçek sadece barış yanlısı aktivistlerin değil, özel sektörün, dünyanın en büyük bilgi teknolojileri şirketlerinin de dikkatini çekti. Ne de olsa yapay zekayı bu şirketler geliştiriyorlar ve insanların robot veya yazılım satın almaktan vazgeçmemesi için kamuoyuna güvence vermek zorundalar.
Böylece 2015 yılında yapay zeka destekli silah sistemlerinin; yani silahlı robotların geliştirilmesine karşı bir deklarasyon yayınlandı. Bu bildiriyi Elon Musk ve Stephen Hawking dahil, 150’den fazla uzman imzaladı.
Hawking, “Tam kapsamlı yapay zeka geliştirilmesi bence insan türünün sonunu getirecek” dedi. “İnsanlar tek başına davranarak kendini sürekli iyileştiren yapay zeka geliştirdikleri zaman, düşük evrim hızıyla sınırlı olan türümüz bununla rekabet edemeyecek ve robotlar insanları aşacak.”
İlgili yazı: 7 Adımda Yeni Tesla Yol Haritası
Siri ve Cortana sohbet botları
Siri’ye hayatın anlamı nedir diye sorduğumuz zaman net bir cevap alamıyoruz. Apple cihazların kişisel dijital asistanı ve sohbet botu olan Siri, sanki dediklerimizi anlıyormuş gibi bize kurnazca ve esprili cevaplar veriyor.
Ancak, aynı soruyu üst üste sorarsak önceden programlanan nükteli cevap sayısını aştığı için kendini tekrarlamaya ve monoton cevaplar verip saçmalamaya başlıyor. İşte bunu evde deneyebilirsiniz! 🙂 Siri’ye üst üste “Hayatın anlamı nedir?” diye sorun.
Bakalım size varoluşçu filozof Jean-Paul Sartre gibi, “Hayatın anlamı ona anlam verebilmemizdir” tarzında bilgece bir yanıt verebilecek mi? Siri’nin cevapları genellikle şöyle oluyor:
“Bu sorunun cevabını hakkında görüş birliği olduğunu sanmıyorum”. “Hayat içkin olarak kendini cansız varlıklardan ayıran özelliklere sahip bir ilke veya güçtür. Sanırım buna ben de dahilim”. “Bunu sana öğretecek olan ben değilim”.
İlgili yazı: Facebook ile Gelecek 10 Yılın Yol Haritası >> İnternetten alışveriş yapan botlar geliyor
Ahlak algoritması
Bilgisayarlar çoktan hayatımızın bir parçası oldu. Siri bir yana; uçakların otopilotları, borsa binaları ve demiryolu sinyalizasyon sistemlerine kadar her yerdeler. Peki düşünen yapay zeka ürünleri (bilgisayarlar, yazılımlar ve robotlar) geliştirmek için ne tür etik ilkeler ve ahlaki değerler kullanacağız?
Örneğin, otopilot kullanan sürücüsüz bir araba trafik kazasına yol açtığı zaman bundan kim sorumlu olacak? Araba mı? Arabayı üreten şirket mi? Otopilot yazılımını geliştiren mühendis mi? Yoksa arka koltukta oturan yolcu veya hızla direksiyonu ele alıp kazayı önlemeyi beceremeyen insan sürücü mü?
Komutan Data ne zaman?
Uzay Yolu’nun yaratıcısı Gene Roddenberry serinin Gelecek Kuşak versiyonu için beyaz ekranda Brent Spiner tarafından canlandırılan androit (insana benzer robot) Data’yı yaratmıştı.
Öyleyse insanlar Isaac Asimov’un Robot romanlarında yer alan ve galaktik uygarlığın geleceğine karar veren telepatik Robot Daneel Olivaw’ı ne zaman yaratabilecekler? Telepatik robot Daneel, savaş çıkmasını önlemek için insanların düşüncelerini zorla değiştiren üstün güçlere sahipti.
İlgili yazı: VPN Engelleme Türkiye’de Nasıl Aşılır?
Üç robot yasası
Elon Musk ve Stephen Hawking dikkatli olmazsak robotlar dünyayı ele geçirir imasında bulunmadan çok önce, daha 1942 yılında, bilimkurgu yazarı Asimov robot öyküleri için Üç Robot Yasası’nı yazdı. Bu etik kodun amacı makineleri insanların kontrolü altında tutmaktı:
1) Bir robot bir insana zarar veremez ya da bir insanın zarar görmesine seyirci kalamaz 2) Bir robot 1. kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır. 3) Bir robot 1 ve 2. kuralla çelişmediği sürece kendisinin zarar görmesine izin veremez.
North-West Üniversitesi Psikoloji Profesörü, Geometric Intelligence Kurucu Ortak ve CEO’su Gary Marcus’un yapay zeka dili ve bilişsel yapay zeka uzmanı olarak Üç robot Yasası hakkında söyleyecekleri var:
“Bence bu yasalardan güzel bilimkurgu öyküleri çıkar; ama bir robota zarar vermenin ne olduğunu programlamak çok zor. Bu yüzden de üç robot yasasını robotlara yüklemek zor. Gerekli ve yeterli koşulların olduğu matematikle geometrinin tersine, insana zarar vermek gibi yuvarlak bir kavramı robotların anlamasını sağlamak zor.”
İlgili yazı: Fizikçiler Karanlık Madde Yalan Dedi
Medyatik uzman
Marcus aynı zamanda New Yorker ve New York Times köşe yazarı. Bu yüzden yapay zekayı halkın anlayacağı dilde açıklayabiliyor ve ilginç noktalara değiniyor. Bazen bilim insanlarının yaptığı kritik tespitleri gözden kaçırsa da sağlam sorular yöneltiyor:
“Hiç kimse zarar vermek ve adalet gibi kavramların bir makineye genel olarak nasıl programlanabileceğini bilmiyor.”
“Ayrıca bazı insanlar bir robotun insanlara hiç zarar vermeyecek şekilde programlanmasını istemeyebilirler. Ya bir robot polisin karşısına çıkan teröristi veya keskin nişancı seri katili halka zarar vermeden durdurması gerekirse?”
İlgili yazı: Mars ve Venüs’ü Dünyalaştırmak İçin 5 Dahice Yol
Savaş tamtamları
Nitekim daha geçenlerde Amerika’da polis özel timlerinden biri, patlayıcı taşıyan uzaktan kumandalı robot kullanarak bir keskin nişancıyı saklandığı binanın içinde etkisiz hale getirdi.
Silahlı robotların alacağı etik kararlar meselenin bir yönü. Bir de ahlaklı robotlara insanların kötü davranacak olması var: Üçüncü robot yasasını aynen uygularsak gelecekte ortaya çıkacak olan insan gibi düşünen robotlara ikinci sınıf vatandaş muamelesi yapmış oluruz.
Bu da bildiğimiz köleliktir. Özellikle de geleceğin akıllı robotları buna itiraz edebilirler. Belki de buna isyan ederler. Bir başka problem de insanların bazen ahlaklı davransalar da her zaman etik olmaması. İnsanlar daha adil kelimesinin ne olduğu konusunda bile görüş birliğine varamıyor.
Bazılarımız ise doğruyu yanlıştan hiç ayırt edemiyor. Bunlara cahil, psikopat, sosyopat, müzmin suçlu, fanatik, yobaz, bağnaz, ırkçı, ayrımcı, acımasız, faşist, zalim, tiran gibi kelimeler yakıştırıyoruz. Ancak, robotlara ahlaklı olmayı kodlamanın dışında kalan zorluklar da var.
İlgili yazı: Yakıtsız Çalışan Roket EM Drive
Kölelik eskiden yasaldı
18. yüzyılda kölelik vardı, yasaldı ve hiç de ayıp değildi. O kafayla robot geliştirseydik robotlara köleliğin iyi bir şey olduğunu mu öğretecektik? Yapay beyinlerine kölelik yasalarını mı kodlayacaktık? İnsanların değer yargıları zamanla değiştiğine göre robotların da değişecek mi? Peki bizden hızlı düşündükleri için günde 5 kere değişecek mi? 😮
Bu sebeple en iyisi robotlara insanlar gibi ahlaklı davranma kapasitesi programlamak. Böylece robotlar hayatta başına gelen her olayı vicdan sahibi yapay zeka olarak tek tek değerlendirebilir ve kendi ahlaki kararlarını alabilirler.
Yoksa robotlara olası tüm olaylar ve durumlar için geçerli olan tek bir genel ahlak kuralı programlayamayız. Robotlara telefon ROM’ları gibi değişmez kodlar yükleyemeyiz. Düşünün, adam öldürmek ahlaksızca bir davranıştır. Dinde genellikle günahtır; ama savaşta genellikle normal karşılanır.
İlgili yazı: İkiz Astronotlardan 5 Hayat Dersi
Robot etiği uzmanı
Yale Üniversitesi Disiplinler Arası Biyoetik Merkezi Etik Danışmanı ve Araştırmacı Öğretim Üyesi ve Hastings Merkezi Danışmanı Wendell Wallach’ın ahlaklı robotlar hakkında tam bu noktada söyleyecekleri var. Wallach 13 yıldır yapay zeka etiği üstünde çalışıyor.
Kendisi Tehlikeli Efendi: Teknolojinin Kontrolümüzden Çıkmasını Nasıl Önleriz ve Etik Makineler: Robotlara Doğruyu Yanlıştan Ayırmayı Öğretmek adlı iki kitabın yazarı olarak Asimov’un Üç Robot Yasasının yanlış anlaşıldığını söylüyor. Wallach’a göre Asimov ahlaklı robotlar üretmenin zor ve sorunlu olduğunu biliyordu:
“Asimov 80’den fazla robot öyküsü yazdı ve öyküleri okursanız robotların zaten Üç Robot Yasası uyarınca düzgün çalışamadığını görürsünüz. Çoğu zaman birinin hayatını kurtarmak amacıyla başkasını tehlikeye atıyorlar ve yazılımları ikilemi çözemediği için beyinleri kısa devre yapıyor.”
Oysa aşağıda gördüğünüz gibi şimdiden fabrikalarda robot ofisboylar kullanıyoruz. Bu robotları insanlara yanlışlıkla çarpmaması ve tehlikeyi anlaması için dikkatle programlamak gerekiyor.
İlgili yazı: Bayramda Dronla Dürüm Teslimatı
Robotu bırakın, ahlaklı kuşaklar yetiştirin
Bu tür ikilemli durumları dikkate alırsak Asimov’un robot öykülerinin ana mesajını daha iyi anlarız: Asimov bize basit ahlak kurallarının gerçek hayattaki etik sorunları çözmekte ve ahlaki robotlar (ve ahlaklı insanlar?) yetiştirmekte yetersiz kaldığını gösteriyor.
Bu iş dini dogmaları çocuklara okulda hafız gibi belletmekle ve ezberci eğitim sistemiyle olmaz. Genç kuşaklara eleştirel düşünmeyi ve kendi kararlarını özgürce vermeyi öğretmemiz gerekiyor.
Biz insanlar çocuklara ahlaklı olmayı öğretemezsek yapay zekaya nasıl öğreteceğiz? Ahlaklı robotlar nasıl ortaya çıkacak? Bu gidişle ahlaksız robotlar gelecek.
Yazımızın ikinci bölümünde insan gibi düşünen robotları anlatacağım; çünkü ahlaklı olmak için robotların önce insan gibi düşünmeyi öğrenmesi lazım. Etik robotlar mümkün mü sorusunun cevabını ise yarın yayınlanacak dördüncü bölümde bulacaksınız. 😉
