2045’te İşçi ve Memurların Yarısı Robot
2045’te nasıl yaşayacağız, dahası nasıl çalışacağız? Bugüne kadar süper zeki robotlar insanlığı yok eder mi diye sorduk. Şimdi iş modelleri açısından ele alalım. 2045’te işçi, memur ve orta düzey yöneticilerin yarısı robot olacak. Peki işsizlik ne olacak ve robotlar insan haklarına dahil olacak mı?
Robot işçi
Otomotiv sektöründe yıllardır robot işçi kullanılıyor. Bu nedenle özellikle sanayide robotlar yıllardır işçilerin yerini alıyor. Ancak, yapay zeka (makine zekası) son zamanlarda iyice gelişti ve artık beyaz yakalılarının da yerini almak üzere.
Örneğin, Hitachi geçen yıl fabrikadaki üretim müdürlerinin görevlerinin bir kısmını ERP yazılımlarına devretti. Bu yazılımlar iş planlaması, tedarikçi yönetimi gibi alanlarda üretim hızıyla üretim kalitesini artırıyor. Aynı zamanda maliyetleri düşürüyor.
Sonuç olarak ERP yazılımlarının 10 yıl içinde endüstri mühendisleri ile üretim müdürlerinin yerini alması bekleniyor (bazı iş kollarında kısmen ve bazılarında tamamen).
İlgili yazı: İnternetinizi Uçuracak En İyi 10 Router Modem
İnsan işçiler zorda mı?
Boston Consulting şirketi Oxford Üniversitesi’yle yaptığı araştırmada, 2025 yılında İngiltere’deki işlerin yüzde 25’ini robotların yapacağını söyledi ve yirmi yıl içinde bu işlerin yüzde 35’ini robotlar yapacak. 30 yılda ise işçi ve memurların yarısının robot olması bekleniyor (buna bildiğimiz robotlar ve yazılım botları dahil).
Şu anda Dünya’da en büyük nüfusa sahip olan Çin’le devam edelim. Çin imalat sanayisi ile başta Apple olmak üzere Amerika’yı kendine bağlamış durumda. Aynı zamanda kendi süper bilgisayarını ile işlemcisini üretiyor ve kendine kuantum internet kuruyor.
Sabancı Üniversitesi’nde temiz enerji için grafen teknolojisinde önemli gelişmeler kaydeden Doç. Dr. Selmiye Alkan Gürsel hocamla yaptığım söyleşide dile getirildiği gibi, Çin grafen konusunda da lider konumda (söyleşimiz Popular Science Türkiye’de yayınlanacak). Ancak bütün bunların bir bedeli var: Robot işçilerin insanların yerini alması.
İlgili yazı: Robotlar ressam oluyor ve video oyunu tasarlıyor
Endüstri 4.0 dönemi
Çin gittikçe zenginleşiyor ve işçi ücretleri artırıyor. Global üretim merkezi özelliğini ucuz işçi çalıştırılan Vietnam gibi ülkelere kaptırmak istemeyen Çin, fabrikalarda robot işçi çalıştırarak üretimi artırmak ve maliyetleri aşağı çekmek zorunda.
Nitekim Çin’deki Dongguan fabrikası üretim hattında hiç insan olmayan, tümüyle robotların çalıştığı ilk üretim tesisi olacak. Fabrikaların tümüyle dijitalleşmesi açısından endüstri 4.0’ın öncüsü olan ve Sehnzhen Evenwin Precision Technology şirketi tarafından kullanılan fabrika ilk etapta yüzde 90 oranında robot işçi çalıştıracak.
Yönetim kurulu başkanı Chen Zingui’ye göre, 1800 işçiden 1620’si 2017 yılına kadar işten çıkarılmış olacak. Ancak, Çin endüstri 4.0 için daha ihtiraslı robot işçi projelerinin peşinden koşuyor. 2014 yılı Eylül ayında başlatılan dijital dönüşüm süreci kapsamında, Dongguan bölgesindeki 505 fabrikada toplam 30 bin kişi işten çıkarılacak ve bunların yerine robot işçi alınacak.
Çin bu proje için 525 milyon dolar ayırdı; ama bu daha başlangıç. Apple için iPhone üreten Foxconn da önümüzdeki 4 yılda iş gücünün yüzde 30’unu robot işçilere devretmeye hazırlanıyor ve her yıl binlerce robot satın alıyor (robot sayısında hedefi 1 milyon ve şimdiden 40 bin robota ulaştı1).
İlgili yazı: Robot bilim insanı atomları lazerle kontrol etti
İşsizlik ne olacak?
2045 yılında hayat nasıl olacak konusuna girmeden önce bu kritik soruyu yanıtlayalım: İşsizlik artacak ve bu nedenle 2045 ilk bakışta herkes için zor olacak. Bu işin ideali eğitim düzeyini yükselterek işçilerin en az yarısını profesör, sanatçı, edebiyatçı, öğretmen, mühendis gibi beyaz yakalı işlere kaydırmaktır.
Ancak bunu yapmak çok zor: Her şeyden önce eğitim seviyesi artınca seçmen bilinçli oy kullanacak ve aynı zamanda daha yüksek maaşla birlikte ek sosyal haklar isteyecek. Çin ve diğer ülkelerin buna ne kadar hazırlıklı olduğu tartışılır. Türkiye’de asgari ücretin net 1200 dolara sabitlendiğini düşünün. Fabrikalar kapısını açamaz.
Aslında Hyundai tam da bu sebeple giyilebilir robotlar (dış iskelet) geliştiriyor ve robot işçi almak yerine, en azından lojistik ve yükleme alanlarında insanları robotlaştırmayı planlıyor. Böylece çok sayıda insan işsiz kalmadan fabrikalarda çalışmaya devam edebilir.
Ancak, Dünya nüfusu bugün 7 milyar 450 milyon ve 2045’te rahatlıkla 9 milyarı aşacak. Bu kadar çok insanı hiç robot kullanmadan istihdam etmek bile zorlaşacak. Herkesi Matrix tarzı sanal gerçeklik dünyalarına hapsedemeyeceğimize göre, işsizlik ciddi bir risk olarak sürebilir. Bu da ekonomik ve toplumsal olaylara neden olabilir.
İlgili yazı: Çeviri Büroları ve Çevirmenin Geleceği
Çözüm yapay zeka
Bu işin çözümü yapay zeka. Dün IBM’den Nick Anderson’la Watson süper bilgisayarıyla ilgili yaptığım söyleşide yapay zekanın insanlara ne kadar müdahale edeceği açısından önemli bir detayı ele aldık: Anderson, Watson’ın insanların yerine karar almayacağını, sadece tavsiyede bulunacağını söyledi.
Telepatik internetin yaygınlaşmasıyla birlikte yapay zekanın tavsiye odaklı kullanılması, insanların robot işçi orduları nedeniyle işsiz kalmasını önleyebilir; çünkü daha çok insanı beyin takımına dahil etmemizi sağlayabilir.
İşte bu yüzden Yıldız Teknik Üniversitesi’nde yaptığım son konuşmada, mühendis adayı arkadaşlarıma mühendislik kadar yaratıcı tasarım alanına da odaklanmalarını tavsiye etmiştim. Böylece hem sanatçı hem mühendis olabilir ve kariyerde ara eleman tuzağına düşmeden, ülkemize beyin gücüyle katkıda bulunabilirler.
Yapay zeka yeni iş imkanları yaratacak
Dijital dönüşüm ve otomasyon bir yandan bazı işleri insanların elinden alırken, diğer yandan işçi ve memurlara yeni iş olanakları sağlayacak. Bu nedenle robotların bütün insanları işsiz bırakacağını düşünmek yanlış olur. Hiçbir bilgi teknolojileri şirketinin kendi pazarını yok edecek bir davranışta bulunmayacağı ve dijital dönüşümle endüstri 4.0’ı sürdürülebilir olarak planladıklarını dikkate almak bir yana, yapay zekanın yaratacağı yeni iş imkanları da var.
Örneğin sanal gerçeklik ve artırılmış gerçeklik sensör denizinde Microsoft Hololens tarzı karma gerçeklik uygulamalarıyla birleşerek en alt kademeli personelden üst düzey yöneticilere kadar tüm kadronun yaratıcı iş fikirlerini hayata geçirmesini sağlayan otomasyon imkanlarını sağlayacak. Ancak bu imkandan yararlanmak için altyapı ve eğitime yatırım yapılmalı.
Neyse ki en sevdikleri adla dijital yerliler veya kurumsal dildeki adıyla Y kuşağı bunun farkında ve mobil cihazları doğal yatkınlıkla kullanıyor. Bizzat Bilgi Üniversitesi’ndeki öğrencilerimden aldığım geri bildirimler Türkiye’deki genç nüfusun (Avrupa’daki yaşlı nüfusun tersine) robotların sağlayacağı yeni mesleklere (Baş içgörü uzmanı vb.) çok daha hızlı geçiş yapacağını gösteriyor, Dolayısıyla Türkiye’nin önünde büyük bir dijital dönüşüm fırsatı var.
İlgili yazı: Terminator Gerçek Olur mu?
Gerçek fütürizm
İşsizlik konusuna açıklık getirdiğimize göre, artık 2045 yılında robotlar ve bilgisayarlarla nasıl yaşayacağımızı görmeye hazırız. ABD Savunma Araştırmaları İleri Projeler Dairesi (DARPA) öncülüğünde yürütülen bir video serisinde üç gelecekbilimci önümüzdeki 30 yılda nasıl bir dünya ortaya çıkacağını anlattılar:
Telepatik internet
Örneğin, DARPA Biyolojik Teknolojiler Ofisi’nden Dr. Justin Sanchez telepatik internetin yaygınlaşacağını; eşyaları, robotları, dronları, bilgisayarları ve makineleri düşüncelerimizle kontrol edeceğimizi söylüyor.
“Çevrenizi sadece düşüncelerinizle kontrol edeceğiniz bir dünya hayal edin. Akıllı evinizdeki cihazları beyin sinyalleriyle kontrol edeceksiniz. Beyninizi doğrudan internete bağlayarak arkadaşlarınızla telepatik mesajlaşma programları ve sosyal ağlarla sohbet edeceksiniz. Dostlarınız ve ailenizle beyninizin nöron aktivitesini kullanarak iletişim kuracaksınız.”
Bunu şimdiden görmeye başladık. Engelliler ve felç geçirenler beyin kabuğuna takılı kontrol çipleri ile robot kollarını zihinleriyle kontrol edip hareket kabiliyeti kazanıyor veya omuriliğe takılı çiplerle yeniden yürümeye başlayarak tekerlekli sandalyeye bağlı olmaktan kurtuluyorlar.
Süper materyaller
DARPA Savunma Bilimleri Ofisi’nden Stefanie Tompkins gelecekte çok hafif ve güçlü malzemeler üreteceğimizi söylüyor. Örneğin, çelik kadar güçlü ama cam elyafı gibi hafif malzemelerden dev gökdelenler inşa edilecek (ahşap gökdelen projeleri şimdiden geliştiriliyor).
Buna ek olarak Demir Adam zırhı da gerçek olacak. Bugünkü ağır dış iskeletler gelecekte çok hafif üretilecek ve yapay kaslar sayesinde bize süper insan gücü kazandıran askeri üniformalar geliştirilecek. Elbette bütün bunlar maddeyi moleküler düzeyde kontrol etmekten geçiyor. “30 yıl sonra çevremizdeki materyalleri görünce tanıyamayacağız bile.”
Akıllı taşıtlar
DARPA Taktik Teknolojiler Ofisi direktörü, havacılık ve uzay mühendisi ve eski astronot Pam Melroy ise “2045’te çevremizdeki makinelerle çok farklı bir iletişim kuracağız” diyor. “En basitinden uçaklardaki kaptan pilotların uçuş öncesi kontrol listeleri ortadan kalkacak.”
“Uçakları yapay zeka uçuracak ve kalkış hazırlıklarını o yapacak. Pilotlar sadece oturup acil durumda işe karışacak. Uçağa havalan diyecekler veya tek bir düğmeye basacaklar ve uçak kalkacak. Bunun için sözel komut, klavye, fare, hatta dokunmatik ekran kullanılmayacak.”
Tesla otopilot
Kara şimşek gibi kendini süren otomobiller şimdiden kullanıma girdi. Daha geçenlerde sizlerle trafik sıkışınca direksiyon başında uyuyan bir sürücünün resmini paylaştım. Adam uyurken Tesla otomobili bilgisayar kullanıyordu. Dur kalk gibi sıkıcı işlerle otopilot ilgileniyordu.
Bu noktada Uber’ın da akıllı kamyon üreticisi Otto’yu satın aldığını unutmayalım; çünkü Uber da robot taksi işine girmek istiyor. Kısacası bilgisayarların banka memurelerinden taksicilere kadar hemen herkesin yerini alacağını söyleyebiliriz.
Yapay zekayı kontrol etmek
Bazen biz insanlar kendimizi çok büyütüyoruz. Bu sebeple kendini süren arabalar kaza yaptığı zaman, “Teknoloji tehlikeli. Bak robotlar insanların ölümüne yol açtı” diyoruz. Öncelikle şunu belirtelim: İnsan hayatı değerlidir. Dileğimiz asla can kaybı olmaması.
Ancak ekteki tabloya bakın: Türkiye’de 2015 yılında 183 bin kaza gerçekleşmiş ve bunlar 7500 can kaybına yol açmış; yani yapay zeka trafiğe çıkıp insan hayatıyla ilgili karar almasın demek son derece yanlış.
Bugün Türkiye’deki sürücüler sürekli trafik kurallarını ihlal ederek insan hayatıyla ilgili pek çok karar alıyor. Yolcu almak için 18 kez kırmızı ışıkta geçip ehliyetine el konulan minibüs şoförü aynı hatayı tekrarlayınca ölümlü kazaya yol açıyor! Bu nedenle asıl insan sürücülerin yasaklanması gerektiğini düşünüyorum.
Kara Şimşek gibi kendini süren arabalar yaygınlaşsın. En basitinden, Tesla otopilotun kaza oranı insanlara göre sadece yüzde 1 ve bugüne dek Tesla yüzünden sadece 1 (yazıyla bir) ölümlü kaza meydana geldi. O vakada da otopilotun tümüyle suçlu olmadığı görülüyor.
İnsan hayatıyla kumar oynanmaz
Buraya kadar robotların, akıllı araba ve makinelerin, insan gibi düşünen bilgisayarların 2045 yılına kadar yaygınlaşacağını gördük. Ancak, endüstri 4.0 kapsamında robot işçi konusunu şansa bırakamayız. Meselenin yasal boyutu var. Düzenleyici otoriteler ile hükümetler yapay zekayla ilgili yeni mevzuat çıkarmalı (tabii ekonomik kalkınmanın ve dijital dönüşümün önünü tıkamadan).
Nitekim geçenlerde düzenlenen Beyaz Saray Sınırlar Konferansı kapsamında, Beyaz Saray Bilim ve Teknoloji Politikaları Bürosu, Yapay Zekanın Geleceğine Hazırlanmak adlı bir rapor yayınladı. Oldukça iyimser bir rapor ve linkte görebileceğiniz gibi yapay zekayla tam gaz devam diyor.
Ancak dikkatli olmalıyız
Robotların insanların toplumsal düzenini bozmaması ve üretimi hızlandırırken kitleleri fakirleştirmemesi için gereken sosyal-etik önlemleri almalıyız. Bunu Nick Anderson, Watson süper bilgisayarı bağlamında çok güzel ifade etti.
Anderson, “Watson API’lar, yani mobil cihaz uygulamalarına eklenen gözcü kodlarla çalışıyor” dedi. Ancak, “IBM olarak kullanıcıları gözetlemediklerini, kullanıcı verilerini bulut çözümlerini seçen kurumların özel olarak talep etmesi dışında kendi sunucularında depolamadıklarını” belirtti.
“Her şeyden önce bankalar kullanıcı verilerini kendi bünyesinde tutmak zorunda. Regülasyonlar bunu gerektiriyor. Öte yandan, Watson bilgisayara Siri gibi soru sorarak kanser araştırmaları veya yol tarifi gibi alanlarda bilgi almak isteyen bir kullanıcının alışveriş, gezinme ve tüketim alışkanlıklarına ait analiz raporlarını tek tek kendi sunucularımızda tutmuyoruz.”
Özel hayatın gizliliği
Bunun aslında hem etik hem de ekonomik bir sebebi var: Kullanıcı verileri trilyonlarca terabayt tutuyor. İster IBM olsun ister başka bir kuruluş, hiçbir şirket kendine doğrudan faydası olmayan bu ham veriyi tutmak için çiftlikler dolusu sunucu satın almak istemez.
Aynı şey analiz verileri için de geçerli. IBM gibi bir şirket iş modelini bilişsel süreçler ve dijital asistan danışmanlığı üzerinde şekillendirmiş durumda. Örneğin internetten sizin adınıza online alışveriş yapacak olan kişisel dijital asistanlar, tüketim alışkanlıklarınızı daha iyi öğrenmek için Watson algoritmasını kullanacaklar.
Etik kaygılar
Bununla birlikte IBM kullanıcı analiz verilerini kendi üzerinde tutmayacak; çünkü teknoloji şirketleri Watson gibi danışmanlık hizmetleriyle zaten para kazanıyor ve bu ek bilgiye ihtiyaçları yok. Elbette bu durum internette özel hayatın ortadan kalktığı gerçeğini değiştirmiyor. Sonuçta bizi NSA gibi pek çok kurum ve kuruluş internetten gözetliyor.
Her şeyden önce kişisel dijital asistanların günlük iş ve alışveriş programımızı yapıp bizi kırtasiye işlerinden kurtarması için davranışlarımızı takip etmesi gerek. Öte yandan, teknoloji şirketleri de özel hayatımızı sanıldığı kadar kapsamlı olarak ihlal etmiyor. Aslında reklam algoritmaları bizi daha kapsamlı izliyor.
Yapay zekayı düzenlemek için dikkatli olmalıyız
Konunun ne kadar girift ve çetrefilli olduğunu görüyoruz: Robotlar hata yapmamalı, insan hayatını tehlike atmamalı. Yine de robotlar araba kullanmalı ve uçak uçurmalı.
İnternette özel hayatın gizliliği korunmalı; ancak bilgisayarlar insanlara dijital asistan olarak hizmet etmeli. Kişisel veriler analiz edilmeli, ama aynı zamanda kişisel veriler korunmalı; bunlara izinsiz VEYA gereksiz erişim olmamalı.
Endüstri 4.0 mevzuatı
Yapay zeka, dijital dönüşüm ve robot işçi açısından Beyaz Saray aşağıdaki noktalara dikkat çekiyor:
- Otomatik sistemlerin bazı grup ve kişileri kayıracak, sadece onların hakkını savunacak kararlar almasını önlemeliyiz (Beyaz Saray dijital diktatörler çıkabilir, aman dikkat diyor).
- Yapay zeka otomobil kullanırken bir çocuğu ezmemek için direksiyonu kırıp kaldırıma çıkar ve başkasının yaralanmasına yol açarsa bununla ilgili bütün kararlarını açıklamak, mahkemeye aldığı kararların hesabını vermek zorunda. Bunun için de robotların karar süreçleri şeffaf ve takip edilebilir olmalı (bilgisayar korsanı arabanızın bilgisayarını bozarsa bunu bilmeliyiz)
Tam alıntı yapacak olursak: “Yapay zekanın sıklıkla insanların denetiminde olan bürokratik süreçlerin yerini alarak yine insanlar arasında önemli sonuçları olan kararlar almak için kullanılması adalet, eşitlik ve sorumluluk sahibi olma gibi konularda kaygılar oluşmasına yol açıyor.”
“Şeffaflık konusu sadece yapay zekada kullanılan veriler ve algoritmaların şeffaf olması değil. Aynı zamanda yapay zekanın vereceği kararların açıklanması açısından da geçerli. Bununla birlikte yapay zeka uzmanları gelişmiş yapay zeka sistemlerinin davranışını anlamak ve öngörmek konusunda zorlanabileceğimizi söylüyorlar.”
En büyük tehlike bu
Beyaz Saray diyor ki insan gibi düşünen yapay zeka geliştirirken dikkatli olun: İnsanlar gibi keyfi davranabilir, kafasına göre takılabilir, hatta size isyan edebilir. Sadece bu da değil: İnsandan zeki olan, ama insan gibi değil de bilgisayar gibi düşünen bir yapa zeka düşünün.
Böyle bir makine zekasını hiç anlamayabiliriz. Nasıl bir mantık yürüterek insan hayatıyla ilgili kararlar aldığını hiç bilemeyebiliriz (robot doktor, robot cerrah, robot asker, robot pilot. Hatta robot sigortacı, robot insan kaynakları uzmanı, robot dadı, robot hastabakıcı, robot seks partneri… bu liste uzar gider.)
İlgili yazı: Yapay Zeka Germanwings Uçak Kazasını Önler miydi?
Dijital yerliler geldi
Hepimizin bildiği gibi dijital yerliler denilen Y kuşağı çoktan geldi. Şimdi bilgisayar kullanmayan anne-babalarına bile online alışveriş yaptıran Z kuşağı okula gitmeye başladı. Dijital dünya için yeni dijital kanunlar çıkma zamanı da geldi.
Belki de yarın öbür gün kanunları değil, ama en azından yönetmelikleri ihtiyaca göre değiştiren robot yazılımlar çıkacak: Mali müşavir ve hukuk müşaviri botları şimdiden test ediliyor. Avrupa Birliği de bundan yola çıkarak Nisan 2016’da bir belge yayınladı ve 2018’den yapay zeka direktifleri çıkaracağını, üye ülkelerin de dijital kanunlar çıkarması gerektiğini duyurdu.
Garanti bankasının anneme para gönder deyince akıllı telefondan otomatik havale yapan bir mobil iletişim asistanı var. BKM Express de Facebook Messenger üzerinden hayır kurumlarına bağış yapmanızı sağlayan bir chatbot geliştirdi ve bunun Türkiye’de bir ilk olduğunu söyledi.
İlgili yazı: Bilgisayarların insan gibi düşündüğünü nasıl anlarız? Turing testi ve özgür irade
Robot patron
Avrupalılar da Amerikalılar gibi yapay zeka insanlara hizmet ve yardım etmek için alacağı kararların hesabını vermeli diyor. Yoksa bilimkurgudaki en şeytani 20 zeka yazısında belirttiğim gibi, kendini bilmez bir bilgisayar ortaya çıkıp “Siz insanlar dünyayı yönetmeyi bilmiyorsunuz, yeni yüce lider benim!” diyebilir.
Bu Bill Gates ve Elon Musk tarafından dile getirilen çok ciddi bir konu. Şöyle düşünün: Ya sahibi olduğunuz şirketin bilgisayarı bir gün, “Sen bu işi beceremiyorsun, ben daha fazla sürdürülebilir kârlılık sağlarım; seni kovdum, artık patron benim” derse ne olacak?
Kısacası robot işçiden korkanlar asıl robot patronlardan korkmalı. En iyisi biz yapay zekada adillik, şeffaflık, yasal sorumluluk ve denetim konularına geri dönelim. Korkuyu gidermenin yolu hazırlıklı olmak. 😉
İlgili yazı: İnsanlar bilgisayarlara aşık olabilir mi?
Önce adil olmalı
İnsanlar suç işlerse cezalandırıyoruz. İnsan gibi düşünen bilgisayarlar da Hitler veya Gandi gibi olabilir. Saddam veya Buda gibi olabilir. Dördü de insandı. İkisi kötü insandı ve milyonlarca insanın hayatına mal oldular.
Geçenlerde de Google’ın yüz tanıma algoritması siyah derili insanları gorile benzetmedi mi? Google bunun için özür diledi. Pek haksız sayılmaz. Yapay zeka deneme yanılma yoluyla öğreniyor. Ancak, Amerikan başkanlık seçimleri için süregelen Trump-Clinton yarışında yapay zeka yazılımlarının taraflı davranışları için çok daha vahim iddialar ortaya atıldı:
İlgili yazı: Sentetik Vücutlar
Dijital diktatörlere dikkat
Bazı kesimler, arama motorları ve sosyal ağların siyah seçmenlerle ilgili suç haberlerini öne çıkarırken, beyaz politikacıların yanlış hareketlerini gizlemek için onlar hakkındaki eleştirel haberleri arka plana ittiğini söyledi.
Ünlü şarkıcı Bruce Springsteen’in videosunda söylediği gibi, “Bu demokrasiye açık bir saldırıdır”. Sprignsteen, Trump’ın kaybedeceğini bildiğini; ama seçim hilesi var diyerek giderayak demokrasiye zarar vereceğini söylüyor. Peki yukarıdaki haberler doğruysa asıl arama motorlarının algoritmaları demokrasi ve ifade özgürlüğüne zarar vermiyor mu?
Daha somut örnek verelim: Instagram şişman bir kızın yarı çıplak fotoğraflarını “Kullanıcıların göz zevkini bozuyor” diye kaldırmadı mı? İnternetten arayın, bulacaksınız. Diyeceksiniz ki yapay zeka ayrımcılık yapmıyor, Instagram algoritmasını geliştiren insanlar ayrımcılık yapıyor.
Tamam, ama yarın düşünen Instagram geldiği zaman otomatik ayrımcılık yapmayacak mı? Facebook da Vietnam Savaşı’nda yapılan zulümleri gösteren ünlü fotoğrafı “Çıplaklık içerdiği” gerekçesiyle kaldırmadı mı? Hatta bu fotoğrafı paylaştı diye Norveçli bir gazetecinin hesabını askıya aldı. Buna karşın savaşın gerçeklerini gizlemekle eleştirildi.
Özgür internet ve ifade özgürlüğü
Bunlar küpün dışarı sızan kısmı. Kim bilir içinde neler gizli. Ancak, yapay zekanın denetlenmesiyle ilgili daha basit bir örnek verelim: Bugün Facebook gibi sosyal ağlar kullanıcının ilgi alanlarına göre kişiselleştirilmiş içerik gösteriyor. Hatta ücretli içerikleri kalitesine pek bakmadan öne çıkarıyor.
Peki ya ben ilgi alanım dışındaki konuları da zaman tünelinde sırf ufkumu genişletmek için görmek istersem? Kişiselleştirilmiş içerik algoritmaları yapay zeka tabanlı otomatik sansür olmuyor mu? Öte yandan, Facebook reklamdan para kazanma kaygısı olmasa bile, bana hiç kişiselleştirilmiş içerik göstermezse bu kez de ilgi alanlarıma yönelik haber bulmam zorlaşmayacak mı?
Facebook ne yapsın?
Mark Zuckerberg’e kızmak kolay. Ancak, Facebook ve diğer ücretsiz içerik reklam ağlarının yasal olarak düzenlenmesi için bugüne kadar düzenleyici otoriteler ne yaptı? Facebook da bize verdiği hizmetin karşılığında reklam gösterip para kazanmak zorunda. Şimdi bütün bu insani meselelere bir de robot işçi, robot müdür, dijital asistan konusu eklendi.
Şeffaflık burada devreye giriyor
Bakın, bugün telekom operatörünüz bütün telefon konuşmalarınızın kaydına sahiptir ve devlet istediği zaman bunu verir. Ancak, siz isterseniz kendi konuşmanızın kaydını vermez. Bunun için bilgi edinme hakkınızı kullanmanız gerekir ve telekom şirketini 3000 TL’den başlayan fiyatlarla mahkemeye verirsiniz. Buna rağmen mahkeme lehinizde karar vermeyebilir.
Kısacası şeffaflık önemlidir
Bir başka örnek: Bankadan kredi almak istediniz. Vermediler. Neden dediniz. Kredi notunuz düşük dediler, ama başka bir açıklama yapmadılar. Şimdi bu doğrudan ekonomik düzeyinizi etkileyen bir karar. Peki şeffaflık bunun neresinde? Daha net söyleyeyim: Size kredi vermeyen bankanın bunun sebebini saklaması yasal mıdır?
Sıra yapay zekada: Gelecekte akıllı arabalar emniyet kemeri takıp takmadığınıza bakacak. Takmıyorsanız kasko priminiz, “Bu arkadaş riskli” diye artacak. Peki bu kararlar size açıklanacak mı?
Banka örneğine geri dönersek; banka size kredi vermemekte haklı olabilir! Hatta kredi vermeyerek daha fazla borçlanmanızı ve belki de bunalıma girip intihar etmenizi önlemiş olabilir. Bu da tecrübeli bir banka görevlisinin akılcı kararına bağlı olabilir.
İyi de tecrübeyi nasıl ölçerseniz? Görevli takdir hakkını kullanmış işte. Öyleyse sigortacılık yazılımı kasko priminizi artırırsa bu kararı nasıl aldığını otoriteye nasıl açıklayacak? Sözün özü şirketlerde kötü niyet aramak kolay; ama çoğu zaman dürüstler. Sadece nasıl davranacaklarını bilmiyorlar veya regülasyonlar şirketlerin elini kolunu bağlıyor.
IBM’e sordum
Nick Anderson’a şu soruyu yönelttim: “Watson süper bilgisayarı doktorların kanser tedavisi için ilaç geliştirmek üzere çeşitli kimyasal maddeleri analiz etmesini kolaylaştırıyor. İşe yaramayan molekülleri elimine edip işe yarayacağını ‘düşündüğü’ molekülleri gösteriyor. Peki ya hata yaparsa? Ya kanser için işe yaramaz dediği bir kimyasal madde aslında kalp krizini önlüyorsa?”
Anderson bunun bir risk olduğunu kabul ediyor; ama Watson yerine insan kullansaydık deneme yanılma süreci çok uzun sürecekti. İnsanlar günde maksimum bir kitap okuyabilir (kalın kitap). Watson milyonlarca okuyabiliyor. Süreci hızlandırmak kısa sürede sonuç almak, kanser tedavisi geliştirmek demek.
Yine de Watson’a neden doktora o molekülü önerdiğini sorsaydık ve bunun için bize 1 milyon sayfalık açıklama yapsaydı ne olacaktı? Her molekül seçimi için 1000 insan uzman tutup 10 yıl Watson çıktılarını mı okuyacaktık?
İlgili yazı: Elon Musk Mars’ta Sera Kent Kuracak
Fonksiyonel performans
Böylelikle 2045 yılında nasıl yaşayacağız ve yapay zeka destekli robot işçi ordusu dünyayı ele geçirip bütün insanları işsiz bırakacak mı yazımızın son bölümüne geliyoruz. Bu noktada size iki teknik detayı açıklayacağım. Öncelikle ilk paragraftaki argümanı dile getiren Stephen Hawking’e bir sözüm var:
“Sayın Hawking, telepatik internet teknolojisi öncelikle düşüncelerinizi kağıda dökmenizi sağlayan bilgisayar için geliştirildi. Engelli olduğunuz için bilgisayarla düşünce gücüyle iletişim kurmanız gerekiyordu. Bu nedenle makinelerin dünyayı ele geçirmesinden endişe etmeyelim. Zaten geldiler.”
Bunun yerine makinelerle barış içinde, kendimize ve onlara zarar vermeden yaşamanın yollarını öğrenmeliyiz. En basitinden banka örneğine geri dönelim: İçinizden birçoğu banka kredi vermedi diye bankaya kızdı; ama banka muhtemelen doğru karar verdi.
Şimdi bankanın yöneticileri çıkıp kredi kartı bölümündeki personele sürekli baskı yapsa ve her gün aldıkları binlerce kredi kararını tek tek açıklamalarını istese insanlar çalışabilir mi? İş yapabilir mi? Aynı sebepten dolayı robotlar dünyayı ele geçirir diye kaygılanır ve yapay zekayı regülasyonlarla aşırı denetlerseniz o da iş yapamaz hale gelir.
İlgili yazı: Dokuzuncu Gezegen Güneşi 6 Derece Çarpıttı
Beyaz saray raporu diyor ki
Önümüzdeki 10 yılda yapay zekayı çok sıkı denetleyen ülkeler ekonomide geri kalacaklar. Ancak bu durum denetimsiz yapay zeka kullanmayı gerektirmez.
Öyleyse çözüm ne? Bence en iyisi fonksiyonel performansa odaklanmak: Robot doktor mu, robot üretim müdürü mü, robot araba mı kullanacağız? Yapay zeka kullanacağımız her alanı mühendisler ve müfettişlerle denetlemeliyiz.
Ardından özel yazılım kodları ve algoritmalar geliştirip yapay zekayı kontrol etmeliyiz. Aldığı kararların hesabını vermeli, gerekçelerini açıklamalı. Ancak ölçüyü kaçırmamak lazım. Yapay zekayı iş görme yeteneğini kısıtlamadan denetlemek lazım. Hangi düzenlemeyi getirirsek getirelim yapay zekanın fonksiyonel performansı düşmemeli.
Ancak, yapay zeka uygulamalarını tek tek denetlemeye insan ömrü yetmez. Bunun için denetçi yazılımlar gerekiyor. Özetle nasıl ki bir insana iş emanet edince ona güveniyoruz, robot işçi ordusuna da güvenmeliyiz. Robotlar zaten dünyayı ele geçirdi. Bari birlikte yaşamayı öğrenelim. 🙂
