Yapay Zeka Germanwings Uçak Kazasını Önler miydi? >> Uçakları pilotlar yerine bilgisayarlar kullansın

161910_600Germanwings 9525 no’lu uçağı intihar etmek isteyen ve bazılarına göre terörist olan yardımcı pilot düşürdü. Ancak bu kazayı önlemek kolaydı: kabinde her zaman iki pilotun olmasını şart koşmak ve bunu regülasyonlarda zorunlu yapmak. Peki iki pilot da terörist çıkarsa ne olacak? O zaman yolcuların hayatını kim koruyacak?

149 kişinin ölümüne yol açan trajik vakanın ardından bazıları buna net bir cevap veriyor. Uçakları insanlar değil, bilgisayarlar kullansın. Gelişmiş yapay zeka destekli otopilotlar uçakları güvenle uçurabilir. Hiç değilse uçak kazalarının en önemli sebebi olan insan hatasını denklemden çıkarmış oluruz.

Güzel fikir ama otopilot kullanmakla ilgili birkaç önemli sorun var: Öncelikle bilgisayarlar uçakları tümüyle kendi başına uçuracak kadar gelişmiş değil. İkincisi kaza olursa bu kazadan kimi sorumlu tutacağımız belli değil: Uçak şirketlerini mi, uçak üreticilerini mi, bilgisayarı yapan veya yazılımını geliştiren firmayı mı sorumlu tutacağız? Yoksa uçağa müdahale eden kimliği belirsiz bir hackerı mı?

 

 

içerikUçakla seyahat çok güvenli

Belki yukarıdaki girişten sonra bunu nasıl söyleyebilirsin diye düşündünüz. Ancak istatistiki olarak baktığımız zaman uçak kazasında ölme olasılığımızın başımıza göktaşı düşmesi olasılığından düşük olduğunu görüyoruz. Çünkü genel istatistiki veriler önemli değil. Önemli olan kaza geçiren uçakta olup olmadığımız.

Bu yüzden uçak kazası geçirme riski çok düşük. Ancak bu kazada hayatımızı kaybetme olasılığımız çok yüksek. İnsanları da bu korkutuyor. Bu noktada aklımıza Airbus A320 model uçaklar geliyor. Times dergisinin bir zamanlar dediği gibi “Uçakla yolculuk artık çok güvenli.” Çünkü cam kokpitli olan, gelişmiş ekranlar ve bilgisayarlar kullanan akıllı uçaklar var.

 

 

11q_153Öte yandan seksenli yıllarda Airbus’ın cam kokpitli ilk uçağının deneme uçuşu sırasında içindeki hostes ve pilotlarla yere çakıldığı anı çok iyi hatırlıyorum. Dışarıdan bakan Fransızlar “Oh no, no!” diye bağırmıştı TV haberinde.

Peki gelişmiş otopilotlu, bilgisayarlı bu ilk uçak neden düştü biliyor musunuz? İnsan hatası yüzünden değil, otopilot hatası yüzünden!

Sistem pilotun kalkış sırasında yaptığı hareketleri yanlış anladı ve yazılımdaki bir hata uçağın yere çakılmasına yol açtı. Pilot uçağı kurtarabilirdi ama aptal bilgisayar pilotun komutlarını yok saydı ve insanlar öldü.

 

 

ap_plane_crash_9_kb_150324_16x9_992Çözümü var mı?

Elbette var. Mühendisler bu kazanın ardından otopilotla ilgili iki yasa geliştirdiler. Normal uçuş kuralları ve alternatif uçuş kuralları. Aşağıda anlatacağım ama sistem genel olarak şöyle işliyor:

Bilgisayar acil durumlarda bile pilotun hareketlerine hemen karışmıyor. Önce bekliyor ve sadece hata yaparsa uçağı düzeltiyor.

Bunun için binlerce uçuş saatlik simülatör ve gerçek uçuş pilot deneyimi parametreleri gelişmiş yazılımlara yüklendi. Popular Mechanics dergisinde anlatıldığı gibi buna kontrollü uçuş deniyor: “Bilgisayarlar genellikle normal kurallarla çalışıyor, yani bilgisayar uçağın belirlenen rotasını bozacak bir müdahalede bulunmuyor. Havacılık uzmanlarının dediğine göre, uçuş bilgisayarı uçağın havada yavaşlayarak kaldırma kuvvetini kaybetmesine (stall yapmasına) kesinlikle izin vermiyor.” Pilot istese bile!

 

 

germanwings-epaAncak New York Times’ın Germanwings 9525 no’lu uçuşla ilgili olarak belirttiği üzere, intihar etmek isteyen bir insan otopilotu devreden çıkarır veya ayarları sıfırlarsa o kişi uçağı istediği gibi uçurabilir. İsterse yere çakılmasına yol açabilir.

İşte bütün mesele burada: İnsan gibi düşünen veya insandan daha iyi düşünen yapay zeka, süper zeka geliştirirsek uçaklar kötü niyetli kişilerin ya da sarhoş (?) pilotların farkına varabilir. Hatta pilotsuz uçaklar kullanıma girebilir. Buna alternatif kurallar diyoruz.

Zaten havayolları şirketleri bunu yıllardır istiyor. İnsansız uçakların küçük ve sivri bir burnu olacak. Bu da uçağı hafifleterek aerodinamiği geliştirecek ve yakıt harcamalarını azaltacak. Özellikle enerji dengesi hassas olan elektrik motorlu geleceğin uçaklarının çok hafif yapılması gerekecek.

 

 

0708_plane-crashRobotlar dünyayı ele geçirir mi?

Bence hayır, büyük bir tehlike yok ve bu konudaki uzman görüşleriyle kendi fikirlerimi 4 ayrı yazıda yazdım. Burada odaklanmak istediğim konu ise pilotsuz uçan uçaklar için ne tür yazılımlar geliştirebileceğimiz.

Düşünen bilgisayarlar geliştirmekte uzmanlaşan öncü mühendis Jeff Hawkins dünyanın ilk avuç içi bilgisayarı ve dijital asistanı olan Palm Pilot’u tasarlamıştı. Daha sonra Donna Dubinsky ile birlikte düşünen bilgisayar geliştirme şirketi Numenta’yı kurdu.

 

 

asiana-plane-crash-videoBu şirketin ilk ticari yazılımı olan Grok, Amazon Web Hizmetleri (AWS) serverlarının, yani dünyanın en büyük bulut bilişim ağına ait olan sunucuların faaliyet raporlarını internetten tarayarak büyük miktarda veri ayıklıyor ve bunları analiz ediyor (büyük veri).

Grok’un en büyük özelliği anormal şeyleri bulmak. Örneğin Türkiye’deki trafik kazalarını önlemek için hangi eksiklikleri gidermek gerekiyor (Ömerpaşa Caddesi, Hamam Sokak ve Reşit Belgesay Sokak’ın kesiştiği dört yoldaki belirli kazaları önlemek gibi)? Grok bu tür verileri analiz ediyor.

 

 

plane_crash_0115_01Dikkatli yazılım

Bu tür bir cingöz yazılım kötü niyetli pilotun uçağı düşürmeye çalıştığını anlayarak uçağı kurtarabilir. Aynı zamanda uçağın bilgisayarı arızalanırsa otopilotu kapatarak iyi niyetli pilotun uçağı kurtarmasına izin verebilir. Bunun için çok güçlü bilgisayarlar ve analiz yeteneği güçlü yazılımlar gerekiyor.

Hawkins düşünen bilgisayarlar (makine zekası) geliştirmek için Hiyerarşik Geçici Bellek (HTM) yöntemini kullanıyor. Bu sistem bilgisayar uzmanları arasında iyi bilinen derin öğrenme (DL) tekniğinden çok daha avantajlı.

Ancak buna geçmeden önce her iki yazılım kodu hiyerarşisinin de (algoritmalar) büyük veri kümelerindeki benzerlikleri öğrenmek için matrisler kullandığını belirtelim. Bu sayede kalabalıkta kimlerin uzun boylu olduğunu ve kimlerin uzun boylu olduğu halde kambur durarak boyunu gizlemeye çalıştığını öğrenebiliyorlar.

 

glass-brain-1200-990x556İnsan beynine benziyor

HTM yazılımları insan beyni gibi desen tanıma ve olaylara öncelik verme sistemiyle çalışıyor. Platon bunu “benzer benzeri bilir” şeklinde özetlemişti. Bu sistem de o şekilde çalışıyor ve gereksiz ayrıntılara dikkat etmiyor.

Örneğin kız arkadaşınızla kafede sohbet ederken diğer insanların ne konuştuğunu duymazsınız. Sadece kime dikkat ediyorsanız onu dinlersiniz. Böylece kafanız karışmaz ve başınız şişmez.

HTM nesnelerin interneti ve akıllı fitness bilezikleri gibi giyilebilir cihazların yaygınlaşmasıyla birlikte gerçek zamanlı veri tarama ve veri yorumlama yapabiliyor. Aynı zamanda eski defterleri karıştırarak kişilerin kullanım alışkanlıklarını hatırlayabiliyor. Örneğin o gün deliren bir pilotun normalden farklı davrandığını anlayıp onun uçağa karışmasını önleyebilir.

 

 

Glass Cockpit A320 2Düğmeye bastım ve kapattım

Şimdi Germanwings uçağının neden düştüğüne geri dönelim. Uçak düştü, çünkü intihar etmek isteyen pilot uçağın otopilotunu kapattı. Hawkins’in dediği gibi, “İsterseniz dünyanın en zeki bilgisayarını geliştirin. Adam düğmeye basıp bilgisayarı kapatırsa bu hiçbir işe yaramaz. Dolayısıyla uçuş kulesinin acil durumlarda uçağı kontrol etmesini ve yerden kullanmasını sağlamak gerek.”

Bu yöntem tabii ki teröristlerin uçağı ele geçirmesini zorlaştırır. Peki ya uçağı bir insansız hava aracından gönderilen bilgisayar virüsüyle ele geçirmeye çalışırlarsa? Rusların bunu yaptığı ve ABD hava kuvvetlerine ait bir dronu hackleyip ele geçirdiği söyleniyor.1

Dolayısıyla uçakların insan hatasıyla düşmesini önlemek için insan unsurunu ortadan kaldırmak istiyorsak şu sorulara cevap vermek zorundayız:

 

  • Robotlar dünyayı ele geçirir mi?
  • Akıllı otopilotlar geliştirebilir miyiz?
  • İnsan gibi düşünen bilgisayarlar uçaklara girecek kadar ucuzlayacak mı?
  • Uçağı bilgisayar uçurursa kazadan kim sorumlu olacak?

 

 

Airplane-1300x724Bu noktada Hawkins’e katılıyorum. Robotlar dünyayı ele geçirmez. Yapay zeka güvenlidir. Ancak gördüğünüz gibi bu işin küçük bir kısmı. Asıl sorun tehlike anında uçağı kimin kullanacağına karar verecek kadar zeki bir yazılım geliştirmek ve elbette bunun için yeni yasal düzenlemeler yapmak.

Uçağı tehlike anında kim kullanacak? Bilgisayar mı, yerdeki hava trafik kontrol kulesi mi, aslında aklı başında olan pilotlar mı? Bu soruların yanıtını bulana kadar zaman geçecek. Umarız bu arada daha fazla can kaybı yaşanmaz.

 

 

1http://www.usnews.com/opinion/blogs/world-report/2014/04/04/russia-hacks-a-us-drone-in-crimea-as-cyberwarfare-has-gone-wireless

 

Add a Comment

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir