Otomasyonun iş süreçlerinde karar süresini kısaltması, belki de en hızlı benimsediğimiz kolaylığı oldu. Ancak otomatik sistemlere aşırı bağımlılık, isabetli karar alımını riske atmaya başladı. Sistemin kabullerine bel bağlanması, karar hatası ile sonuçlanan otomasyon yanılgısını (automation bias) ortaya çıkardı.

Otomasyon yanılgısının hayat kararlarını yanıltması yeni bir sorun değil. GPS’e güvenip yanlış yola sapmak belki de en tanıdık yaşantılarımızdan. Ancak bunu ilgi çekici hale getiren, karar hatasının maliyeti olsa gerek. 2012’de yaşları 21 ila 22 arasında değişen 3 Japon turist Avustralya’da tatil yaparken Kuzey Stradbroke Adası’na günübirlik bir gezi planladılar. Kullandıkları GPS sistemi, adaya gitmek için onlara doğrudan Moreton Körfezi’ni geçmelerini söyleyen bir rota çizdi. Turistler de bu rotaya uymaya karar verdiler. Hatta daha uzağa gidemeyeceklerini anlamadan önce kiralık araçlarını körfeze yaklaşık 50 metre sürmeyi başardılar. Geri dönmeye çalıştıklarında ise gelen dalga aracı arkalarında bırakmaya zorladı. Yine de içlerinden biri bu kararlarını “GPS oraya gidebileceğimizi söyledi” diyerek savunmayı tercih etti.¹ Yapay zekâya şüpheye yer bırakmayacak biçimde güven duyulması, eleştirel düşüncenin şüphesiz ki önüne geçiyor. Peki, insanlar otomasyonu kullandıkları sırada ne düşünüyor?

Düşüncenin otomasyonla etkileşimi

Havacılıkta otomasyonla ilgili çok sayıda araştırma yürütülüyor. Bazı araştırmalar, kokpit otomasyonunun pilotların kontrol ihtiyacını, bazıları ise farkındalığını azalttığını ortaya koyuyor. Bu farklı sonuçları değerlendiren Casner ve Schooler,² otomasyon kullanımı ile pilotların uçuşla ilgili ve ilgisiz düşünceleri arasındaki ilişkiyi incelediler. Toplam 18 havayolu pilotu bir Boeing 747-400 simülatörünü uçururken, iki otomasyon seviyesinden hangisini kullandıklarını kaydettiler. Ayrıca, pilotlardan uçuş esnasında ne düşündüklerini sözlü olarak sınıflandırmalarını istediler ve uçuş performanslarını ölçtüler.

Pilotlar otomasyonu daha yüksek seviyede kullandıklarında, uçuş sürecindeki operasyonel faaliyetleri daha az, uçuşu planlama gibi ileriye dönük faaliyetleri ise daha fazla düşündüler. Ancak uçuşla ilgili olmayan düşünce miktarı; başarısız bir uçuş performansındakine kıyasla (% 7) iyi seyreden uçuşlarda otomasyon düzeyi fark etmeksizin artış gösterdi (% 21) ve pilotlar otomasyonla etkileşime girmediklerinde tavan yaptığı (% 25) görüldü. Araştırmacılar kokpit otomasyonu pilotlara düşünmek için daha fazla zaman sağlasa da, pilotların bu zihinsel boş zamanın yalnızca bir kısmını uçuşla ilgili düşünmeye ayırdığını, otomasyon sistemlerinin insan operatörü daha anlamlı şekilde meşgul edecek şekilde tasarlanmaya ihtiyacı olduğunu ileri sürdüler.

Otomasyonda insan bileşeni

Uzmanlar, otomasyonun başarılı bir şekilde benimsenmesi için insan-otomasyon etkileşimini kritik görüyor. 2013’te yaşanan Asiana 214 sayılı sefer kazası, uçuş ekibinin “tam olarak anlamadıkları otomatik sistemlere aşırı güvenmesi” sebebiyle gerçekleşmiş, güvenliği artırmak için giderek daha karmaşık tasarlanan otomatikleştirilmiş uçak kontrollerinin, yeni hata fırsatları yarattığı yönünde değerlendirilmişti.³

Otomasyon sistemlerindeki tasarım ihtiyacı, ne olup bittiğinin daha az farkındaki insana ara yüzün yeterli bilgi sağlamasına ve tepki süresini kısaltmaya yoğunlaşıyor. Çünkü yüksek düzeyde otomatikleştirilmiş sistemlerde bile insanın temel bileşen olmaya devam etmesinin bir nedeninin, yeni ve planlanmamış durumlara uyum sağlama ve yaratıcı çözümler bulma konusundaki göreceli esnekliği olduğu; algoritmalarla giderek daha karmaşık davranış kalıpları geliştirilmesine rağmen, dinamik bir ortamda geleceği ön görmenin son derece zor olduğu düşünülüyor. Fonksiyonların makina ve insan arasındaki paylaşımında bu etkileşim sağlandığı takdirde, otomasyonun yapamadığını insan operatörlerin düzeltme ihtiyacı ya da insan operatörlerin gerçekçi olmayan beklentileri nedeniyle yaşanan sistem hataları gibi zorlukların üstesinden gelmek daha muhtemel gözüküyor.⁴

Sonuç

Bir işte otomasyon düzeyinin artması, o işin giderek daha fazla makina gücü kullanılarak yapılması anlamına gelse de, insanın o gücü denetleme iradesine sahip olduğunu unutmamak gerekiyor. İnsanın zekâsını yapay zekâya koşulsuz teslim etmek yerine, yapay zekânın sağladığı hareket alanını kendi ön görüsüyle birleştirmesi karar bilincini geliştiriyor. Aksi takdirde; otomasyon işlerimizi, otomasyon yanılgısı ise akılcı karar fırsatlarını elimizden almayı sürdüreceğe benziyor.

Kaynakça:

1. GPS leads Japanese tourists to drive into Australian Bay [İnternet]. Uygun erişim: https://www.huffingtonpost.co.uk/entry/gps-tourists-australia_n_1363823  
2. Casner SM, Schooler JW. Thoughts in flight: automation use and pilots’ task-related and task-unrelated thought. Human Factors 2014; 56(3):433-442.
3. Asiana airlines crash caused by pilot error and confusion, investigators say [İnternet]. Uygun erişim: https://www.theguardian.com/world/2014/jun/24/asiana-crash-san-francsico-controls-investigation-pilot
4. The role of humans in automated systems [İnternet]. Uygun erişim: https://www.v2c2.at/th-e-role-of-humans/