Bugün otonom araçlar; sosyal, ekonomik, hukuk, tasarım, mühendislik, bilgisayar bilimi, etik, güvenlik dahil olmak üzere çeşitli bakış açılarıyla ele alınıp tartışılmaktadır. Bilim kurgu filmlerinin yıldızlarından olan bu sürücüsüz araçlar, hep öngörülen bir ulaşım geleceği olmuştur.

Tesla, Alphabet, Waymo ve Uber gibi markaların da bulunduğu küresel araç üreticileri, büyük teknoloji şirketleri ve bir dizi yeni girişim, sürücüsüz araç teknolojisi geliştirmeye devam ediyor ancak uzmanlar bu sistemin piyasaya sürülmesi için yıllar gerektiğine dikkat çekiyor. Teknolojinin henüz yeterli olmamasının yanında etik birçok sorun ve hukuk alanında eksiklikler de bu alanın en sorunlu kısmını oluşturuyor.

Yapay zekânın gündelik yaşamdaki rolü artıkça hem etik hem de hukuki problemler daha fazla tartışılmaktadır. Bunlardan biri de otonom araçlardır.  Trafikteki sayılarını yavaş yavaş artırmaya devam eden sürücüsüz araçlar için birçok otomobil ve teknoloji şirketi de güncelleme açıklamalarını sık sık dile getirmektedir. ABD’de bazı eyaletlerde trafik kanunlarının yenilendiği bilinmektedir. Örneğin ülkede otonom araçların kara trafiğinde seyrine ilişkin ilk düzenleme Mart 2012’de Nevada eyaletinde kabul edilmiş ve Nevada otonom araçların kullanımına izin veren ilk eyalet olmuştur.

Otonom araçlar seyahatte ve karayolu güvenliğinde devrim yaratma potansiyeline sahip olsa da bu araçlar hem seyahat halinde toplayacağı verilerle veri güvenliği – mahremiyet ihlali gibi konulara hem de olası kazalarda yükümlülüklerin belirsizliği gibi birçok problemi peşinden getirmektedir.

Otonom araçlar kullanılacağı alan bakımından çeşitlilik gösteren kısmen ya da tamamen yapay zekadan faydalanan araçlardır. Karayolu, deniz, hava, raylı sistem gibi çeşitli kullanım yerleri dışında askeri savunma alanında kullanılan dronelar da bu araçlardandır. Bu insansız araçlarda, “otonom sürüş operasyonu; fren yapan veya park eden aracın konumunu algılamak için tekerlekler üzerindeki ultrasonik sensörlerle başlar. Ardından merkezi bilgisayar sistemini kullanarak çeşitli sensörlerden gelen verilerin analizi ile devam eder. Böylece direksiyon kontrolü, frenleme, göreceli hızlandırma ve bunun gibi birçok opsiyonun çalışması sağlanır. Kendi kendine giden arabalardaki sensör verileri, büyük veri analizi, makine öğrenimi ve M2M makineler arası iletişim sistemleri gibi sistemler, IoT prensiplerini başarılı bir şekilde uygulanması için kritik öneme sahiptir.”[1]

Bilgisayar, kamera, sensör sistemleri, yer belirleme, şerit planlama sistemi ve kontrol sistemleri üzerine kurulu otonom araçlar, kendi kendine öğrenme aşamasından sonra daha büyük öngörülemezliklere gebedir.

“Otonom araçların – şu anki teknolojik gelişmeler çerçevesinde- ceza sorumluluğuna sahip olamayacakları kabul edildiğinde bunların seyirleri esnasında oluşabilecek zararlardan kim ya da kimlerin ceza hukuku bakımından hangi koşullarda sorumlu olacaklarının tespiti gerekmektedir. İlk olarak sorumluluğu gündeme gelebilecek olan kişilerin kısaca bir sınıflandırmasını yapmak gerekmektedir. Sürücü, programcı, üretici veya kullanıcı otonom araçların neden olduğu zararlardan dolayı sorumluluğu tartışılması gereken kişiler olacaktır.”[2]

Pekmez’e göre “Otonom araç kavramı Türk hukukuna yabancı bir kavramdır. Otonom araçlar bakımından şu anda Türk hukukunda bir düzenleme bulunmamakla birlikte söz konusu türdeki araçların karayolları trafiğinde yerlerini almaları öncesinde Karayolları Trafik Kanununa bir düzenleme getirilmesi gerekmektedir.”[3]

“Otonom sürüş çerçevesinde doğacak sorumluluğa dair yapılan değerlendirmeler neticesinde öncelikle farklı araç tiplerinin farklı seviyede teknolojilere sahip olduğu ve bu sebeple somut olay şartlarının daima dikkate alınması gerektiğine dikkat çekmek gerekecektir. Gerçekten de farklı teknolojik seviyelere göre özellikle sürücünün sorumluluğunun azalması ya da üreticinin sorumluluğunun artması söz konusu olabilecektir.”[4]

Avrupa Komisyonu’nun 17.05.2018 tarihli bildirisinde otonom derecelerinin 6 sınıf altında incelenmesi gerektiği belirtilmiştir:

0-    Tüm kontrol sürücüdedir.

1-    Kontrol sürücüye aittir ancak bazı yardımcı sürüş sistemleri bulunur.

2-    Sürücü sürekli sistemi gözetir, sistem sadece tanımlanan durumlarda araç kontrolünü ele alır.

3-    Sürücünün sistemi sürekli gözetmesi gerekmez ancak her an müdahaleye hazır bulunmalıdır.

4-    Sistem tanımlanan kullanım çerçevesinde tam otonomdur.

5-    Sistem yolculuğun tamamını kontrol eder, sürücüye gerek yoktur.[5]

 

Görsel 1: Otomasyonun farklı seviyeleri Kaynak: SAE – Society of Automotive Engineers

En azından kazanın sebebinin ya da sorumlunun biraz daha netlik kazanabilmesi için araçların da uçaklarda olduğu gibi kara kutularına başvurulur. Kaza anında sürücünün mü yoksa sistemin mi seyirden sorumlu olduğunun tespiti için araçlara eklenmesi zorunlu tutulan veri kaydediciler vardır.

Görsel 2: Event Data Recorder (EDR) & Data Storage System for Automated Driving (DSSAD)

Günümüzde test edilen araçlar sürücü müdahalesine açık olarak üretilmektedir. Tam otonom araçlar çıkana dek sürücünün sorumluluğu, tam otonom araçların piyasaya sunulmasından sonra ise hukuki sorumluluk üreticilere geçecek denilebilir. Teknolojinin daha fazla işin içine girmesi ile programcılar, yapay zekâ ve üreticilerin sorumlulukları tartışılacaktır. Tüm bunlar için yeterli ve kapsayıcı yasalar gerekecektir. He ceza hukuku hem bilişim hukuku güncellemeleri önem kazanacaktır.

“Bu sektörde yapay zekaya duyulan gereksinimleri; sera gazı salınımı, endüstride kullanılan doğal kaynakların sınırlılığı, trafikte harcanan zaman, yakıt maliyeti, trafik kazalarının doğurduğu yaralanma ve ölümler gibi nedenleri sıralayabiliriz. Türkiye’de 2010-2015 yıları arasında trafik kazalarının gerçekleşme nedenleri üzerine yapılan çalışmada %95 oranında sürücü kaynaklı olduğu tespit edilmiştir. Dünya genelinde sürücü kaynaklı trafik kazalarının oranı ise %92 ile %94 arasında değişmektedir.  Sürücü sorumlulukları araca verilerek trafikte yaşanan sıkıntıların önüne geçilmesi hedeflenmektedir.” [6]

Görsel 3: İnsan ve bilgisayar algısının karşılaştırılması, düşünmek ve bir geri bildirim döngüsü eklenerek genişletilmiş eylem süreci.[7]

Görsel 4: Otonom araçlarda karar vermenin soyut temsili.[8]

Tam otonom araçları yollarda görene dek aşılması gereken engeller ve temel zorluklar var. John McDermid, The Conversation’daki yazısında otonom araçların neden hala yollarda olmadığını 5 madde ile derlemiş:

1-Sensörler

2-Makine öğrenimi

3- Veri Güvenliği

4- Yönetmelikler

5-Toplumsal Kabul[9]

Otonom bir araçta kullanılacak sensörlerin tüm nesneleri doğru bir şekilde algılayacağından emin olmak zorken, arabalarda kullanılan makine öğrenme algoritmalarının güvenli olmasını sağlamak için geniş çapta kabul görmüş ve üzerinde anlaşmaya varılmış bir temel de bulunmamaktadır.

Yola çıktığında öğrenmeye devam edecek bir aracın aldığındaki kadar güvenli olacağını ya da ne tür veri güvenliği ihlalleri yapacağını da bilemeyebiliriz. Yönetmelikler açısından ise şu an hala insan sürücü varlığı esas alınmakta ve tam otonom araçlar için yeterli standartlar ve düzenlemeler hiçbir yerde mevcut değil. Sadece aracı satın alacaklar değil toplumda o aracın etkileyeceği herkes toplumsal kabule dahil olacaktır. Benimseme herkes tarafından gerçekleşmediği sürece reddedilme riskini hep taşıyacaktır. Mcdermid’e göre Musk gibi girişimciler için tatsız olsa da otonom araçların onaylanmasına giden yol; güvenlik, güvence, düzenleme ve kabulle ilgili bu zorlu sorunlar üzerinde uzun süreli iş birliğinden geçiyor.

Otonom araçlar felsefedeki tramvay ikileminin yeni sürümü gibi. Çeşitli sahneler hayal edilip üzerine düşünce deneyleri yapılıyor. Örneğin Toulouse School of Economics’ten Jean-Francois Bonnefon tarafından yönetilen bir araştırma ekibinin tartıştığı ahlaki ve etik bir ikilemde, şu sahnenin hayal edilmesi istenmiş:

“Kendi kendine giden bir arabadasınız ve köşeyi döndükten sonra, her iki tarafında duvarlar olan yolda 10 kişilik bir grupla kaçınılmaz bir çarpışma rotasındasınız. Araba duvara çarparak, muhtemelen tek yolcusu olan sizi ciddi şekilde yaralayacak ya da öldürecek ki grubu kurtarabilsin. Yoksa sizi güvende tutarken bir grup insana vuracağını çok iyi bilerek durdurmak için her türlü girişimi mi yapmalı?”

Çalışmalarında, kendi kendini süren arabaların artmasıyla bunun gibi bazı kazaların kaçınılmaz olduğunu ve arabaların bu durumlarda ne yapmaya programlandığının, teknolojinin toplum tarafından benimsenmesinde büyük bir rol oynayabileceğini belirtmişler:

“Bu tür ahlaki ikilemlerle karşı karşıya kalan otonom araçlara rehberlik edecek algoritmaları tanımlamak zorlu bir görevdir. Bu hedeflere ulaşmak için üreticilerin ve düzenleyicilerin, deneysel etik yöntemlerini ve kaçınılmaz zararları içeren durumlara uygulamak için psikologlara ihtiyaç duyacağını savunuyoruz.”

Araştırmada birkaç yüz kişiyle anket yapmışlar ve katılımcılara bir dizi senaryo sunarak arabadaki insan sayısını, gruptaki insan sayısını, arabadaki insanların yaşını (çocukları da içerecek şekilde) değiştirerek vermişler.

Sonuçlar genellikle başkalarını kurtarmak için sürücüyü feda etmeye istekli olmaları yönündeymiş ancak çoğu bunu yalnızca kendilerini sürücü olarak görmedikleri takdirde seçmiş. Ankete katılanların %75’i yoldan çıkmanın ahlaki olacağını düşünürken, yalnızca %65’i arabaların gerçekten yoldan çıkmak üzere programlandığını düşünmüş.

Kendi kendini süren arabaların toplu taşıma için mantıklı bir gelecek olduğuna dair çok az şüphe var ve dünya çapında seyahatte de devrim yaratmayı vaat ediyorlar. Ancak bu çalışmanın vurguladığı gibi, hala ele alınması gereken zorlukları bol ve önemli.

Araştırmacılar, “Etik özerk makinelerin nasıl inşa edileceğini bulmak, günümüzde yapay zekadaki en büyük zorluklardan biri. Milyonlarca araca özerklik vermek üzereyken, algoritmik ahlakı ciddiye almak hiç bu kadar acil olmamıştı[10]” diyor.

Algoritmik ahlak! Kendimizi bu tür kavramlara hızlıca hazırlasak iyi olacak çünkü yeterince geç kalmışız gibi hisseden bir ben olamam.

Bir diğer araştırma ise Nature tarafından yapılan iki milyondan fazla katılımcısı olan bir deney: Yine bir otonom araçtaki yolcular ve yayalar arasında tercih yapmak zorunda bırakılan insanlar. Örneğin katılımcılara aşağıda gösterilen resimdeki gibi ikisi de ölümle sonuçlanması muhtemel durumun, frenlerin çalışmaması halinde hangisi ile sonuçlanmasını tercih edecekleri sorulmuş: Kırmızı ışıkta karşıya geçen yaşlı yayaların mı yoksa genç ailenin arabada ölmesini mi?

 

“Ahlaki Makine” adı verilen deneyin sonucunda araştırmacılar, bu tarz sorularla yaklaşık 40 milyon yanıttan dokuz farklı sonuç netleştirmiş:

• Evcil hayvanlara karşı insanlar korunuyor.
• Yoldan çıkmak yerine yolda kalmak tercih ediliyor.
• Yayalara karşı yolcular korunuyor.
• Sayıca daha çok hayat kurtarılmaya çalışılıyor.
• Kadınlara karşı erkekler korunuyor.
• Yaşlılara karşı gençler korunuyor.
• Dikkatsiz yayalara karşı kurallara uyanlar korunuyor.
• Kiloluya karşı fit vücutlular korunuyor.
• Orta direğe karşı yüksek statülü insanlar korunuyor.

Tesla otonom araçların kaza haberleri günümüzde sıklıkla gündeme taşınmaktadır. Yakın zamanda ise ilk kez kişilerin ölümüyle sonuçlanan bir kaza meydana gelmiştir. Yetkililer sürücü koltuğunda kimsenin olmadığı aracın alevler içinde kaldığını ve içerdeki iki kişinin hayatını kaybettiğini bildirmişti. Yerel medya, arabanın yüksek hızla seyrettiği ve dönüş yapamadığı, ardından yol kenarında bulunan bir ağaca doğru yöneldiğini belirtmişti. 2019 model olduğu belirtilen elektrikli Tesla’nın otopilot sürücü destek sisteminin etkinleştirilip etkinleştirilmediğinin tespit edilememişti. Kaza, sürücü koltuğunda kimsenin olmadığı ilk ölümcül kaza olarak kayıtlara geçti.

Olası bu tür kazaların hukuk çerçevesinde nasıl değerlendirileceği kapsamının ne ya da kimler olacağı hala belirsizdir. Otonom araçların suça aracı olmaları durumunda bilgisayar sistemleri ve teknolojilerinin kullanılmasıyla ilgilenen bilişim hukukunun da olaylara dahil olacağı düşünülmektedir.

 

Elif AKÇAY 

KAYNAKÇA

[1] https://www.protopars.com/otonom-araclar-nedir-calisma-prensibi-nedir/

[2] https://dergipark.org.tr/tr/download/article-file/611504 s. 185

[3] https://dergipark.org.tr/tr/download/article-file/611504 – s. 193

[4] https://dergipark.org.tr/en/download/article-file/980920 – s. 299

[5] https://eur-lex.europa.eu/LexUriServ/LexUriServ.do?uri=COM:2018:0283:FIN:EN:PDF

[6]  https://blog.bilgiyazan.com.tr/surucusuz-otonom-araclarda-etik/

[7] “Ethical and Social Aspects of Self-Driving Cars” adlı makale.

[8] “Ethical and Social Aspects of Self-Driving Cars” adlı makale.

[9] https://theconversation.com/autonomous-cars-five-reasons-they-still-arent-on-our-roads-143316

[10] https://www.iflscience.com/technology/should-self-driving-car-be-programmed-kill-its-passengers-greater-good-scenario/