Avrupa Birliği Siber Güvenlik Ajansı (ENISA) ve Joint Research Centre (JRC) tarafından hazırlanan bir rapor, sayıları artan otonom araçların karşılaşacağı siber güvenlik risklerine dikkat çekiyor.

Otonom araçlarla ilgili dünyanın dört bir yanında çok sayıda çalışma yürütülüyor. Bu hummalı çalışmada yalnızca otomobiller değil, şehir içi otobüsler ve şehirlerarası yük taşıyan kamyonlar dahil tüm araçları kapsayan bir gelecek söz konusu. Türkiye’nin de dahil olduğu bu yarışta 2021 yılı başı itibariyle Karsan ve Adastec tarafından geliştirilen model ile Otokar ve Okan Üniversitesi iş birliğiyle geliştirilen model resmen tanıtıldı. Karsan’ın otonom modeli Romanya’dan ilk siparişini almış durumda ve yola çıkmaya hazır. Otokar’da ise geliştirme çalışmaları sürerken Otokar Genel Müdürü Serdar Görgüç, bu modelin Avrupa Birliği’nin 2050 hedeflerinde bulunan sıfır kaza hedefiyle uyumlu olarak şehir içi altyapı sağlayacağına dikkat çekiyor.

Avrupa Birliği’nin bu vizyonu yalnızca sıfır kazayı hedeflemiyor. Fiziksel hasarların yanında dijital hasarları önlemek için de adımlar atıyor. Bu kapsamda yapılan hazırlıklardan biri, Avrupa Birliği Siber Güvenlik Ajansı (ENISA) ile Avrupa Komisyonu Ortak Araştırma Merkezi (Joint Research Centre – JRC) tarafından hazırlanan “Cybersecurity Challenges in the Uptake of Artificial Intelligence in Autonomous Driving” başlıklı rapor.

Karsan ve Adastec iş birliği ile geliştirilen Otonom Atak Electric, 2021 Mart itibariyle Romanya’da yollara çıkıyor. Araç, aynı zamanda Avrupa ve ABD’nin ilk seri üretim sürücüsüz otobüsü olma unvanına da sahip.

Yapay zeka hangi risklere açık?

Rapor, temel itibariyle yapay zekanın otonom araçlarda kullanımına bağlı olarak ortaya çıkabilecek siber güvenlik risklerine ışık tutuyor ve bunları azaltmak için çeşitli öneriler sunuyor. Örneğin otonom bir aracın yapay zeka sistemleri, trafik işaretlerini tanımak, yayaları belirlemek, araçları ve hızlarını tespit etmek, önündeki yolu planlamak için durmaksızın çalışıyor. Rapor, ani arızalar gibi kasıtlı olmayan tehditler dışında bu sistemlerin savunmasız olduğuna dikkat çekiyor.

Araçlardaki yapay zeka sistemine yapılabilecek saldırılar navigasyonun yanlış yönlendirilmesi, yol çizgilerinde oynama yapmak ya da bir dur işaretini tespit edilemeyecek şekilde işaretlemek gibi örneklerle sıralanıyor.

Sistemler nasıl korunabilir?

Otonom araçlardaki yapay zeka güvenliğini iyileştirmek için çeşitli öneriler de raporda kendine yer buluyor. Örneğin, sistemin yaşam döngüsü boyunca yapay zeka bileşenlerinin güvenlik değerlendirmelerinin düzenli olarak gerçekleştirilmesi ilk sırada yer alıyor. Bununla birlikte tehditlerin yer aldığı istihbarat kaynaklarıyla desteklenen risk değerlendirme süreçlerinin iyileştirilmesi, sektörün tüm tedarik zinciri için uygun yapay zeka güvenlik politikalarının oluşturulması da öne çıkan öneriler arasında yer alıyor.

Yapay zeka siber güvenlik önlemleriyle geleneksel siber güvenlik teknolojilerinin uçtan uca bir yaklaşımla entegre edilmesinin de önerildiği raporda otomotiv sektöründe yapay zeka temelli siber güvenlik konusunda uzmanlığın ve kapasitenin yetersiz olduğuna da dikkat çekiliyor. Yalnızca otomotiv ve siber güvenlik sektörlerine değil, resmi kurumlara da tavsiyelerde bulunulan rapordaki öne çıkan öneri ve tavsiyelere aşağıdaki tablodan ulaşabilir; toplam 58 sayfalık raporun tamamını ENISA’nın internet sitesinden indirebilirsiniz.

Yapay zeka modellerini ve verileri sistematik olarak güvenlik doğrulamasından geçirin

  • Proaktif veya reaktif yapay zeka modelleri için izleme ve bakım süreçleri oluşturun
  • Yaşam döngüleri boyunca özellikle yapay zeka bileşenlerini dikkate alarak sistematik risk değerlendirmeleri yapın
  • Olay yaşanması durumunda alternatif planlar ve müdahaleye yönelik çalışmalara dair hazırlık yapın, direnç mekanizmaları oluşturun
  • Araç operasyonlarının test edilmesine ilişkin geri bildirim döngüleri oluşturun
  • Olay sonrasında adli analiz süreçlerini desteklemek ve ileride karşılaşılabilecek endişeleri gidermek için denetim mekanizmaları oluşturun, bununla ilgili güncel kayıtlar tutun
  • Hatalı verilerin etkisini sınırlandırmak için ek doğrulama noktaları belirleyin

Hatalardan ders alın

  • Olay müdahale planlarını yapay zekayı içerecek şekilde belirleyin
  • Yapay zeka odaklı güvenlik olaylarından bir öğrenme kültürü oluşturun
  • Bilgi paylaşımını teşvik edin
  • Yapay zeka için zorunlu standartların kullanımını teşvik edin ve güvenlik olaylarının raporlanmasını sağlayın
  • Doğal afetler sonucu ortaya çıkabilecek riskler için tatbikatlar düzenleyin
  • Farkındalığı artırmak için simülasyonlar geliştirin ve sektördeki bilgi birikimini artırın

    Tedarik zincirini kontrol altında tutun

    • Üçüncü taraf sağlayıcılar dahil tedarik zinciri genelinde uygun bir yapay zeka güvenlik politikası oluşturun
    • Tedarik zincirinin tamamında yapay zeka güvenlik politikasının yönetişimini sağlayın
    • Otonom sürüşte yapay zeka ile ilgili potansiyel riskleri ve tehditleri belirleyin ve izleyin
    • Tedarik zincirinin tamamında tüm paydaşları içeren bir yapay zeka güvenlik kültürü inşa edin
    • Tedarik zinciri genelinde otomotiv sektöründeki düzenlemelere uyum talep edin

    Yapay zeka siber güvenliğini geleneksel siber güvenlik ilkeleriyle entegre etmek için uçtan uca bütünsel yaklaşımla hareket edin

    • Yapay zeka özelliklerini entegre eden organizasyonlarda güvenlik süreçleri oluşturun
    • Otomotiv sektörü özelinde yapay zekanın yaygınlaştırılması ve geliştirilmesi söz konusu olduğunda güvenlik unsurunun dikkate alınmasını teşvik edin
    • Sektör genelinde standartlaştırılmış bileşenler ve homojen yapay zeka çözümlerinin kullanımını teşvik edin
    • Regülatör kurumlarda yapay zeka siber güvenlik politikasının faktör olmasını sağlayın
    • Otomotiv sektörü genelinde bir yapay zeka siber güvenlik kültürü oluşturun
    • Kurumlarda yapay zeka siber güvenliği algısını geliştirmek için inovasyon ve Ar-Ge faaliyetlerini destekleyin
    • Birlikte çalışabilirliği sağlamak için sektörel aktörler arasında diyalogu geliştirin
    • Otonom sürüş için yapay zeka bileşenlerinin güvenliğiyle ilgili araştırma projelerini teşvik edin

      Otomotiv sektöründe yapay zeka siber güvenliği uzmanlığının oluşmasını sağlayın

      • Yapay zeka siber güvenlik özelliklerini tüm organizasyon politikasına dahil edin
      • Makine öğrenimi ile ilgili alanlar, siber güvenlik ve otomotiv sektörü uzmanlarından faklı ekipler oluşturun
      • Organizasyonlarda yapay zeka güvenliği uygulamalarının benimsenmesine yardımcı olabilecek danışmanları dahil edin
      • Yapay zeka sistemleri siber güvenliğine ve bunların otomotiv ekosistemine entegrasyonuna odaklanan güvenlik eğitimleri başlatın
      • Araçların her bakım zamanında güvenlik testlerine girmesini sağlayın ve bunu tüm tedarik zincirine uyarlayın
      • Bu konuyu ele alan özel kurslar tanımlayarak sektör uzmanlığının akademik müfredata girmesini sağlayın