EASA przedstawia nowe wytyczne dotyczące zastosowań sztucznej inteligencji w lotnictwie

Zgodnie z założeniami mapy drogowej sztucznej inteligencji EASA AI Roadmap 2.0, Europejska Agencja Bezpieczeństwa Lotniczego (EASA) opublikowała dokument koncepcyjny przedstawiający rozszerzony zestaw celów dla systemów AI na poziomach od Level 0 („niski poziom automatyzacji”) do Level 3 („zaawansowana automatyzacja”).

Celem dokumentu jest przygotowanie przyszłych działań regulacyjnych związanych z zatwierdzaniem zastosowań sztucznej inteligencji mających wpływ na bezpieczeństwo lotnicze.

Dokument ma służyć jako wskazówka dla producentów, operatorów i organizacji lotniczych wdrażających technologie AI w obszarach objętych rozporządzeniem podstawowym EASA (UE 2018/1139). Choć zawiera zestaw praktycznych celów i oczekiwań, nie stanowi jeszcze formalnych ani wiążących wytycznych. Materiał ten ma wspierać drugi etap realizacji AI Roadmap 2.0, poświęcony konsolidacji ram regulacyjnych dla sztucznej inteligencji, do czasu wejścia w życie formalnych przepisów opracowywanych w ramach zadania regulacyjnego RMT.0742.

EASA podkreśla również konieczność zachowania zgodności z unijnym Aktem o Sztucznej Inteligencji (AI Act), który wszedł w życie w 2024 r. Zgodnie z jego postanowieniami Agencja będzie zobowiązana do uwzględniania wymagań dotyczących systemów AI przy opracowywaniu aktów wykonawczych i delegowanych dla sektora lotniczego. Zarówno mapa drogowa EASA dotycząca AI, jak i omawiane wytyczne muszą pozostawać spójne z tymi przepisami.

W dokumencie przedstawiono cztery podstawowe obszary budowania zaufania do systemów AI: analizę wiarygodności i zaufania do systemu, zapewnienie jakości i bezpieczeństwa AI, projektowanie zorientowane na człowieka oraz ograniczanie ryzyka związanego z zaawansowaną automatyzacją. Osobna część poświęcona została wymaganiom, które w przyszłości mogą dotyczyć organizacji opracowujących lub wdrażających rozwiązania oparte na sztucznej inteligencji.

Autorzy dokumentu zwracają uwagę na zasadę proporcjonalności, zgodnie z którą zakres wymagań powinien być dostosowany do charakteru i poziomu ryzyka konkretnej aplikacji AI. W celu potwierdzenia praktycznej wykonalności proponowanych celów przedstawiono również przykłady zastosowań z różnych obszarów lotnictwa, w których wybrane elementy wytycznych zostały już częściowo zastosowane.

Publikacja stanowi kolejny etap realizacji strategii EASA dotyczącej sztucznej inteligencji. Rozszerza wcześniejsze wytyczne opublikowane w marcu 2024 r., które koncentrowały się wyłącznie na aplikacjach uczenia maszynowego poziomu 1 i 2. Nowy dokument obejmuje pełniejsze spektrum technik AI i wskazuje potencjalne środki zgodności (Means of Compliance – MOC), opracowane m.in. na podstawie projektów badawczych Horizon Europe, doświadczeń zdobytych podczas procesów certyfikacyjnych oraz rozwijanych standardów przemysłowych.

Do czasu opublikowania formalnych rezultatów zadania RMT.0742 wytyczne mogą być wykorzystywane jako punkt odniesienia podczas przygotowywania podstaw certyfikacji i zatwierdzania projektów wykorzystujących sztuczną inteligencję. EASA podkreśla, że dokument ma wspierać wszystkich interesariuszy sektora lotniczego – od użytkowników końcowych i producentów po organy certyfikacyjne i nadzorcze – jednak sam w sobie nie stanowi gwarancji uzyskania przyszłego zatwierdzenia lub certyfikacji.

Pełny tekst dokumentu EASA Concept Paper artificial intelligence applications dostępny jest tutaj (LINK)