Czy sztuczna inteligencja (SI) w systemach robotycznych może zarządzać elementami bezpieczeństwa funkcjonalnego?

Problemy związane ze sztuczną inteligencją i bezpieczeństwem funkcjonalnym

Ocena bezpieczeństwa funkcjonalnego robotów z wbudowanymi systemami sztucznej inteligencji ujawniła dwa istotne problemy: trudności z oceną stanów systemów sztucznej inteligencji oraz różnice we wskaźnikach oceny wydajności pomiędzy systemem bezpieczeństwa funkcjonalnego a systemem sztucznej inteligencji.

Określenie stanu systemów sztucznej inteligencji może być trudne, szczególnie w przypadku sieci neuronowych o złożonej architekturze węzłów lub warstw. Trudność polega na diagnozowaniu wyników oceny, przez co ocena poprawnego działa systemu jest niemożliwa do wykonania. Na przykład, decyzje stochastyczne podejmowane są w przypadku awarii systemów sztucznej inteligencji. Oznacza to, że taki system nie może być traktowany jako system deterministyczny i z tego względu ocena systemu jako części związanych z bezpieczeństwem systemu sterowania bezpieczeństwa funkcjonalnego stanowi wyzwanie.

Wskaźniki oceny wydajności dla sztucznej inteligencji obejmują dokładność, precyzję, odwołanie i szczegółowość. Niemniej jednak, możliwości sztucznej inteligencji są zależne od nauki na danych, które nie uwzględniają wariacji w szeregach czasowych. W konsekwencji prawdopodobieństwo wystąpienia błędu systemów sztucznej inteligencji zmienia się co pewien czas, przekładając się na trudności z oceną ich wydajności z perspektywy bezpieczeństwa funkcjonalnego, która ocenia prawdopodobieństwo awarii podczas pracy na miejscu jako stałe.

Analiza powyższych zagadnień podkreśla fakt, że ocena bezpieczeństwa systemów sztucznej inteligencji nie jest łatwym zadaniem. Dlatego też doskonalenie zalet systemów produkcyjnych wykorzystujących roboty współpracujące i sztuczną inteligencję powinno ograniczać się do wybranych obszarów.

Wnioski

Podsumowując, chociaż roboty i systemy sztucznej inteligencji oferują wiele korzyści dla przemysłowych zakładów produkcyjnych, to bezpieczeństwo pracowników jest najważniejsze. Dlatego też szczegółowa ocena ryzyka z punktu widzenia bezpieczeństwa funkcjonalnego jest niezbędna. Z drugiej strony ocena poziomu bezpieczeństwa systemów sztucznej inteligencji stanowi wyzwanie, co przekłada się na konieczność ograniczenia stosowania robotów z wbudowaną sztuczną inteligencją w określonych obszarach. Badanie tych zagadnień wymaga zastosowania innowacyjnych rozwiązań w celu poprawy bezpieczeństwa robotów z wbudowanymi systemami sztucznej inteligencji.