Analiza wrażliwości konwolucyjnych sieci neuronowych

Abstract

Sztuczna inteligencja (Al) odnotowała znaczące postępy, napędzane rozwojem dużych modeli, w tym głębokich sieci neuronowych, mimo braku pełnego zrozumienia ich działania. Konwolucyjne sieci neuronowe (CNN) znajdują zastosowanie w klasyfikacji obrazów, wykrywaniu obiektów, i segmentacji, gdzie modele zawierają miliony parametrów, co czyni je kosztownymi obliczeniowo. W odpowiedzi na ryzyko zbyt skomplikowanych modeli, naukowcy poszukują sposobów na uproszczenie ich poprzez analizę wrażliwości (SA), która ocenia wpływ parametrów na wydajność modelu. SA obejmuje globalną analizę wrażliwości (GSA) i lokalną analizę wrażliwości (LSA), umożliwiające identyfikację i usunięcie nieistotnych parametrów. Praca ta proponuje zastosowanie GSA i LSA do optymalizacji sieci CNN, co pozwala na redukcję nadmiernie parametryzowanych sieci i prowadzi do powstania bardziej efektywnych modeli. Wyniki podkreślają przewagę metod SA nad tradycyjnymi metodami redukcji parametrów, przyczyniając się do rozwoju AL. Artificial Intelligence (AI) has made significant progress, driven by the development of large models, including deep neural networks, despite a lack of full understanding of their operation. Convolutional Neural Networks (CNNs) are used in image classification, object detection, and segmentation, where models contain millions of parameters, making them computationally expensive. In response to the risk of overly complex models, researchers are seeking ways to simplify them through Sensitivity Analysis (SA), which assesses the impact of parameters on model performance. SA includes Global Sensitivity Analysis (GSA) and Local Sensitivity Analysis (LSA), enabling the identification and removal of irrelevant parameters. This work proposes the application of GSA and LSA to optimize CNNs, allowing for the reduction of overly parameterized networks and leading to more efficient models. The results highlight the advantage of SA methods over traditional parameter reduction methods, contributing to the development of AL.