कन्भोलुसनल न्यूरल नेटवर्कहरू (CNNs) को व्यवहार बुझ्ने र तिनीहरूले सिकेका हुनसक्ने कुनै पनि असामान्य सङ्गठनहरूको पर्दाफास गर्नु कृत्रिम बुद्धिमत्ताको क्षेत्रमा अत्यन्त महत्त्वपूर्ण छ। CNNs छवि पहिचान कार्यहरूमा व्यापक रूपमा प्रयोग गरिन्छ, र छविहरूबाट जटिल ढाँचा र सुविधाहरू सिक्ने तिनीहरूको क्षमताले क्षेत्रमा क्रान्तिकारी परिवर्तन गरेको छ। तर, यो कालो बक्स प्रकृतिको हो