Redes neurais profundas t¨ºm demonstrado desempenho e precis?o not¨¢veis em uma gama ampla de problemas. Dada a quantidade suficiente de dados de treinamento e uma topologia escolhida adequadamente, esses modelos atendem e excedem as capacidades humanas em certos espa?os de problemas espec¨ªficos. Contudo, eles s?o inerentemente obscuros. Embora partes de modelos possam ser reusadas por meio da transfer¨ºncia de aprendizado, raramente somos capazes de atribui significado intelig¨ªvel por pessoas para estes elementos. Em contraste, um modelo explic¨¢vel nos permite dizer como uma decis?o foi tomada. Por exemplo, uma ¨¢rvore de decis?o produz uma cadeia de infer¨ºncia que descreve o processo de classifica??o. A explicabilidade se torna cr¨ªtica em certas ind¨²strias reguladas ou quando nos preocupamos com o impacto ¨¦tico de uma decis?o. ? medida que estes modelos s?o incorporados mais amplamente a importantes sistemas de neg¨®cios, ¨¦ importante considerar a explicabilidade como crit¨¦rio de sele??o de modelo de primeira classe. Apesar de seu poder, redes neurais podem n?o ser uma escolha adequada quando os requisitos de explicabilidade forem rigorosos.
