Es un reto dentro de los otros posibles retos que se vayan proponiendo. El reto es ser capaces de demostrar que su algoritmo es explicable e interpretable.
Este reto se pensó en OdiseIA (Observatorio del impacto social y ético de la inteligencia artificial) del que soy miembro. Intentamos presentarnos como tal, pero por falta de tiempo no ha sido posible, Por este motivo lo presento a nivel personal pero dejando constancia de donde salió la idea para este reto.

Se que es una vuelta de tuerca más al reto que elijan, pero que debido a la importancia, a la influencia de la IA en nuestras vidas, de como va a influir en lo social, es preciso tenerlo presente para el desarrollo de algoritmos de IAs que cumplan los principios éticos de ser beneficiosas para la sociedad, para la humanidad,

Hay una librería de open source en la podrían usar para evaluar la explicabilidad e interpretabilidad de los algoritmos, pueden usar esta librería u otra que haya en el mundo del software, pero deberían ser capaces de demostrar que su algoritmo es explicable e interpretable.
XAIoGraphs (eXplainability Articicial Intelligence over Graphs) una librería Open Source de Explicabilidad y Fairness para problemas de clasificación con datos tabulados desarrollado por el equipo de AI Products & Privacy Guardian de CDO (Chief Data Officer).Esta herramienta dispone de las siguientes funcionalidades:

· Explicabilidad Global
· Explicabilidad Local
· Medida de Fiabilidad de la explicabilidad local
· Reason Why: Frase en lenguaje natural que justifica el “¿Por qué?” de la clasificación
· Puntuación de equidad, para la detección de sesgos y discriminaciones. Dispone también de una interfaz web (xaioweb) ejecutada en modo local para “interpretar” los resultados de la explicabilidad.

Eugenio Criado (eugenio.criado@empatiaeia.com)