Curso: Learning XAI: Explainable Artificial Intelligence (LinkedIn)

Finalizei agora o curso “Learning XAI: Explainable Artificial Intelligence” oferecido na plataforma LinkedIn Learning.

É um curso introdutório, voltado para quem não conhece XAI ou apenas ouviu falar, o instrutor Aki Ohashi, fala diretamente para quem está em uma empresa trabalhando com machine learning e deseja saber mais sobre interpretabilidade de modelos e como isso pode ser útil para uma empresa.

É um bom começo para quem tem zero conhecimento sobre o assunto. Um curso rápido, em 1 hora e meia você é capaz de finalizá-lo tranquilamente.

Minha opinião sobre o curso

São 5 capítulos. Considero o capítulo 1 o única interessante pra quem deseja ter uma introdução sobre XAI, pra mim os capítulos 2 e 3 são desnecessários, o 4 mostra alguns exemplos, e o 5 fala algumas coisas sobre o futuro da adoção de XAI pelas empresas.

Dito isto, algumas considerações sobre o capítulo 1:

  • Começa explicando o porquê XAI ser importante. Cita e mostra como exemplo as análises do artigo “Deep neural networks are easily fooled: High confidence predictions for unrecognizable images“, que mostra como é fácil enganar uma rede neural para que ela faça predições erradas com um alto nível de certeza;
  • Cita (de forma superficial) 3 técnicas de XAI: LIME, RETAIN e LRP. Explica o contexto que elas foram criadas, mas não entra em detalhes sobre como funcionam;
  • Fala sobre a necessidade do uso de XAI em alguns domínios. Aqui a forma que o instrutor fala é muito didática. Da pra ter uma excelente noção de como para determinados domínios, explicar o que o modelo está fazendo e o porquê dele ter feito uma determinada predição é importante. Por exemplo, uma predição errada sobre a recomendação de um produto na Amazon pode não ser um problema, mas uma predição errada de um diagnóstico médico ou de um investimento financeiro pode gerar grandes problemas;
  • Esse capítulo também fala sobre a necessidade legal do uso de XAI, citando a GDPR (General Data Protection Regulation) que é a lei europeia que regula e protege o uso de dados dos cidadãos da União Europeia. Aqui no Brasil nós também temos um lei sobre isso a LGPD (Lei Geral de Proteção de Dados Pessoais). Ele cita o artigo 22 da GDPR sobre o direito do cidadão ter uma explicação sobre decisões automáticas feitas com os dados dele. Por exemplo, questionar porquê o banco negou um crédito. Nesse caso, se o banco usa um modelo de machine learning para concessão de créditos, fica difícil explicar o como o modelo chegou a conclusão para negar o crédito. O uso de XAI é extremamente necessário nessa situação. Não sei se existe esse “direito de explicação” na nossa LGPD, mas vale a pena procurar depois sobre isso.
  • Por fim, o capítulo finaliza falando sobre as limitações de XAI de uma maneira geral, se se aprofundar nas limitações de técnicas específicas. Algo interessante que o instrutor questiona é que quanto mais complexos ficam os modelos de deep learning, mais complexas também ficam as explicações. Aí você fica se questionando: nesse caso, teríamos que ter explicações para as técnicas de explicações? Enfim, você você começar a se aprofundar e estudar as técnicas de XAI, você verá que algumas não são exatamente fáceis de compreender.

Não vou comentar os outros capítulos.

Se você quiser se aprofundar no assunto, eu sugiro o excelente livro do Christoph Molnar: Interpretable Machine Learning

Até mais e obrigada pelos peixes!

Autor: priscyllamss

Priscylla Silva is a teacher at the Federal Institute of Alagoas (IFAL), Brazil. She obtained her BSc degree in computer science from the Federal University of Alagoas (UFAL), Brazil. Later, she received her Master degree in Computer Science from the Federal University of Campina Grande (UFCG), Brazil. Her research interests include User Modelling, Recommender Systems, Machine Learning, Intelligent Tutoring Systems, Robotics, Internet of Things, and Internet Governance.

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

%d blogueiros gostam disto: