{"id":10380,"date":"2020-08-05T11:26:26","date_gmt":"2020-08-05T14:26:26","guid":{"rendered":"https:\/\/www.blip.ai\/blog\/?p=10380"},"modified":"2023-07-16T10:26:57","modified_gmt":"2023-07-16T13:26:57","slug":"o-que-e-xal","status":"publish","type":"post","link":"https:\/\/www.blip.ai\/blog\/tecnologia\/o-que-e-xal\/","title":{"rendered":"O que \u00e9 xAI, a Intelig\u00eancia Artificial Explic\u00e1vel?"},"content":{"rendered":"\n

Gra\u00e7as aos avan\u00e7os do poder computacional ao qual temos acesso e ao grande volume de dados gerados diariamente, modelos de <\/span>Machine Learning<\/span><\/i> t\u00eam se tornado mais complexos e atingindo patamares de performance cada vez mais impressionantes. Pensando nisso, neste artigo, falaremos um pouco mais sobre xAI, ou Intelig\u00eancia Artificial Explic\u00e1vel.<\/span><\/p>\n\n\n\n

No entanto, <\/span>o aumento de performance dos modelos de ML nem sempre foi acompanhado por um avan\u00e7o na sua transpar\u00eancia<\/b>. Muitas vezes, nem mesmo os especialistas que desenvolvem esses modelos sabem como eles chegam \u00e0s suas conclus\u00f5es. <\/span><\/p>\n\n\n\n

Se o foco das pesquisas em <\/span>Machine Learning<\/span><\/i> for apenas na otimiza\u00e7\u00e3o da performance, um modelo que faz boas previs\u00f5es e boas classifica\u00e7\u00f5es j\u00e1 \u00e9 bom o bastante.<\/span><\/p>\n\n\n\n

Quer entender ainda mais sobre o tema? Continue com a leitura!<\/span><\/p>\n\n\n\n

Por que a falta de explicabilidade pode se tornar um problema?<\/h2>\n\n\n\n

Imagine uma professora de ensino m\u00e9dio. Ela trabalha em uma escola p\u00fablica h\u00e1 apenas 2 anos e \u00e9 conhecida por ser bem vista pelos seus alunos e colegas. <\/span><\/p>\n\n\n\n

O diretor da escola fica t\u00e3o impressionado com as notas e a motiva\u00e7\u00e3o dos seus alunos que pede \u00e0 professora que divida com os outros professores as suas t\u00e9cnicas. Ao final do ano, ela recebe uma avalia\u00e7\u00e3o brilhante dos pais, colegas e dos alunos.<\/span><\/p>\n\n\n\n

Dois meses depois, um algoritmo que objetiva melhorar a qualidade do ensino em todo o distrito \u00e9 implementado na escola e ele passa a avaliar a performance dos professores. A professora recebe ent\u00e3o uma nota baixa desse algoritmo e \u00e9 demitida. Ao procurar o diretor ela n\u00e3o consegue uma explica\u00e7\u00e3o do que pode ter impactado sua nota baixa.<\/span><\/p>\n\n\n\n

A professora desta hist\u00f3ria chama Sarah Wysocki e em 2011 ela foi apenas uma de 206 professores demitidos ap\u00f3s serem avaliados pelo algoritmo implementado no distrito de D.C.<\/span><\/p>\n\n\n\n

Sem entrar nas repercuss\u00f5es desse caso, \u00e9 poss\u00edvel observar um problema de n\u00e3o podermos explicar as decis\u00f5es tomadas por um algoritmo. Quando avaliamos uma pessoa, \u00e9 importante que ela tenha acesso aos fatores que levaram a esse julgamento. Assim ela p\u00f4de contestar a decis\u00e3o ou trabalhar para melhorar esses fatores. <\/span><\/p>\n\n\n\n

\u00c9 a\u00ed que entra a import\u00e2ncia do estudo da xAI<\/b>, ou explainable AI, que <\/span>aborda a necessidade de ser poss\u00edvel interpretar um modelo de <\/b>Machine Learning<\/i><\/b><\/a>. <\/span><\/p>\n\n\n\n

Isso surge porque \u00e9 comum que a formula\u00e7\u00e3o dos problemas abordados por ML esteja incompleta. Muitas vezes, uma previs\u00e3o n\u00e3o \u00e9 suficiente para tratar de um problema. <\/span>\u00c9 importante saber mais do que apenas \u201co qu\u00ea\u201d, mas tamb\u00e9m \u201co porqu\u00ea\u201d, \u201co como\u201d<\/b>. N\u00e3o basta saber que um professor foi mal classificado em um ano, \u00e9 importante saber tamb\u00e9m o motivo para que uma melhora seja alcan\u00e7ada. <\/span><\/p>\n\n\n\n

Afinal, o que \u00e9 xAI?<\/h2>\n\n\n\n

xAI \u00e9 o campo de pesquisa que se dedica ao estudo de m\u00e9todos para que aplica\u00e7\u00f5es de <\/b>Intelig\u00eancia Artificial<\/b><\/a> produzam solu\u00e7\u00f5es que possam ser explicadas a seres humanos(6).<\/b> Ele surge como um contraponto ao desenvolvimento de modelos completamente \u201cblack box\u201d, ou seja, modelos opacos em que nem mesmo os desenvolvedores sabem como as decis\u00f5es s\u00e3o tomadas. <\/span><\/p>\n\n\n\n

Uma das grandes quest\u00f5es dessa \u00e1rea \u00e9 a dificuldade de chegar a uma defini\u00e7\u00e3o fechada do que \u00e9 um modelo suficientemente explic\u00e1vel. Um survey de 2019 detalha as pesquisas conduzidas nesse campo, apresentando 5 m\u00e9tricas que frequentemente aparecem como desej\u00e1veis em modelos explic\u00e1veis:<\/span><\/p>\n\n\n\n