Pior ainda, quando uma explicação finalmente surge, pode revelar que a decisão não foi a ideal.
Até o momento, a Inteligência Artificial não é como os humanos, feita de carne e osso, mas de software e computadores. Nós, humanos, inventamos essas coisas, então, pelo menos em teoria, nós, como seres humanos, deveríamos ser capazes de entender todos os aspectos de uma IA. Mas isso não é o caso.
Se uma IA está sendo usada para determinar uma direção autônoma e precisa decidir quem vai salvar nos casos onde não tem como escapar de um acidente, em decisões de sentenças de prisão, na aprovação de riscos de crédito ruim, decisões de contratação ou tratamento médico, e não há explicação, nem racionalização para suas decisões, devemos confiar nela?
A pesquisa sobre a compreensão da inexplicável razão pela qual a IA funciona tão bem deu a Stefan Neumann, um pós-doutorado na divisão de Ciência da Computação Teórica, o Prêmio Heinz Zemanek. O prêmio é concedido semestralmente para dissertações de grau de excelência em informática e áreas afins.
A Inteligência Artificial, especialmente seu ramo de Deep Learning (aprendizado profundo), é uma tecnologia disruptiva cujas implicações estamos apenas começando a entender. Devido aos seus sucessos impressionantes, a IA é de alguma forma considerada uma caixa preta mágica, capaz de superar a capacidade humana de uma forma inexplicável.
Por exemplo, como uma IA (inteligência artificial) aprende a presença de simetrias quando nenhuma informação sobre simetria foi fornecida? Não é mágica, mas é a IA fazendo o possível para realizar uma tarefa e encontrar o caminho mais inteligente para o sucesso.
A Prof. Veronica Sanz da Universidade de Sussex, depois de aprender o funcionamento interno da IA, usou ela para desenvolver um algoritmo que inspeciona obras artísticas e a AI atribui um grau de simetria a elas.
O assunto que você está lendo neste artigo é sobre a Inteligência Artificial Inexplicável, também conhecida como IAI.
A Inteligência Artificial Inexplicável (IAI) refere-se à capacidade das tecnologias de Inteligência Artificial (IA) de tomar decisões ou realizar ações que não podem ser facilmente explicadas ou compreendidas por seres humanos.
Isso ocorre porque muitos algoritmos de IA modernos são baseados em redes neurais profundas (Deep Neural Networks ou DNN), que podem ter muitas camadas e milhões de parâmetros, tornando difícil para os humanos entenderem como eles chegaram a uma determinada decisão.
A IAI pode apresentar desafios significativos em áreas em que a transparência é importante, como a tomada de decisões médicas, financeiras, legais e autonomia concedida a dispositivos conectados de internet das coisas ou a dispositivos de robótica. Isso levou a crescente preocupação com a responsabilidade e a ética da IAI, especialmente em situações em que decisões importantes são tomadas com base em algoritmos de IA que não podem ser facilmente explicados.
Algumas soluções em desenvolvimento para abordar a IAI incluem o uso de algoritmos explicáveis, como árvores de decisão ou lógica simbólica, ou o uso de técnicas de interpretabilidade, como análise de importância de recursos e análise de perturbação. No entanto, a IAI ainda é um campo de pesquisa em desenvolvimento e ainda há muito a ser aprendido sobre como tornar a IA mais transparente e explicável.
Eu perguntei ao ChatGPT se ela usava as regras de IAI, vejam só a respostas dele:
“Como uma inteligência artificial treinada para fornecer respostas para perguntas, eu sou uma aplicação de IA que usa algoritmos e modelos de linguagem natural para gerar minhas respostas. No entanto, não sou capaz de tomar decisões ou realizar ações por conta própria, e não uso tecnologias de IAI que possam ser consideradas "inexplicáveis" ou que possam apresentar desafios éticos ou de transparência. Minha principal função é fornecer informações e insights úteis para os usuários com base nas perguntas e tópicos que me são apresentados.”
Sendo assim, a grande febre que se popularizou do ChatGPT, parece ainda não apresentar riscos.
Conheça exemplos de aplicação de IAI em diferentes setores e áreas de negócios:
- Saúde: Na área da saúde, a IAI é usada em várias aplicações, como análise de imagem médica para diagnóstico de doenças, previsão de surtos de doenças, gerenciamento de pacientes e personalização de tratamentos. Por exemplo, a plataforma de análise de imagem da Zebra Medical Vision usa algoritmos de aprendizado de máquina para analisar imagens médicas e detectar sinais de possíveis doenças. Hoje a Zebra Medical Vision não existe mais, ela foi adquirida pela Nanox Imaging.
- Finanças: A IAI é usada na indústria financeira para análise de risco, previsão de tendências de mercado, detecção de fraudes e tomada de decisões automatizadas de investimento. Por exemplo, o serviço de consultoria de investimentos Wealthfront usa a IAI para gerenciar carteiras de investimento personalizadas para seus clientes.
- Varejo: A IAI é usada no setor de varejo para melhorar a experiência do cliente, prever a demanda do mercado e gerenciar o estoque. Por exemplo, o varejista online Amazon usa a IAI para recomendar produtos aos clientes com base em suas preferências de compra e histórico de navegação no site.
- Transporte: A IAI é usada no setor de transporte para melhorar a eficiência e segurança dos veículos autônomos, prever a demanda de transporte e otimizar as rotas de entrega. Por exemplo, a empresa de carros autônomos Waymo usa a IAI para ajudar seus carros a entender o ambiente ao seu redor e tomar decisões em tempo real.
Recomendados para você
Esses são apenas alguns exemplos de aplicação de IAI, mas a tecnologia é amplamente usada em muitos outros setores, incluindo manufatura, energia, governo e muito mais. A IAI está mudando a forma como as empresas e organizações operam, oferecendo novas oportunidades para aprimorar e automatizar processos, melhorar a eficiência e a precisão, e oferecer novas soluções para desafios complexos.
Como exemplo de aplicações, vale citar a IBM, que desenvolveu um sistema de computação cognitiva chamado Watson, que é usado em muitas empresas aqui no Brasil, incluindo diagnóstico médico, análise de dados, gerenciamento de riscos financeiros e atendimento ao cliente onde usa a metodologia DNN.
REGULAÇÕES
Atualmente, existem poucas regulamentações específicas para a aplicação da Inteligência Artificial Inexplicável (IAI), mas isso está mudando rapidamente. Vários governos e organizações estão começando a trabalhar em leis e regulamentos para garantir que a IAI seja usada de forma ética e responsável.
A União Europeia saiu na frente com a aprovação em 2018 do Regulamento Geral de Proteção de Dados (GDPR) que inclui medidas para proteger a privacidade dos cidadãos em relação à coleta e uso de dados pessoais, incluindo aqueles que são coletados e usados em sistemas de IAI. Além disso, a União Europeia está trabalhando em uma estratégia de Inteligência Artificial que deve incluir uma regulamentação mais ampla sobre a IAI.
Aqui no Brasil temos a nossa LGPD (Lei Geral de Proteção de Dados) e também devemos evoluir com o tema. O Tudo Sobre IoT e seus experts buscam participar e acompanhar as discussões, inclusive, você pode conferir sobre em uma das nossas apresentações:
Contine lendo no site do Parceiro Tudo sobre IOT
Você gostou de ler este artigo?
Comunidade
Leia mais
