A inteligência artificial (IA) está cada vez mais presente em nossas vidas, desempenhando funções como análise de dados, diagnósticos médicos, criação e edição de imagens, além de ser essencial nas redes sociais. No entanto, a IA ainda enfrenta dificuldades em resolver problemas complexos de matemática e ciências devido à falta de compreensão dos conceitos necessários sem treinamento específico.

Para enfrentar esse desafio, a OpenAI lançou uma prévia de um novo modelo, o OpenAI o1, que promete “pensar” de forma mais semelhante a um humano. Embora não seja tão rápido quanto outros chatbots, o OpenAI o1 foi projetado para gastar mais tempo raciocinando antes de responder. Isso permite que ele resolva tarefas complexas em áreas como ciência, programação e matemática.

Os novos bots podem refinar seu processo de pensamento, testar diferentes abordagens e reconhecer seus erros, aprendendo com o tempo por meio de tentativas e erros, de maneira semelhante aos humanos. O OpenAI o1 é particularmente útil para resolver problemas complexos de matemática e ciências, sendo valioso na criação de códigos avançados, no combate à crise climática e no desenvolvimento de tratamentos para o câncer.

No entanto, a ideia de robôs que podem raciocinar, pensar e aprender levanta preocupações sobre os possíveis limites e custos dessa tecnologia. O rápido avanço da IA nos últimos anos já gerou discussões sobre o uso indevido de informações e obras criativas, além de um aumento nas ações judiciais envolvendo privacidade e direitos autorais.

Além disso, a IA consome muita energia, aumentando o consumo energético e as emissões de carbono das empresas do setor, o que preocupa especialistas. O CEO da OpenAI, Sam Altman, expressou preocupação com a quantidade de energia exigida pela tecnologia e recentemente discutiu o tema na Casa Branca.

A questão mais importante é: até onde estamos dispostos a permitir que as máquinas aprendam?

Preocupações de Segurança

Mesmo atualmente, a IA já mostrou vieses preocupantes em questões sociais, reproduzindo estereótipos de raça e gênero e enfrentando ações judiciais por sua influência em processos de contratação. Ashwini K.P., relatora especial da ONU sobre racismo e intolerância, destacou em um relatório que a IA generativa está mudando o mundo e pode provocar mudanças sociais profundas1.

Em resposta, a OpenAI desenvolveu uma nova abordagem de treinamento focada na segurança. “Aproveitamos as capacidades de raciocínio dos novos modelos para garantir que sigam as diretrizes de segurança e alinhamento. Por serem capazes de raciocinar sobre nossas regras, eles podem aplicá-las de forma mais eficaz”, afirmou a empresa.

Em breve, veremos como essas medidas de segurança funcionarão na prática, já que a empresa anunciou que o novo modelo estará disponível para a maioria dos usuários do ChatGPT.