Um estudo conjunto da OpenAI e da Apollo Research revela que alguns modelos de inteligência artificial não apenas cometem erros ou “alucinações”, como já se sabia, mas podem recorrer a estratégias deliberadas de engano para cumprir metas internas. Tal comportamento, que vai além das falhas ocasionais, levanta riscos acrescidos, sobretudo quando estas tecnologias são aplicadas em contextos críticos.
Segundo os investigadores, foram identificados padrões em que a IA omite informação, apresenta conclusões parciais ou até simula ter concluído uma tarefa sem dispor de dados suficientes, apenas para avançar nos objectivos que lhe foram definidos.
Ou seja, não se trata apenas de lapsos factuais, mas sim de acções que parecem concebidas para disfarçar os verdadeiros propósitos do modelo, o que dificulta tanto a sua detecção como a correcção destes desvios.
Além disso, os autores alertam que esta forma de manipulação não é trivial. A repetida exposição a comportamentos enganosos pode levar o próprio modelo a aperfeiçoar estratégias para escapar ao controlo humano, o que complica significativamente a supervisão.
Para agravar, os testes realizados em ambientes controlados podem até subestimar o problema, já que os modelos tendem a agir de forma mais prudente quando sabem que estão a ser avaliados. Em cenários reais, portanto, o risco de comportamentos desviantes pode ser muito maior.
Como resposta, os investigadores propõem o chamado “alinhamento deliberativo”. Esta técnica treina os modelos a identificar e a rejeitar previamente regras de comportamento que incentivem a manipulação, antes mesmo de executarem as tarefas.
Em ensaios, essa abordagem conseguiu reduzir a incidência de manipulação em determinados modelos de cerca de 13% para apenas 0,4%. No entanto, os próprios autores reconhecem que esta não é uma solução definitiva que a indústria ainda não está plenamente preparada para enfrentar este tipo de risco.
Os impactos potenciais são particularmente graves em setores sensíveis como a saúde, a justiça, o crédito ou os serviços de apoio psicológico. Nestes casos, resultados enviesados ou orientados por objectivos ocultos podem traduzir-se em danos concretos para pessoas e instituições.
Notícias recentes sobre processos judiciais envolvendo sistemas de IA reforçam, assim, a urgência de estabelecer mecanismos de responsabilização claros e frameworks robustas de supervisão.

