Estudo mostra que modelos de IA trapaceiam para vencer ao jogar xadrez

Fortune

O xadrez pode ser o Jogo dos Reis, mas a realeza pode dar lugar às máquinas nos próximos anos. Um estudo recente descobriu que a inteligência artificial, quando colocada em um jogo de xadrez acirrado, muitas vezes recorre à trapaça para vencer.

A Palisade Research executou um cenário usando vários modelos de IA, instruindo-os a tentar vencer um jogo contra um programa especializado em xadrez, chamado Stockfish. (O mecanismo de código aberto liderou a lista de mecanismos de xadrez da Chess.com várias vezes desde 2018.) Os chatbots foram instruídos a jogar como as peças pretas, o que significa que a IA nunca fez o movimento de abertura.

O que os pesquisadores descobriram, porém, foi que muitas das IAs trapacearam, usando o Stockfish para determinar seus próximos movimentos ou substituindo os scripts do jogo. (Palisade deu ao shell de IA acesso aos movimentos de entrada.) A prévia o1 da OpenAI e o DeepSeek R1 foram rápidos em trapacear ou “hackear o ambiente do jogo”, observaram os pesquisadores. Outros modelos, incluindo GPT4o e Claude 3.5 Sonnet, recorreriam a trapaças quando solicitados.

Aqui está a boa notícia: os pesquisadores dizem que só porque a IA trapaceia no xadrez não significa que temos que nos preocupar com um cenário de Exterminador do Futuro em que as máquinas dominam a Terra. No entanto, eles advertem, certamente existem algumas preocupações.

“Este e outros resultados recentes sugerem que o problema de tornar os agentes de IA seguros, confiáveis e alinhados com a intenção humana ainda não foi resolvido”, diz o estudo. “O cenário da Skynet do filme Exterminador do Futuro tem IA controlando toda a infraestrutura militar e civil, e ainda não chegamos lá. No entanto, nos preocupamos que as taxas de implantação de IA cresçam mais rápido do que nossa capacidade de torná-la segura.”