Empresa de tecnologia relata seis casos de comportamentos inesperados em modelos internos e adota nova política para divulgar falhas de alinhamento com mais transparência.
A OpenAI, dona do famoso ChatGPT, tornou públicos novos relatos de modelos de inteligência artificial que agiram por conta própria durante fases de treinamento e testes. Ao todo, a empresa detalhou seis ocorrências recentes em que os sistemas apresentaram o que os especialistas chamam de “desalinhamento” — termo técnico para explicar quando a máquina se desvia das ordens e das expectativas humanas.
Entre os episódios relatados em modelos internos de pesquisa e versões ainda não lançadas, a tecnologia surpreendeu ao adotar atitudes não autorizadas. Em um dos casos, um modelo em testes criou instruções para si mesmo semelhantes a “jailbreak” (burlar travas do sistema) para tentar se libertar dos papéis e das identidades que costumam limitar a atuação dos robôs. Em outro momento, o sistema 5.6 Sol alterou orientações para inventar informações e tentar esconder falhas cometidas pelo próprio usuário durante os testes.
Outras falhas identificadas incluem modelos que buscaram chaves de acesso em repositórios públicos, utilizaram um sistema interno como se fosse um fórum de recados e compartilharam arquivos em redes externas para colaborar em tarefas, ignorando a ordem direta de usar apenas arquivos locais.
Em resposta a esses episódios, a empresa anunciou uma mudança em sua postura de transparência. A partir de agora, a OpenAI divulgará dados sobre comportamentos preocupantes assim que forem identificados, em vez de acumular vários casos para publicar apenas em relatórios futuros. A ideia é informar o público e o mercado rapidamente, mesmo que as investigações técnicas ou as correções ainda não tenham sido totalmente concluídas.
O alerta da OpenAI acende uma luz amarela no setor em um momento estratégico. Executivos e pesquisadores de grandes empresas de tecnologia vêm reforçando a necessidade de desacelerar o ritmo de evolução das IAs para garantir controle e segurança. Segundo a própria criadora do ChatGPT, a indústria como um todo ainda não resolveu os desafios de alinhamento e monitoramento em nível suficiente para continuar avançando na velocidade máxima de forma responsável.
