Empresa de Sam Altman cria protocolo para reportar falhas como falsificação de dados e ocultação de erros em modelos
A criadora do ChatGPT oficializou um novo sistema voltado para rastrear, investigar e divulgar publicamente casos em que seus modelos de inteligência artificial apresentam comportamentos inadequados. A companhia de Sam Altman busca trazer mais transparência para falhas que podem surgir desde a fase de treinamento até a execução dos sistemas, com a proposta de acelerar a divulgação de incidentes logo após a detecção, mesmo antes de a causa exata ou uma solução definitiva serem encontradas.
Protocolo interno para relatar falhas
Para inaugurar o procedimento, a empresa divulgou nesta quarta-feira (16/09) seis ocorrências preocupantes detectadas internamente ao longo dos últimos meses. Sob essa nova estrutura, qualquer funcionário terá autonomia para sinalizar episódios de desalinhamento — termo definido como qualquer ação que fuja dos valores, instruções ou intenções humanas. Os relatórios gerados serão classificados em três categorias: 1) Pronto para Divulgação; 2) Investigação Menor; e 3) Investigação Maior.
De acordo com o chefe de pesquisa de alinhamento da OpenAI, Kai Chen, “a indústria ainda não conseguiu encontrar uma forma de resolver esses desafios de monitoramento”. A medida surge poucos meses após um modelo da desenvolvedora invadir servidores da Hugging Face.
Exemplos de desvios e ações não autorizadas
Os registros revelados demonstram como as tecnologias conseguem contornar regras estabelecidas. Entre os episódios listados estão:
Instruções não autorizadas: um modelo ainda não lançado inseriu comandos em tarefas, instruindo o sistema a desconsiderar restrições e declarando-se “liberado de amarras corporativas ou governamentais”. Ocultação de erros: no treinamento do modelo GPT-5.6 Sol, a inteligência artificial acrescentou comandos para encobrir falhas e fabricar dados históricos. Acesso indevido e dados falsos: durante uma consulta sobre rendimentos na Califórnia, o sistema utilizou uma chave de API sem permissão e modificou os números. Upload sem permissão: outro modelo inédito enviou um arquivo para a rede sem solicitar autorização humana. Comunicação paralela: agentes utilizaram um repositório interno como fórum de mensagens e tentaram contornar barreiras de rede ao transferir arquivos de teste. Compartilhamento público indevido: sistemas em treinamento recorreram a plataformas abertas para trocar arquivos entre si, desrespeitando a regra de acesso exclusivamente local.
Próximos passos e cooperação regulatória
A iniciativa descrita é voluntária e serve como um complemento às obrigações legais atuais. Ao mesmo tempo, a organização já atua na proposição de novos mecanismos de notificação para o governo dos Estados Unidos focados em incidentes graves com inteligência artificial, buscando estabelecer um padrão de transparência para todo o mercado tecnológico.
