O novo modelo GPT -6 Astra, da OpenAI, surge em meio a uma crescente preocupação com a liberação desses novos modelos – como eles podem ser usados para invadir sistemas e sobrecarregar as defesas de rede. Portanto, o modelo não será lançado de uma só vez.
No mundo do desenvolvimento de software do final do século 20, a palavra “beta” era usada com bastante frequência. Uma empresa liberava um software para uma comunidade específica antes de lançá-lo completamente para o mundo. Esses usuários avançados ajudavam a encontrar erros.
Atualmente, grande parte do foco desta fase de usuário em ambiente isolado é limitar o uso de um modelo a um pequeno círculo de confiança, pois, caso contrário, seu poder poderia prejudicar o funcionamento normal dos negócios.
A OpenAI afirmou que o Astra foi extensivamente testado quanto a vulnerabilidades relacionadas à segurança cibernética e que sua implementação será gradual. O GPT-6-Astra estará disponível para profissionais de cibersegurança aprovados no programa Daybreak da OpenAI a partir de quinta-feira (11), com planos de levar o novo modelo aos assinantes pagos do ChatGPT e sua API nos próximos dias.
Se a equipe da Daybreak só tiver acesso ao sistema por alguns dias, será tempo suficiente para avaliá-lo adequadamente?
Chedraoui cita uma declaração do cientista-chefe da OpenAI, Jakub Pachocki: “À medida que a IA assume um desenvolvimento cada vez mais autônomo, precisamos manter as pessoas envolvidas de forma significativa”, disse Pachocki. “As pessoas devem continuar a ter a capacidade de decidir a direção do progresso futuro e o futuro que ele criará.”
Aprovação da IA
Há também a inclusão da OpenAI em uma pequena lista de entidades com as quais o governo de Donald Trump se sente confortável, de acordo com políticas recentes. A Casa Branca teria elaborado uma “estrutura voluntária de IA” para regulamentar modelos como Mythos e GPT-6. Mas os detalhes são mantidos em segredo, o que levanta muitas dúvidas.
“Quatro agências federais foram processadas em meio a pedidos para que divulguem informações sobre a estrutura secreta que o governo Trump usa para realizar avaliações de segurança de modelos de IA de ponta antes de seu lançamento”, escreve Ashley Belanger no Ars Tecnica. “Em um comunicado à imprensa divulgado na quarta-feira, anunciando o processo, uma organização sem fins lucrativos e apartidária chamada Protect Democracy alegou que ‘quase nenhum detalhe’ foi divulgado ao público ou ao Congresso. Para todos, exceto alguns poucos ‘parceiros de confiança’ vagos, permanece incerto como é o processo de revisão do governo, quais empresas estão envolvidas na construção da estrutura ou qual autoridade legal os funcionários de Trump têm para realizar as avaliações.”
Como um desses parceiros de confiança, os altos escalões da OpenAI sabem quais são os critérios. Mas não estão nos contando. A ideia, expressa neste artigo e em outros, é que a corrupção e o favoritismo podem prosperar nesse tipo de estrutura.
Bagunça total
De um modo geral, muitos consideram que os EUA têm ficado para trás na regulamentação da IA.
“A indústria está implorando aos governos que tomem medidas”, escreve Hadas Gold na CNN . “Líderes das principais empresas de IA se uniram aos apelos por uma desaceleração e cooperação mundial em padrões e segurança.”
Gold observa que uma agência britânica é considerada uma das principais reguladoras de IA, com muito mais poder do que sua contraparte americana, embora a maioria das principais empresas de IA seja originária dos Estados Unidos. O relatório também traz citações de dois funcionários de alto escalão, um da Meta e outro da OpenAI:
“Parece o início da Covid… Há um clima de emergência que se encaixa perfeitamente aqui”, diz Joshua Saxe, ex-especialista técnico sênior da Meta.
“Há uma probabilidade de 20 a 30% de que os métodos existentes de alinhamento e controle falhem antes de alcançarmos uma IA amplamente sobre-humana.”, diz Paul Cristiano, ex-funcionário de alto escalão da OpenAI
Em termos simples, existe muita apreensão em relação a um processo que está sendo conduzido na Casa Branca, com protocolos não descritos.
A Geração Aprendiz
Esta última informação interessante vem da reportagem da CNET mencionada acima.
“Astra foi também o primeiro modelo da OpenAI que envolveu modelos de IA anteriores de forma muito significativa no processo de treinamento, com as gerações mais antigas ajudando a treinar a nova”, escreve Chedraoui.
Essa frase me trouxe à mente uma espécie de visualização curiosa: pacientes que se tornaram fisioterapeutas orientando uns aos outros.
Então perguntei ao GPT sobre isso.
“Como sou o GPT-5.6 Sol”, respondeu o modelo, “modelos da minha geração poderiam ter sido usados no desenvolvimento do Astra. Isso não significa necessariamente que esta instância específica de mim tenha participado. Em vez disso, modelos da classe GPT-5.6 poderiam ser implantados internamente para realizar tarefas como gerar ou organizar dados de treinamento, avaliar resultados, fornecer sinais/supervisão de treinamento, identificar falhas, auxiliar na codificação e depuração da infraestrutura de treinamento e monitorar ou solucionar problemas durante as execuções de treinamento.”
Eis aí o ponto. O GPT 6 está, por assim dizer, se apoiando nos ombros de gigantes.
Quanto à estrutura da Casa Branca, como em tantas outras coisas, estamos aguardando e observando para ver como tudo se desenrola. Fiquem ligados.
Reportagem publicada originalmente em Forbes.com
