OpenAI Bloqueia Contas Suspeitas de Ligações com a China por Solicitarem Propostas de Vigilância


Em seu último relatório público sobre ameaças, a empresa afirmou que baniu várias contas em chinês que usavam o ChatGPT para auxiliar em campanhas de phishing e malware



Dado Ruvic/Illustration/Reuters

Países vivem trégua tarifária, que segue em negociação até 12 de agosto, prazo final da Casa Branca.

Acessibilidade








A OpenAI anunciou na terça-feira que baniu várias contas do ChatGPT com suspeitas de ligações a entidades governamentais chinesas, depois de os usuários terem solicitado propostas para monitorar conversas nas redes sociais.

Em seu último relatório público sobre ameaças, a OpenAI afirmou que algumas pessoas solicitaram ao seu chatbot que descrevesse ferramentas de “escuta” nas redes sociais e outros conceitos de monitoramento, violando a política de segurança nacional da startup.

O relatório da empresa sediada em San Francisco levanta preocupações de segurança sobre o possível uso indevido de IA generativa em meio à crescente concorrência entre os EUA e a China para moldar o desenvolvimento e as regras da tecnologia.

A OpenAI afirmou que também baniu várias contas em chinês que usavam o ChatGPT para auxiliar em campanhas de phishing e malware e solicitou ao modelo que pesquisasse automações adicionais que poderiam ser alcançadas por meio do DeepSeek da China.

A embaixada chinesa nos EUA não respondeu imediatamente a um pedido de comentário sobre a publicação.

A OpenAI também baniu contas vinculadas a supostos grupos criminosos de língua russa que usavam o chatbot para ajudar a desenvolver determinados malwares, disse a OpenAI.

A startup apoiada pela Microsoft interrompeu e reportou mais de 40 redes desde que começou a reportar ameaças públicas em fevereiro do ano passado e seus modelos recusaram solicitações abertamente maliciosas, acrescentou a empresa de IA.

“Não encontramos nenhuma evidência de novas táticas ou de que nossos modelos tenham fornecido aos agentes de ameaças novas capacidades ofensivas”, disse a empresa no relatório.

A OpenAI, que agora tem mais de 800 milhões de usuários semanais do ChatGPT, tornou-se a startup mais valiosa do mundo com uma avaliação de US$ 500 bilhões após concluir uma venda secundária de ações na semana passada.


Clique aqui para acessar a Fonte da Notícia

VEJA MAIS

Câmara aprova projeto que prevê multa por dificultar transição presidencial

A Câmara dos Deputados aprovou na quarta-feira (18) a redação final de um projeto de…

STF recebe relatórios da PF sobre Daniel Vorcaro e menções a ministros da Corte

Este episódio do Podcast 15 Minutos analisa as recentes tensões na Polícia Federal e os…

Feriado terá calor acima de 35°C e risco de temporais em várias regiões do Brasil

O feriado nacional desta sexta-feira (20), Dia de Zumbi e da Consciência Negra, deve ser…