A OpenAI revelou que agentes ligados ao regime chinês vêm utilizando o ChatGPT para desenvolver ferramentas de vigilância em massa e censura digital. Um dos pedidos feitos à inteligência artificial teria sido a criação de um sistema capaz de rastrear movimentos e antecedentes policiais da minoria uigur alvo de perseguição pelo Partido Comunista Chinês.
Outro caso envolveu a solicitação de peças promocionais para um programa que monitora redes como X e Facebook em busca de postagens políticas e religiosas.
O relatório da empresa americana também identificou tentativas de manipulação da IA por hackers estatais russos, norte-coreanos e chineses, que buscam aperfeiçoar códigos maliciosos e tornar ataques de phishing mais convincentes. O uso de tecnologia avançada para fins de repressão e controle social expõe, mais uma vez, o caráter autoritário e invasivo do regime de Pequim diante das liberdades individuais.
