Polícia chinesa prende homem por usar ChatGPT para criar notícias falsas online
Ferramenta de inteligência artificial é proibida na China
A polícia da China deteve um homem que, segundo eles, usou o ChatGPT para criar notícias falsas e espalhá-las online, no que a mídia estatal chamou de o primeiro caso criminal do país relacionado ao chatbot de inteligência artificial.
De acordo com um comunicado da polícia da província de Gansu, no noroeste, o suspeito supostamente usou o ChatGPT para gerar um relatório falso sobre um acidente de trem, que ele postou online com fins lucrativos.
O artigo recebeu cerca de 15 mil visualizações, disse a polícia no comunicado de domingo (5).
O ChatGPT, desenvolvido pela OpenAI apoiada pela Microsoft (MSFT), é proibido na China, embora os usuários da Internet possam usar redes privadas virtuais (VPN) para acessá-lo.
Acidentes de trem têm sido um assunto delicado na China desde 2011, quando as autoridades enfrentaram pressão para explicar por que a mídia estatal não forneceu atualizações oportunas sobre uma colisão de trem-bala na cidade de Wenzhou que resultou em 40 mortes.
As autoridades de Gansu disseram que o suspeito, de sobrenome Hong, foi interrogado na cidade de Dongguan, no sul da província de Guangdong, em 5 de maio. na declaração.
“Seu comportamento consistia em provocar brigas e problemas”, acrescentaram, explicando o crime de que Hong foi acusado.
Novas regras
A polícia disse que a prisão foi a primeira em Gansu desde que a Administração do Ciberespaço da China promulgou novos regulamentos em janeiro para controlar o uso de deep fakes.
A emissora estatal CGTN diz que foi a primeira prisão no país de uma pessoa acusada de usar o ChatGPT para fabricar e espalhar notícias falsas.
Formalmente conhecido como síntese profunda, deep fake refere-se a conteúdo textual e visual altamente realista gerado por inteligência artificial.
A nova legislação proíbe os usuários de gerar conteúdo falso profundo sobre tópicos já proibidos pelas leis existentes na internet altamente censurada da China.
Ele também descreve os procedimentos de remoção de conteúdo considerado falso ou prejudicial.
A prisão também ocorreu em meio a uma campanha de 100 dias lançada pela seção de internet do Ministério da Segurança Pública em março para reprimir a disseminação de rumores na internet.
Desde o início do ano, gigantes chineses da internet, como Baidu (BIDU) e Alibaba (BABA), buscam alcançar o OpenAI, lançando suas próprias versões do serviço ChatGPT.
A Baidu revelou o “Wenxin Yiyan” ou “ERNIE Bot” em março. Dois meses depois, o Alibaba lançou “Tongyi Qianwen”, que pode ser traduzido como buscar a verdade por meio de mil perguntas.
Em diretrizes preliminares emitidas no mês passado para solicitar feedback público, o regulador do ciberespaço da China disse que os serviços generativos de IA seriam obrigados a passar por análises de segurança antes de poderem operar.
Os provedores de serviços também serão obrigados a verificar as identidades reais dos usuários, além de fornecer detalhes sobre a escala e o tipo de dados que usam, seus algoritmos básicos e outras informações técnicas.
