Por que a China considera uma ameaça a IA que imita as relações humanas

No início de 2024, um jovem da cidade de Huangshi, no sudeste da China, publicou uma mensagem no aplicativo Douyin, a versão chinesa do TikTok. A legenda dizia: "Adeus a este mundo."

Depois de geolocalizar um dos seus vídeos em um parque local, a polícia o encontrou em estresse emocional e interveio antes que ele conseguisse tirar a própria vida.

Esta história faz parte de um documentário produzido pelo Douyin e publicado na imprensa estatal chinesa no ano passado. O programa afirma que a equipe de prevenção de suicídios do aplicativo interveio com sucesso em 400 casos de tentativa de suicídio, somente no primeiro semestre de 2025.

Por que a China considera uma ameaça a IA que imita as relações humanas — Foto: LightRocket via Getty Images (BBC)

O episódio oferece uma ideia do nível de cooperação entre as empresas chinesas de tecnologia e o governo do país. E também serve para mostrar a arquitetura de vigilância construída pela China para monitorar e controlar como as pessoas usam a tecnologia.

No dia 15 de julho deste ano, este controle foi estendido para o campo dos relacionamentos de inteligência artificial (IA). Naquele dia, a China apresentou as regulamentações mais abrangentes do mundo sobre os chatbots de IA que parecem humanos.

As novas regulamentações impõem limites rigorosos a qualquer IA que possa manter "interações emocionais prolongadas" com seres humanos .

Xi Jinping e Donald Trump se reuniram nos Estados Unidos no final de setembro — Foto: Bloomberg via Getty Images (BBC)

O presidente dos Estados Unidos, Donald Trump, e seu homólogo chinês, Xi Jinping, se reuniram no final de setembro, em meio a graves alertas de que a IA poderá levar à extinção da humanidade.

Após a reunião, segundo Pequim, os dois presidentes concordaram em lançar um novo diálogo sobre a IA. Novas discussões ficaram marcadas para o fim de novembro.