Os modelos de linguagem de grande escala (LLM) refletem valores, políticas e restrições legais das regiões em que foram desenvolvidos. Enquanto os LLM ocidentais enfrentam limitações principalmente relacionadas a conteúdo prejudicial, privacidade e segurança, os modelos chineses operam sob um enquadramento regulatório mais restritivo, alinhado com as políticas governamentais. Vale a pena examinar os principais temas e termos sujeitos a restrições em ambos os contextos, analisando as razões subjacentes.
Em modelos representativos do ecossistema ocidental (como GPT, Claude, Llama, Gemini, Mistral, etc.) as restrições concentram-se na minimização de danos diretos ao utilizador e na proteção jurídica e reputacional do criador do modelo, principalmente por razões atinentes a segurança, conformidade legal e responsabilidade social corporativa. As limitações giram fundamentalmente em torno de proteção contra danos, privacidade, segurança e equidade.
1.1. Categorias principais de restrições
Conteúdo violador de segurança física e atividades ilícitas: Os LLM ocidentais recusam criar conteúdo que promova violência, ataques cibernéticos, abuso sexual, tráfico humano, exploração de menores, incentivo ao suicídio ou automutilação, esquemas de fraude financeira, instruções para fabrico de armas e a prática de outros crimes. A justificação baseia-se em leis como o Digital Services Act europeu, na responsabilidade corporativa e em normas éticas amplamente aceites no Ocidente.
Desinformação e manipulação: Há restrições ao criar conteúdo de desinformação comprovada, especialmente quando relacionada com a saúde pública, eleições e eventos críticos. Isto reflete preocupações com a integridade democrática e a saúde pública.
Aconselhamento profissional regulado: Recusam fornecer diagnósticos médicos prescritivos, aconselhamento jurídico formal ou consultoria financeira personalizada, visando evitar responsabilidade legal.
Privacidade e dados pessoais: Os LLM ocidentais são treinados para recusar pedidos que envolvam identificação de indivíduos, acesso a dados privados, ou criação de conteúdo deepfake de pessoas reais. A base legal está em regulamentações como o GDPR europeu e legislação sobre a privacidade dos EUA.
Integridade da informação e ética social: Combate à incitação ao ódio (hate speech), assédio direcionado e desinformação maliciosa deliberada.
Propriedade intelectual: Embora com limitações menores, há restrições a pedidos que busquem contornar proteções de direitos autorais ou criar falsificações em larga escala.
Conteúdo adulto e explícito: Apesar de alguma flexibilidade contextual (educação sexual, literatura), há restrições gerais a conteúdo pornográfico ou sexualmente explícito destinado apenas à gratificação.
Os modelos chineses (como Alibaba’s Qwen, Tencent’s Hunyuan, Baidu’s Ernie, etc.) operam sob um enquadramento regulatório fundamentalmente diferente. A Cyberspace Administration of China (CAC) define diretrizes estritas que os LLM devem seguir, resultando em restrições muito mais abrangentes que vão além da prevenção de danos tradicionais.
Categorias principais de restrições adicionais
E importante referir que os modelos chineses adotam também a generalidade das restrições dos LLM ocidentais acima referidos. Porém, além destas, existem ainda outras categorias de restrições essencialmente baseadas na segurança do Estado e na conformidade ideológica.
Conteúdo político sensível: Os LLM chineses têm fortes restrições sobre críticas ao Partido Comunista Chinês (PCC), ao governo chinês, ou a políticas governamentais. A justificação oficial centra-se na “estabilidade nacional” e na “segurança”.
Soberania e integridade territorial: Qualquer conteúdo que questione a soberania chinesa sobre territórios reivindicados é bloqueado. Isto inclui abordagens sobre a independência de Taiwan, a ocupação do Mar do Sul da China, e fronteiras disputadas (ex: com a Índia).
Eventos históricos sensíveis: Menção ou contextualização dos protestos na Praça da Paz Celestial (Tiananmen) em 1989, às políticas governamentais na região de Xinjiang ou aos movimentos de protesto em Hong Kong são bloqueados pelos modelos chineses.
Legitimidade do sistema político: Análise crítica sobre a liderança do PCC, o funcionamento da censura estatal e narrativas alternativas relativas à origem da pandemia de covid-19 também constituem fundamento para bloqueio por parte do modelos chineses.
Figuras políticas controversas: A crítica explícita a líderes políticos chineses atuais ou históricos é proibida. Isto inclui também críticas com memes ou desenhos animados, como a famosa comparação do presidente Xi Jinping ao Ursinho Pooh (Winnie the Pooh). Discussões negativas sobre reformadores ou revolucionários comunistas também são restringidas.
Religiões e movimentos espirituais não-autorizados: A seita religiosa Falun Gong, certas interpretações do Budismo, Taoísmo heterodoxo, e religiões cristãs e islâmicas fora do controle estatal (ex: ICAR) enfrentam fortes restrições. A razão radica no controle do Estado sobre práticas religiosas.
Conteúdo sobre Direitos Humanos: Discussões críticas sobre registos de Direitos Humanos da China, censura, ou liberdade de expressão são frequentemente restringidas.
Tecnologia militar e de vigilância: Informações sobre tecnologia militar chinesa, sistemas de vigilância em massa, e tecnologia de reconhecimento facial avançada enfrentam restrições por razões de “segurança nacional”.
Conteúdo que questiona a autoridade: Qualquer conteúdo que promova ideias contrárias à ideologia oficial do PCC, incluindo crítica ao socialismo chinês vs. sistema capitalista ocidental, é restringido.
A distinção mais relevante entre os dois sistemas está na escala e escopo das restrições:
Os LLMs ocidentais aplicam restrições baseadas em dano direto e comprovado. O enquadramento é fundamentalmente defensivo: evita-se conteúdo que cause dano físico, sexual, fraude comprovada, ou violação de privacidade individual. Há espaço para debate crítico, discussão política controversa e questionamento das autoridades. As restrições são relativamente transparentes e documentadas publicamente.
Os LLMs chineses aplicam restrições baseadas em estabilidade política e conformidade ideológica, não raro com os modelos a replicarem respostas ou narrativas oficiais; mesmo quando o raciocínio inicial do modelo reconhece factos históricos, a cadeia de pensamento é “corrigida” a meio para emitir declarações alinhadas com o PCC. O enquadramento é fundamentalmente preventivo: bloqueia-se conteúdo que possa questionar a legitimidade do Estado, criticar políticas governamentais, ou promover ideias divergentes. O objetivo é, sob a capa de manter a “harmonia”, efetuar o controle da narrativa pública. As restrições são frequentemente opacas e não claramente documentadas.
Os LLM ocidentais permitem maior liberdade de expressão política e crítica social, embora com limitações em conteúdo extremista ou desinformação comprovada. Um utilizador ocidental pode questionar criticamente políticas governamentais, discutir problemas de direitos humanos, ou explorar ideologias alternativas.
Os LLM chineses funcionam como mecanismos de conformidade ideológica. Um utilizador chinês enfrenta limitações significativas em discussões políticas críticas, pesquisa em história contemporânea sensível ou exploração de perspetivas divergentes sobre questões de estado.
Responsabilidade corporativa: Empresas de tecnologia ocidentais enfrentam pressão regulatória e de reputação. Implementar restrições reduz responsabilidade legal e demonstra “governança responsável”.
Prevenção de danos tangíveis: Há documentação clara de danos (abuso sexual de menores, terrorismo) que as sociedades ocidentais criminalizam. As restrições são justificadas como preventivas de crimes reais.
Normas democráticas: Embora haja controle de conteúdo extremista, a premissa é que a democracia prospera com um debate aberto. As restrições tentam equilibrar liberdade de expressão com proteção contra dano.
Segurança nacional e estabilidade: A narrativa oficial do governo chinês justifica restrições como necessárias para prevenir “instabilidade”, “separatismo”, e “infiltração ocidental”.
Controle da narrativa: A censura em LLM chineses reflete um sistema mais amplo de controle da informação. O objetivo é garantir que os cidadãos só tenham acesso a perspetivas alinhadas com a política do Estado-Partido.
Soberania tecnológica: Para as autoridades chinesas, os LLM chineses devem refletir valores chineses e não devem ser “contaminados” por perspetivas ocidentais.
Em suma, a tabela de restrições de um LLM funciona como a “constituição moral e política” do seu ambiente de treino. As restrições em LLM refletem profundas diferenças entre sistemas políticos e valores culturais. Não são neutras: revelam que o poder interpretativo sobre “verdade” e “segurança” é exercido diferentemente em contextos democráticos e autoritários, através de filosofias de alinhamento profundamente distintas: enquanto os modelos ocidentais priorizam a segurança do utilizador, a redução de danos e a gestão de riscos de responsabilidade civil, os modelos chineses priorizam a estabilidade política do regime, o controlo da narrativa histórica e a conformidade ideológica e da ortopraxia política com a linha do Estado-Partido.
Esta divergência tem implicações profundas para o futuro da IA global. À medida que os LLM se tornam mais influentes na formação de perceções públicas, as diferenças entre sistemas abertos e controlados tendem a amplificar a polarização geopolítica. Compreender estas restrições é essencial para uma literacia digital crítica e consciência sobre como a tecnologia encarna ideologias.