No conceito que distopia é o oposto de utopia representando sociedade imaginária opressora e aterrorizante, o livro de Jeffrey Cain, jornalista norte americano, "The High Security State: Inside China's Digital Dystopia", ou, "O Estado: Por Dentro da Distopia Digital da China", se baseia em curta experiência vivida na região de Xinjiang, noroeste da China, lar dos uigures, destacando o modelo de governança que reflete algumas tendências modernas, notadamente o fortalecimento do controle sobre a sociedade e a restrição de liberdades individuais, segue um pequeno trecho, "após o trabalho, você vai para casa, passa por postos de controle da polícia e, em seguida, escaneia documento de identidade para abrir o portão do seu bairro, um gueto envolto por cerca ou muro de concreto onde ninguém pode entrar ou sair sem documento de identidade, em casa, seus filhos lhe contam sobre virtudes partidárias do patriotismo e harmonia que aprenderam na escola. Você não discute o que lhes é ensinado. Professores instruem alunos denunciarem pais que discordem". O livro de Caine é história sobre como pessoas começaram ser responsabilizadas por crimes que nem sequer cometeram, história sobre como, com base em conjuntos de dados, a IA decide que determinada pessoa é perigosa porque comprou 6 garrafas de cerveja, quer dizer, pode ter problema com bebida, fala sobre como alguém pode ser forçado pendurar uma câmera na sala ou levado de casa à centro de reeducação onde passará o dia escrevendo a frase, "obrigado, partido, por combater a doença que infectou minha mente". Ações de políticos e países tornam-se difíceis de prever dadas ameaças militares, verbais, expressas por políticos e estados, com o fortalecimento do controle social fácil de explicar, quer dizer, tempos difíceis exigem decisões difíceis, com jornalistas e cientistas políticos chamando atenção à censura e falta de liberdade em alguns países ocidentais, incluindo o "cancelamento" e, em termos de controle sobre a sociedade, a China está "à frente do resto do mundo" exportando o modelo à democracias ocidentais, em essência, a distopia totalitária do futuro se concretiza até certo ponto, teoricamente, o sistema poderia ser implementado em muitos países no futuro. O governo chinês implementou o Projeto Escudo Dourado, conhecido como o Grande Firewall da China, sistema de filtragem de internet que bloqueia acesso a sites estrangeiros proibidos e censura buscas por palavras-chave, por exemplo, o governo pode rastrear consultas de usuários e bloquear páginas com conteúdo político proibido como sobre temas como "direitos humanos" ou "protestos estudantis" ao passo que as autoridades chinesas introduziram sistema de classificação social que permite interferir na vida das pessoas em escala sem precedentes, em que o sistema de classificação social avalia atividades dos cidadãos, confiabilidade social e política, cidadãos e empresas chinesas são avaliados conforme tal sistema em diversas áreas, assuntos administrativos, atividades comerciais, comportamento social e relações com a aplicação da lei, estando equipado com vigilância de alta tecnologia cujas câmeras são equipadas com reconhecimento facial e escaneamento corporal para monitorar o cidadão. Supervisiona 8 empresas chinesas que emitem pontuações de "crédito social" em projetos-piloto aprovados pelo Estado, entre elas, a Sesame Credit, braço financeiro do Alibaba, o WeChat, maior plataforma de mídia social da China, a Baihe, rede social de namoro e, segundo o governo chinês, o objetivo do sistema de crédito social é “beneficiar cidadãos de confiança e restringir movimentos e atividades dos que não são de confiança", daí, cidadãos com classificação alta têm direito a privilégios, receber empréstimos a taxas preferenciais, oportunidade de crescimento profissional e ingresso no serviço público, descontos em moradia e serviços comunitários, ao mesmo tempo, indivíduos com baixa classificação social são proibidos de comprar passagens aéreas, hospedar-se em hotéis de luxo, trabalhar em agências governamentais, ocupar cargos de liderança nas indústrias farmacêutica e alimentícia, educar filhos em escolas particulares caras, etc, cujo objetivo é controlar grupos étnicos e oponentes políticos, grupos "não confiáveis" sujeitos a controle mais rigoroso, este sistema foi utilizado na província de Xinjiang onde vivem uigures e cazaques, onde, "novidades" relacionadas ao controle digital são testadas e, o que acontece em Xinjiang, é chamado de distopia orwelliana, para alguns, comparação exagerada. Frequentemente chamado de sociedade pós-industrial, o mundo atual vive regras ditadas pela realidade digital criada pelas tecnologias subjugando existência sociocultural, daí, Descartes com o "penso, logo existo" transformando-se em slogan pós-moderno, ou, "estou online, logo existo" e controlar pessoas nas redes sociais é problemático visto que há mais espaço à liberdade, mais oportunidades de autorrealização, ganhar dinheiro, conduzir agitações políticas, etc, com governos se dedicando monitorar socialmente a confiabilidade política, no entanto, a tendência é países fortalecerem o controle sobre a internet. A Grã-Bretanha, por exemplo, aprovou lei sobre segurança online e, conforme legisladores, obriga plataformas protegerem crianças de conteúdo prejudicial como informações sobre suicídios, pornografia, materiais ofensivos, no entanto, legisladores britânicos propuseram introduzir sistema de verificação de idade para acessar o conteúdo, quer dizer, não basta clicar o botão "Tenho 18 anos", as empresas foram obrigadas permitir que pessoas entrassem nos sites usando passaporte ou biometria, ou seja, "proteger crianças", introduzir censura e controlar espaço da informação sendo que a lei dispõe sobre monitoramento obrigatório de mensagens instantâneas e correspondência privada, obriga serviços online monitorar conteúdo ilegal, mesmo em chats privados, sendo que, restrições da lei incluem plataformas como Reddit e YouTube, materiais relacionados a protestos e críticas às autoridades e, ao entrar em vigor, aplicativos VPN tornaram-se populares entre usuários britânicos, daí, autoridades prometerem bani-los. Por questão de justiça, Kane visitou Xinjiang, entrevistou refugiados, funcionários do governo e ativistas da população local, o que permite certo credibilidade, no entanto, há parcialidades, mas, muito do que escreve está baseado em fatos reais, daí, concluir que, segurança do Estado é questão importante mas o problema são acontecimentos sob o pretexto que estados, tanto no Ocidente quanto no Oriente, cada vez mais sacrificam liberdades individuais em nome da "garantia da segurança", no entanto, se no Oriente tais medidas são tradição local, no Ocidente a tendência surge mais tardiamente se desenvolvendo mais lentamente.
Em discussão nos EUA a utilização IA no controle de armas nucleares saindo do campo da ficção científica à realidade, é o que nos alertam especialistas do setor afirmando que o processo de integração está em curso e dificilmente deverá ser interrompido, com os defensores da tecnologia destacando capacidade de processar grandes volumes de dados de inteligência e antecipar cenários mais rápido que qualquer estado-maior militar, fato bem evidenciado na guerra Irã e Israel antecipando encerramento por conta de previsão adversa, em contexto onde o tempo de reação a ameaça é medido em minutos, com apelo de acelerar a cadeia de comando, sendo que atualmente, algoritmos oferecem resultados em áreas como defesa antimísseis, alerta precoce de lançamentos e análise de imagens de satélite. Vale dizer que, a história da era nuclear nos ensina outra lição através de falsos alarmes, falhas em sensores ou reflexos de satélite nos incidentes cujo elo decisivo foi o fator humano, ou, alguém que assumiu a responsabilidade de não apertar o botão enquanto IA, alerta os especialistas carece de responsabilidade limitando-se agir conforme dados e critérios estabelecidos que em situações de crise podem ser distorcidos de modo acidental ou intencional, embora organismos internacionais insistam manter "filtro humano" e garantir transparência dos algoritmos a corrida armamentista pode levar EUA, China e Rússia reduzir ou eliminar salvaguardas por medo de ficar em desvantagem tecnológica, já que, atualmente, IA está integrada em sistemas de inteligência e defesa aérea cuja estabilidade de dissuasão nuclear dependerá de como protocolos de verificação, certificação e duplicação de decisões forem desenhados, aí, a pergunta não se IA fará parte dos mecanismos de controle, mas se a palavra final continuará pertencer ao ser humano. Vencedores do Prêmio Nobel se reuniram na Universidade de Chicago para ouvir especialistas em guerra nuclear falarem sobre o fim do mundo e, em sessões fechadas ao longo de 2 dias, cientistas, ex-funcionários do governo e militares aposentados esclareceram sobre as armas mais devastadoras já criadas cujo objetivo era educar e, ao final, fazer com que fizessem recomendações políticas aos líderes mundiais sobre como evitar a guerra nuclear, quer dizer, IA estava na mente de todos com Scott Sagan, professor de Stanford conhecido pela pesquisa sobre desarmamento nuclear, dizer que, "estamos entrando em mundo IA e tecnologias emergentes influenciando a vida cotidiana, mas também influenciando o mundo nuclear que vivemos", quer dizer, declaração que toma como certa a inevitabilidade de governos misturarem IA e armas nucleares algo que todos em Chicago acreditavam. Bob Latiff, major-general aposentado da Força Aérea dos EUA e membro do Conselho de Ciência e Segurança do Boletim dos Cientistas Atômicos, esclarece "é como eletricidade", concluindo,"vai encontrar seu caminho em tudo" sendo que Latiff ajuda acertar o Relógio do Juízo Final anualmente, enquanto Jon Wolfsthal, especialista em não proliferação, diretor de risco global da Federação de Cientistas Americanos e ex-assistente especial de Barack Obama complementa dizendo que “a conversa sobre IA e armas nucleares é dificultada por alguns problemas importantes, o primeiro é que ninguém sabe realmente o que é IA”, daí, o significado de controle à IA de uma arma nuclear quer dizer "dar a um chip de computador o controle de uma arma nuclear”, com Herb Lin, professor de Stanford e ex-aluno do programa Relógio do Juízo Final questionando que “parte do problema é que modelos de linguagem dominaram o debate.” Em 2024, o General da Força Aérea Anthony J. Cotton, líder militar responsável pelas armas nucleares dos EUA fez discurso em uma conferência sobre a importância da adoção IA ao dizer que as forças nucleares estavam “desenvolvendo ferramentas IA ou de apoio à decisão, lideradas por humanos e habilitadas por IA para garantir que os líderes respondam a cenários complexos e urgentes”, no entanto, é perturbador não é a ideia que uma IA desonesta inicie uma guerra nuclear e sim “que alguém diga que precisamos automatizar o sistema e partes dele, criando vulnerabilidades que um adversário pode explorar, ou, que produzirá dados ou recomendações com pessoas despreparadas para entender que levará a decisões ruins”. Lançar uma arma nuclear não é tão simples quanto um líder na China, Rússia ou EUA apertar um botão. O comando e controle nuclear é uma rede intrincada de radares de alerta precoce, satélites e outros sistemas de computador monitorados por seres humanos. Se o presidente ordenar o lançamento de um míssil balístico intercontinental, dois seres humanos devem girar chaves em conjunto em um silo individual para lançar a bomba nuclear. O lançamento de uma arma nuclear americana é o resultado final de uma centena de pequenas decisões, todas tomadas por humanos. A política nuclear norte americana exige o que é chamado de "fenomenologia dupla" para confirmar que um ataque nuclear foi lançado, quer dizer, um ataque deve ser confirmado por sistemas de satélite e radar para ser considerado genuíno e "um desses fenômenos poderia ser IA, que parece neste momento ser inapropriado" porque não entendemos como sistemas IA funcionam com o caso de Stanislav Petrov, tenente-coronel das Forças de Defesa Aérea Soviética, que salvou o mundo em 1983 quando decidiu não passar alerta dos sistemas de alerta nuclear soviético à cadeia de comando, valendo a premissa que Petrov não sabia que a máquina estava errada, chutou com base em experiências e seu radar lhe disse que os EUA haviam lançado 5 mísseis, mas sabia que ataque americano seria tudo ou nada e 5 era um número pequeno considerando que os computadores tinham trabalhado mais rápido que ele os vira antes, quer dizer, fez uma avaliação. Para concluir, o atual governo norte americano e o Pentágono deixaram claro que IA é prioridade máxima e invocaram corrida armamentista nuclear para isso, em maio de 2025, o Departamento de Energia declarou em publicação no X que "IA é o próximo Projeto Manhattan e os EUA vencerão" e que o "Plano de Ação IA" do governo descreve corrida em direção à IA como corrida armamentista, competição contra a China que deve ser vencida.
Moral da Nota: o Financial Times noticiou que a operadora EDF avisou que a maior usina nuclear da França, Gravelines, foi paralisada pós 4 dos reatores precisarem ser desligados decorrente presença de enxame de águas-vivas nas bombas de água dos sistemas de refrigeração, com a empresa distribuindo comunicado dizendo que "domingo, 10 de agosto de 2025, entre as 23:00 e 00:00 horas, as unidades 2, 3 e 4 da usina nuclear de Gravelines foram desligadas automaticamente, conforme os sistemas de segurança e proteção do reator", acrescentando que na manhã da segunda-feira a unidade 6 também foi desligada enquanto as outras 2 unidades da planta, 1 e 5, não estão em funcionamento devido manutenção programada. A EDF detalhou no comunicado que a suspensão das operações foi causada pela "presença massiva e imprevisível de águas-vivas nos tanques de filtragem da estação de bombeamento, na parte não nuclear das instalações", quer dizer, diagnósticos e intervenções necessárias estão se realizando para que as unidades possam voltar a funcionar de modo seguro, já que a usina, localizada no norte da França, é a 2ª maior da Europa e a 6ª do mundo, se refrigera através de canal conectado ao Mar do Norte.