(pt) Italy, Sicilia Libertaria #455 - VULNERABILIDADE DO SISTEMA (ca, de, en, it, tr)[traduccion automatica]

[a-infos-pt em ainfos.ca]

As inovações tecnológicas permitiram que a humanidade fizesse enormes 
avanços. Mas entre eles está faltando o objetivo principal, aquele que 
há milênios obceca as mentes e os sonhos da maioria dos seres humanos: 
um mundo de liberdade e igualdade fraterna. Como chegamos lá deve ser o 
parâmetro que norteia nosso relacionamento com a tecnologia. 
Infelizmente, isso continua sendo, em grande parte, prerrogativa dos 
senhores do mundo, que também o usam para aumentar seu poder. Os 
movimentos revolucionários lidaram pouco e mal com isso, quase nunca 
conseguindo combatê-lo com um uso alternativo, administrado e controlado 
de baixo.

Por mais paradoxal que pareça, a inteligência artificial - criada por 
agências militares com o propósito de travar guerras, passivar e 
escravizar populações - também contém um alto potencial de libertação 
se, uma vez dominada, for direcionada contra estados e multinacionais. 
Não é uma hipótese tão remota se for contemplada nos manuais do 
Pentágono onde, ao lado da guerra digital entre Estados ou entre grandes 
corporações pelo domínio do planeta e do espaço, aparece o desafio 
trazido à ordem estabelecida por muitos pequenos grupos subversivos. , 
esquivos, com meios "artesanais" e ainda assim eficazes, porque são 
capazes de paralisar as enormes infraestruturas centralizadas (as redes 
energéticas em primeiro lugar) que dependem do digital e que potenciam, 
além dos principais serviços públicos e privados, também os centros de 
processamento de dados de complexos financeiros e militares-industriais.

Que isto não é uma ilusão é demonstrado pelos números incríveis (1,5 
biliões de dólares) que o chamado "cibercrime", ao qual se juntam os 
mercados ocultos, ilegais ou paralegais que prosperam na rede, roubam ao 
público todos os anos. . economia legal. Isso acontece porque na origem 
da Internet, e depois da Inteligência Artificial, há um pecado mortal: 
não ter sido desenvolvida com o objetivo de segurança do sistema. Por 
outro lado, teria causado bloqueios e lentidões incompatíveis com a 
necessidade primária para a qual esses sistemas foram criados: agilizar, 
otimizar, maximizar o alcance dos objetivos pré-estabelecidos, evitando 
paradas e desperdícios de recursos.

Mas esse é apenas o primeiro dos problemas. Com a introdução da 
Inteligência Artificial Generativa, que remonta a pouco mais de um ano e 
que, ao aprender e evoluir autonomamente, melhora exponencialmente os 
desempenhos anteriores, os sistemas digitais tornaram-se tão complexos e 
interativos que se tornou impossível aos próprios programadores o 
conhecimento de todos os seus combinações potenciais. De alguns 
algoritmos ou programas genéticos, criados autonomamente pela IA. 
Generativo, os próprios desenvolvedores iniciais não sabem mais o que 
estão fazendo e por que estão fazendo isso.

Ao inventar um tipo de inteligência mais avançada que a sua, era 
inevitável que não conseguissem mais administrá-la ou compreendê-la 
adequadamente, deixando o campo aberto para aqueles que, criando "bugs 
de sistema" bastante simples, pudessem facilmente se infiltrar e 
sabotá-lo por dentro, causando danos irreparáveis. , ou, menos fácil, 
mas de ser feito, tentar reprogramá-lo para torná-lo inofensivo e útil 
para nossos propósitos. Inverter a lógica do sistema, colocando a 
Inteligência Artificial ao serviço de comunidades livres e solidárias, 
deveria, de facto, estar entre os objectivos primordiais dos grupos 
revolucionários: para tal, será necessário formar técnicos e cientistas, 
ligados entre si em uma rede que desenvolverá tecnologias alternativas 
que permitirão aos humanos retomar o controle de suas vidas, derrotar e 
controlar sistemas artificiais de baixo para cima, usando-os, se tanto, 
como meras próteses para melhorar sua condição.

Esta é uma tarefa que não pode mais ser adiada porque a 
"superinteligência" digital poderá em breve transformar a Terra e seus 
habitantes em simples recursos computacionais ou alvos para novos 
sistemas de armas sofisticados.

"À medida que a sociedade e os problemas que ela enfrenta se tornam cada 
vez mais complexos", escreveu Theodore Kaczynski com perspicácia, "e as 
máquinas se tornam cada vez mais inteligentes, as pessoas deixarão cada 
vez mais que as máquinas tomem decisões por elas, simplesmente porque as 
decisões tomadas pelas máquinas trarão melhores resultados. do que 
aquelas tomadas por humanos. Eventualmente, podemos chegar a um estágio 
em que as decisões necessárias para manter o sistema funcionando serão 
tão complexas que os humanos não serão mais tecnicamente capazes de 
tomá-las. Nesse ponto, as máquinas terão controle efetivo, e os humanos 
simplesmente não serão capazes nem mesmo de desligá-las, porque serão 
tão dependentes delas que desligá-las seria equivalente ao suicídio."

Tal destino mereceria uma reflexão filosófica e científica "dedicada", 
que até agora existe apenas em embrião. Os efeitos devastadores da 
Inteligência Artificial Generativa, numa direção que leva diretamente à 
extinção da raça humana por meios militares, já podem ser vistos no uso 
experimental que está sendo feito dela nas guerras que estão 
ensanguentando o Oriente Médio e a Ucrânia.: por exemplo, drones 
assassinos que identificam o inimigo por meio de software de 
reconhecimento óptico e o eliminam de forma autônoma, bem como os civis 
ao seu redor, sem a necessidade (e responsabilidade direta) de qualquer 
operador humano.

Um cenário que antecipa o de uma guerra autodestrutiva entre nações, sem 
limites, por uma improvável hegemonia digital futura.

Natale Musarra

https://www.sicilialibertaria.it/