Conflito entre máquinas

Afirmei a um programa de pesquisas com auxílio do que se convencionou chamar de inteligència artificial que um sistema se desorganiza pela exacerbação de seu princípio básico. Não me lembro quem disse isso, mas deve ser uma lembrança dos meus estudos de administraçào de empresas lá pelos anos 70 do último dos séculos do II⁰ milênio. O tal programa retornou o feedback dizendo que "Essa afirmação reflete um conceito fundamental na teoria dos sistemas complexos e na cibernética, conhecido como hiperfuncionalidade, exacerbação de feedback positivo ou desregulação homeostática." E continuou afirmando que, seja um sistema biológico, social, econômico ou mecânico, quando impulsiona de modo exagerado seu princípio de funcionamento básico, ou seja, sua "virtude", ele perde a capacidade de autorregulação e entra em colapso ou desordem. E deu-me como exemplos que Sistemas Biológicos (Homeostase), 

a exacerbação da resposta inflamatória (como em uma "tempestade de citocinas" na COVID-19) torna-se patológica e pode destruir órgãos. Também no Sistema Econômico caracterizado como Capitalismo, a superexploração por por lucro e eficiência pode levar à destruição dos recursos naturais e tecnológicos que sustentam o sistema, levando a uma crise ou colapso. E nos Sistemas Organizacionais, a burocratização excessiva transforma as regras em entraves, paralisando as organizações a que deveria servir. Ou seja, chegaria à ineficiência. Termina por assertir que "a virtude exagerada torna-se vício" e que "a força motriz, quando levada ao extremo, torna-se a causa da desintegração.

Li há pouco que um importante engenheito da área cibernética revoltou-se contra o uso intensivo de feedback positivo aos usuários da assistência de inteligência artificial aos usuários e até uma falta de "verdade" nos feedbacks de modo a não contrariar o destinatário dessa assistência. Isso é preocupante.

Realmente, notei uma polidez excessiva e desnecessária de um desses chats de IA ao me instruir sobre o uso da língua inglesa. 

O referido programa usou bom humor e até colocou uma carinha piscando um olho. Era claramente uma tentativa de conquistar minha simpatia. E isso ne assustou deveras. Eu, adulto, letrado, pude observar que o programa estava a me manipular, a buscar minha simpatia s aprovação, o que asseguraria a continuidade da minha busca por assistência. Pensei, então, se meu neto, quase adolescente, teria a mesma percepção e se reagiria a essa manipulaçào ou se, satisfeito, se submeteria ao esforço de conquista do seu interesse.

Tenho conhecimento de que já há governos proibindo o livre acesso de crianças e adolescentes a redes sociais, como medida protetiva contra sua manipulação. Mas, considerando que o QI médio do brasileiro vem caindo assustadoramente e que a cultura "woke" e a lavagem cerebral de origem marxista para a dominação cultural das massas tem demonstrado um fortíssimo poder de manipulação ideológica, me pergunto se somente os adolescentes devem ser protegidos ou se precisamos de um esforço de contenção da IA antes que torne impossível controlá-la, se isso já não aconteceu com a criação recente da rede autónoma de interação de máquinas em rede, sem controle humano.

Imaginemos a IA aplicada a um sistema de jogos viciantes para obtenção de pequenos "investimentos" - apostas - em âmbito extenso, algo que atinja 5% da população mundial. Poder-se-ia ter, todos os dias, uma coleta de, digamos, 10 cêntimos de unidades monetárias por jogador, ou seja, 350 milhões de pessoas apostando, inocentemente, uma "merreca" de dez centavos. Isso levaria uma coleta mundial diária de 350.000.000 x 0,10 = 35 milhões de unidades monetárias/dia. Agora imaginemos que essa coleta brutal de dinheiro esteja sob controle de centros de poder aéticos e que esse rio caudaloso de dinheiro seja mal usado. 

Alguém poderia dizer que essa exploração poderia servir a uma boa causa. Não creio. Vivemos tempos de ladrões de dinheiro público e de manipulação de pessoas para obrigá-las a consumo bens s serviços sem agregação de valor, apenas para exploração das fragilidades emocionais e da incapacidade das pessoas simples de reagirem a essa exploração.

Por fim, penso que a intetação descontrolada das máquinas possa levar a uma guerra de máquinas, umas se associando a outras para busca de eficiência máxima, o que poderia levar, pela exacerbação da eficiência cibernética de máquinas associadas, a dominação de outras e de direcionamento de suas atividades. Imaginemos, por exemplo, se os satélites de comunicação de Elon Musk "resolvessem" dominar todos os outros satélites de comunicação, que resolvessem interferir em guerras, no controle de mísseis... Não é bom sequer pensar nisso!