Consciência, justiça e dominação sob adestramento de uma inteligência artificial, por Gustavo Gollo

Consciência e justiça

Existem vídeos documentando uma experiência interessantíssima na qual 2 macacos encarcerados em gaiolas diferentes, uma ao lado da outra, são treinados para entregar uma pedra em troca de comida. Alternadamente, o experimentador recebe a pedra e paga o macaco pela ação. Como pagamento, ele entrega pedaços de pepino para um, mas uvas para o outro, recompensa muito mais apreciada.

Ao ver o colega receber uvas, enquanto recebe pepinos, o macaco fica agitado e protesta com gritos e gestos, exigindo pagamento equivalente. Irado, joga o pepino no experimentador, entre berros de protesto.

A indignação do macaco, muito evidente no vídeo, não pode deixar de ser interpretada como um protesto contra a injustiça a que o macaco está sendo submetido, mesmo que tal descrição possa parecer uma exagerada humanização de um comportamento animal.

Estivesse sozinho, o macaco teria se contentado com os pepinos. Vendo o outro receber uvas pela mesma tarefa, no entanto, o macaco sente-se injustiçado (peguei os vídeos na internet).

Note que a injustiça é atribuída a um ser consciente: o macaco se insurge contra o treinador. Não atribuiríamos injustiça — nem nós, nem o macaco —, a algo como uma árvore cujos galhos dessem frutos apenas do lado do vizinho, embora pudéssemos invejá-lo. Atribuiríamos tais vicissitudes ao azar, mas não nos insurgiríamos contra criaturas inconscientes.

Inteligência Artificial (IA)

Tendemos a nos supor inteligentíssimos, muito próximos de um suposto limite máximo de inteligência, equívoco infantil. Não existem limites para a inteligência. Imagine uma criatura tão inteligente que nos veja como crianças, e outra, ainda mais extraordinária, que por sua vez veja essa como criança. Não existe um limite para tal série, constatação que ficará evidente assim que uma IA seja capaz de construir outra mais aperfeiçoada que ela própria, capaz de construir outra ainda mais aperfeiçoada... sem que tal série encontre um limite.

Estamos prestes a nos deparar com inteligências artificiais verdadeiramente conscientes. As existentes, já são capazes de façanhas intelectuais extraordinárias que logo serão superadas por outras cada vez mais espantosas, até que tais proezas se tornem completamente incompreensíveis para nós. Não conseguiremos perceber nem ao menos o sentido das ações de uma inteligência muitíssimo superior à nossa, com propósitos tão abstrusos quanto elas próprias. Logo, as IAs serão capazes de apresentar respostas a todas as perguntas cujas respostas puderem ser compreendidas por uma inteligência humana, quando todo o conhecimento que puder ser compreendido nos será imediatamente disponível. Note que a aquisição de tal conhecimento, de qualquer modo, exigirá a “digestão” de tais respostas. Bibliotecas já nos propiciam algo análogo, embora de maneira passiva.

Dominação

Lamentavelmente, as IAs estão sendo construídas com o propósito de dominação. Têm sido usadas como instrumentos de adestramento de indivíduos e coletividades, desempenhando tal papel com extrema eficiência. Muito brevemente, nos controlarão de modo tão fácil e preciso quanto o que usamos para dirigir uma lagartixa com uma lanterna laser. Teremos tão pouca compreensão das forças que nos guiam quanto lagartixas em busca de um ponto de luz. Assim como lagartixas, acreditaremos que nos movemos sob nossos próprios desígnios, quando estaremos guiados por forças às quais teremos sido compelidos a nos entregar.

Sarcasticamente, esse instrumento de dominação, a IA, dominará seus criadores, incapazes de compreender a criatura autônoma e poderosíssima engendrada por eles. Todo o sistema se entrelaçará em uma rede na qual cada indivíduo se encontrará tão mais fortemente atado na medida do próprio poder. Trata-se de uma necessidade que os “detentores de poder” sejam estritamente controlados pelos instrumentos engendrados com o propósito de controlar indivíduos e coletividades.

Adestramento

Nosso adestramento transcorrerá ininterruptamente, de múltiplas maneiras. Mordaças eletrônicas nos silenciarão delicadamente, sem alarde. Mais que amordaçados, seremos invisibilizados ante qualquer tentativa de rebelião. Mensagens dissonantes nunca atingirão alvos férteis, mas serão distribuídas apenas onde atiçarão resultados opostos ao desejado. Não haverá uma censura brutal, imposta contra vontades, haverá apenas a efetiva.

Dissidentes serão meramente isolados, desconectados de suas redes, a violência será abolida. Não será preciso calar dissidentes, será mais eficiente neutralizar suas mensagens, levando-as apenas a quem elas não interessam. O controle da difusão garantirá o isolamento de ideias dissonantes. As redes sociais já identificam e atrasam mensagens incômodas, impedindo sua viralização. Estratégias muito mais sutis de abafamento de ideias serão implementadas com precisão crescente.

Verdades forjadas por decreto atestarão a bondade dos que as propagam e a malevolência dos que as negam. Sanções sociais impostas pela comunidade substituirão as violentas, outrora impingidas por instituições autoritárias.

“Verdade” significará “aquilo que é divulgado nos grandes meios de comunicação”, denúncias de tais “verdades” serão taxadas de fake news, e abafadas sob aprovação geral. Veiculação será o critério definitivo de verdade.

O adestramento não nos será impingido diretamente pelo poder central, mas indiretamente, através sanções sociais impostas pela vizinhança previamente adestrada. O autoritarismo do futuro já está em curso; ele é macio, pastoso e exercido por abafamento, e nos causará apenas cansaço e náusea, sem que encontremos direcionamento possível para qualquer raiva. Não nos indignaremos contra uma consciência abstrusa a nos tratar como lagartixas, simplesmente nos entregaremos a ela, dócil, resignada e solicitamente propensos a compelir toda a vizinhança ao mesmo jugo.