Futuros Imaginários/Capítulo 4

by Richard Barbrook

4

A MÁQUINA HUMANA

 

Em 1946, um grupo de proeminentes intelectuais estadunidenses organizou o primeiro de uma série de encontros dedicados a quebrar barreiras entre as várias disciplinas acadêmicas: as conferências Macy.^[1] Inspirados em suas experiências em pesquisa colaborativa do período de guerra, eles estavam em busca de uma metateoria que pudesse ser aplicada tanto às ciências naturais quanto às ciências sociais. Caso compartilhassem de uma linguagem comum, acadêmicos de diferentes áreas de especialização seriam capazes de trabalhar juntos.^[2] Depois dos primeiros encontros, Norbert Wiener despontou como o guru teórico das conferências Macy.^[3] Durante a Segunda Guerra Mundial, esse matemático do MIT trabalhou em um projeto para melhorar a precisão de armamentos antiaéreos. Ao atirar contra uma aeronave em movimento, o operador deveria antecipar as futuras posições do alvo. Devido à velocidade dos aviões de guerra de alta tecnologia, o método mais eficaz para atingir esse alvo era desenvolver uma técnica que corrigisse automaticamente a pontaria do atirador. Ao agir em simbiose, soldado e arma levariam vantagem sobre o inimigo.^[4]

A partir dessa pesquisa para o exército dos Estados Unidos, Wiener desenvolveu uma estrutura teórica para analisar o comportamento de humanos e máquinas. Os soldados disparavam suas armas antiaéreas ao prever a trajetória de vôo do inimigo. Independente de ser conduzida por um humano ou uma máquina, a entrada de informação sobre o ambiente ao redor resultava em ações destinadas à transformação desse ambiente. Também chamados de "retroalimentação”, esses ciclos de estímulo e resposta não se restringiam ao campo de batalha. De acordo com Wiener, esse conceito se aplicava a qualquer ação que revertesse a propagação de entropia no universo. A segunda lei da termodinâmica seria determinante somente em último caso. Graças à retroalimentação, a ordem poderia ser criada a partir do caos.^[5] Wiener argumentou que essa teoria mestra descrevia todas as formas de comportamento intencional. Seja em humanos, seja em máquinas, havia interação contínua entre informação e ação. As mesmas equações matemáticas poderiam ser usadas para analisar o impacto no mundo tanto de organismos vivos quanto de sistemas tecnológicos.^[6] Em coro com Turing, essa abordagem sugeria a dificuldade em se distinguir humanos de suas máquinas.^[7] Em 1948, Wiener esboçou sua nova teoria mestra em um livro recheado de páginas com provas matemáticas: Cibernética — Ou comando e comunicação no animal e na máquina.

Para sua surpresa, esse acadêmico escrevera um campeão de vendas. Pela primeira vez, um apanhado comum de conceitos abstratos abrangeu ambas as ciências naturais e sociais. Acima de tudo, o texto de Wiener fornecia metáforas potentes para descrever o novo mundo da alta tecnologia nos Estados Unidos da Guerra Fria. Mesmo que não entendessem suas equações matemáticas, os leitores podiam facilmente reconhecer os sistemas cibernéticos em meio às instituições sociais e redes de comunicação que dominavam seus cotidianos. Pela esfera de influência estadunidense, a mídia promovia essa metateoria como o epítome da modernidade computadorizada. As metáforas de retroalimentação, informação e sistemas logo tornaram-se parte da conversa cotidiana.^[8] Apesar de seu reconhecimento público, Wiener continuou um marginal para a intelligentsia estadunidense. O grande pastor das conferências Macy era também um herege que se declarava contrário à corrida armamentista da Guerra Fria.

No início dos anos 1940, Wiener acreditava, como quase todo cientista estadunidense, que desenvolver armas para se defender da Alemanha nazista era um benefício para a humanidade. No momento em que a Guerra Fria começou,pesquisadores patrocinados pelo exército alegaram que seu trabalho também contribuía para a luta contra um agressivo inimigo totalitário.^[9] Como desafio a esse consenso patriótico, Wiener argumentou que os cientistas estadunidenses deveriam adotar um posicionamento muito diferente no confronto com a Rússia. Ele avisou que a corrida armamentista nuclear poderia levar à destruição da humanidade. Confrontados com essa nova situação perigosa, cientistas responsáveis deveriam se recusar a levar adiante pesquisas militares.^[10] Durante a década de 1950 e o início da década de 1960, a dissidência política de Wiener o inspirou na defesa de uma interpretação socialista da cibernética. Na época dos monopólios corporativos e armamento atômico, sua teoria explicava que o comportamento tanto dos humanos quanto das máquinas deveria ser usado para colocar os humanos no controle de suas máquinas. Sem seu entusiasmo inicial pela profecia de Turing sobre a inteligência artificial, Wiener agora enfatizava os perigos apresentados por computadores conscientes.^[11] Como os protagonistas de Mil e uma noites, humanos poderiam se ver incapazes de controlar os novos espíritos da alta tecnologia.^[12] Acima de tudo, essa tentativa de construir inteligências artificiais era uma divergência perante a urgente tarefa de criar justiça social e paz global. "O mundo do futuro será uma batalha cada vez mais exigente contra as limitações de nossa própria inteligência, e não uma confortável rede em que podemos nos deitar para esperar por robôs escravos."^[13]

Para os patrocinadores das conferências Macy, a cibernética de Wiener proveu uma teoria mestra para os Estados Unidos da Guerra Fria. Contudo, ao se opor à militarização da pesquisa científica, esse sábio envergonhara seus patrocinadores dentro da elite dos Estados Unidos. Ainda pior, sua versão esquerdista da cibernética transformou essa celebração de colaboração multidisciplinar numa crítica da intelectualidade institucionalizada. Felizmente para os patrocinadores militares dos Estados Unidos, havia um outro brilhante matemático nas conferências Macy que era também um fanático guerreiro da Guerra Fria: John von Neumann. Traumatizado pela nacionalização do banco de sua família na Revolução Húngara de 1919, esse ideólogo anti-socialista escrevera o texto fundamental da teoria dos jogos que — entre outras coisas — veio provar que não havia alternativa econômica para o capitalismo liberal. Com um argumento tautológico, os egoístas maximizadores-de-utilidade da economia neoclássica tornaram-se equivalentes aos indivíduos racionais que jogavam para derrubar seus oponentes.^[14] No despertar da Guerra Fria, a posição política de von Neumann era tão extrema que ele defendeu o lançamento de um ataque preventivo contra a Rússia para impedir que os líderes dessa potência adquirissem armas nucleares.^[15] Naturalmente, essa ave de rapina estava profundamente envolvida em pesquisas apoiadas por recursos militares. Enquanto cumpria um papel de liderança no desenvolvimento da guerra atômica, von Neumann aplicava seus talentos matemáticos e organizacionais ao novo campo da computação. Quando a primeira conferência Macy aconteceu em 1946, seu time de pesquisadores já trabalhava para construir um protótipo de mainframe para a marinha dos Estados Unidos.^[16] Em von Neumann, o império estadunidense encontrou um guru sem o menor traço de heresia.

Nas primeiras conferências Macy, as diferenças políticas entre seus inscritos não eram aparentes. Unidos pela batalha antifascista, Wienner e von Neumann não eram apenas colaboradores intelectuais, mas também amigos próximos. Tanto a Esquerda quanto a Direita poderiam liderar a mesma metateoria da cibernética. Contudo, em alguns poucos anos, essas duas estrelas das conferências Macy estariam divididas por suas incompatíveis posições sobre a Guerra Fria. Enquanto suas políticas divergiam, Wiener e von Neumann começaram a defender interpretações rivais da cibernética. Em sua versão de esquerda, a inteligência artificial era denunciada como a apoteose da dominação tecnológica. Ao formular seu remix de direita, von Neumann pegou a cibernética exatamente na direção oposta. Notadamente, sua interpretação enfatizou que essa teoria mestra era inspirada pela profecia de máquinas pensantes. Apoiada nessa argumentação, a crítica de Wiener da corrupção da ciência pela Guerra Fria foi utilizada para minar sua posição como guru da modernidade computadorizada. Ao promover o conceito de Turing de inteligência artificial, von Neumann elevou-se à posição de pai fundador da cibernética.^[17] Ironicamente, o cientista inglês que inspirou os construtores do primeiro computador foi relegado a precursor do proeminente profeta dos cientistas estadunidenses, que alegavam terem sido eles os construtores do primeiro computador.

De volta ao início da década de 1930, von Neumann trabalhou brevemente com Turing na Universidade de Princetown. Uma década antes de seu envolvimento na computação, esse cientista húngaro já sabia do conceito de máquina universal.^[18] Quando, no início da década de 1940, Warren McCulloch e Walter Pitts aplicaram a teoria de Turing para explicar o processo de pensar, von Neumann estava fascinado pelas implicações de suas especulações. Já que a calculadora mecânica era modelada sobre um cérebro humano, esses dois psicólogos de Chicago decidiram que a consciência poderia ser sinônimo de cálculo. Como os contatos elétricos de uma tabuladora IBM, neurônios eram chaves elétricas que transmitiam informação em forma binária.^[19] Atônito com essa inversão da linha de argumentação de Turing, von Neumann convenceu-se de que era teoricamente possível construir uma máquina pensante. Se neurônios agiam como chaves elétricas dentro do cérebro humano, então válvulas poderiam ser usadas para criar um cérebro eletrônico.^[20] Ao mover-se para dentro da pesquisa computacional, ele recebeu largas somas de dinheiro dos militares dos Estados Unidos para realizar seu sonho. Assim como Turing, esse profeta acreditava que contínuos aperfeiçoamentos nos computadores eventualmente culminariam na emergência da inteligência artificial. Assim que o número de válvulas de um computador se aproximasse ao de neurônios de um cérebro, a máquina começaria a pensar.^[21] No decorrer de uma década, von Neumann e seus colegas equipariam os militares dos EUA com soldados cibernéticos capazes de lutar e vencer uma guerra nuclear.

 

Dr. McCulloch: Que tal projetar máquinas computacionais que ao sofrerem algum dano em caçadas aéreas... possam recompor suas partes... e continuar em operação?

Dr. von Neumann: Essas são questões muito mais quantitativas do que qualitativas.^[22]

 

No início da década de 1950, von Neumann havia criado com sucesso a cibernética sem Wiener. A metáfora da retroalimentação agora provava que os computadores operavam como humanos. Como os jogadores racionais de seus livros sobre a teoria dos jogos, ambos, seres vivos e mecânicos, respondiam a estímulos do ambiente à sua volta. Entradas de informação dirigiam-se às saídas de ação. Desde que o comportamento de ambos, humanos e máquinas, puderam ser descritos matematicamente, cálculos se tornaram o leitmotiv^{[NT 1]} da consciência. Por meio dessa linha de argumento, von Neumann foi capaz de definir a missão das pesquisas dos novos departamentos de ciência da computação instalados nas universidades estadunidenses: construir inteligência artificial. A linguagem era um conjunto de regras que poderiam ser codificadas como um programa de computador. O aprendizado a partir de novas experiências poderia ser programado em computadores.^[23] Assim que começassem a evoluir como organismos vivos, as máquinas tornar-se-iam “automatos auto-reprodutores”.^[24] Nessa versão de direita, a teoria da cibernética foi redefinida como um estudo de inteligência artificial. Guiadospor McCulloch, os admiradores de von Neumann nas conferências Macy foram pioneiros na aplicação dessa nova ortodoxia dentro de outras disciplinas acadêmicas. Se os cérebros humanos fossem máquinas de calcular, instituições sociais poderiam ser estudadas como sistemas cibernéticos. Assim como computadores, indivíduos seriam processadores de informação que responderiam a ordens dadas por seus programadores.^[25] Por mais de um século, o fetichismo da mercadoria inspirou o fetiche da tecnologia. Agora, dentro do remix de von Neumann da cibernética, o fetichismo tecnológico explicava uma sociedade fundada sobre o fetichismo de mercadorias. Ao invés do computador imitar um humano com êxito, esse novo teste de Turing seria confirmado quando humanos fossem indistinguíveis de computadores.

Essa versão conservadora da cibernética proveu uma nova segurança filosófica para os dilemas morais encarados pelos pesquisadores em universidades estadunidenses. Do início da década de 1950 em diante, os militares dos Estados Unidos patrocinaram entusiasticamente o desenvolvimento de jogos de computadores que simulavam uma guerra atômica entre as superpotências. Ao executarem esses programas, seus especialistas formularam o paradoxal conceito de destruição mútua assegurada. De acordo com a lógica cruel da teoria dos jogos, os benefícios da arbitrariedade pesariam para o lado da confiança mútua: "o dilema do prisioneiro". Baseadas nessa premissa, as simulações de computador provaram que a preservação da paz entre Estados Unidos e Rússia requeria uma escalada contínua da corrida armamentista nuclear. Para encorpar o conceito de Turing e von Neumann sobre inteligência artificial, os mainframes jogadores da IBM produziram cientificamente a estratégia militar mais inteligente para combater na Guerra Fria. O irracional tornou-se racional.^[26] Para pesquisadores patrocinados pelos militares em universidades dos Estados Unidos, a interpretação de von Neumann da cibernética proveu uma história auto-congratulatória para encobertar suas atividades dúbias. Programar computadores para guiar mísseis, controlar bombardeios, direcionar exércitos e se divertir com jogos de guerra não era mais o caminho para planejar o holocausto nuclear. Ao contrário, como Turing e von Neumann provaram, essas aplicações militares eram um passo essencial a caminho do objetivo final da inteligência artificial. O fetichismo tecnológico absolvera cientistas da computação de qualquer responsabilidade sobre a conseqüência de suas ações.

Na Feira Mundial de Nova Iorque de 1964, a IBM copiou essa estratégia ao projetar sua exibição. Assim como nos departamentos universitários de ciência da computação, a corporação precisava da recombinação da cibernética de von Neumann para atrair a atenção para longe de seu envolvimento profundo com questionáveis projetos militares. A IBM recentemente vendera um mainframe 704 para a força aérea dos Estados Unidos para guiar mísseis nucleares que eram projetados para o massacre da população civil da Rússia e suas dependências. O primeiro pedido para um computador System/360 veio de um fabricante de aviões de batalha cujos produtos em breve espalhariam morte e destruição entre as aldeias do Vietnã.^[27] De qualquer maneira, assim como os mostruários de reatores de fissão e foguetes espaciais, o pavilhão da IBM evitava cuidadosamente mostrar as aplicações militares de seus computadores. A única pista do envolvimento maciço da corporação na luta da Guerra Fria era a presença do computador que podia traduzir o russo para o inglês.

Assim como as previsões sobre a energia sem custos e o turismo espacial, o futuro imaginário da inteligência artificial disfarçou a motivação original para o desenvolvimento dos mainframes da IBM: o assassinato de um enorme número de pessoas. Durante a Guerra Fria, uma requintada propaganda tinha que disfarçar horripilantes valores de uso. A elite estadunidense certamente não queria que turistas, num dia de diversão na Feira Mundial de Nova Iorque, ficassem aterrorizados com mostruários sobre o sempre presente perigo de um holocausto nuclear. As máquinas da morte foram, portanto, reempacotadas como protótipos de tecnologias de ficção científica. Em simbiose, os diferentes futuros imaginários também davam credibilidade uns aos outros. A promessa do turismo interplanetário transformara a principal função de sistemas teleguiados de foguetes computadorizados — destruir cidades russas com bombas nucleares em veículos — em viagem de intrépidos astronautas até o espaço. Os horrores da presente Guerra Fria foram escondidos com sucesso pelas maravilhas dos futuros imaginários.

 

Notas:

^ 1. Essa série de conferências deve seu nome à organização que a patrocinava, a Fundação Josiah Macy Jr. Assim como entregou a fortuna de petróleo de seu epônimo benfeitor para boas causas, essa instituição de caridade também subsidiou projetos de pesquisa acadêmica com recursos clandestinos dos serviços da inteligência dos EUA. Ver Steve Heims, The cybernetics group, páginas 14-18, 164-169.

^ 2. Ver Heims, The cybernetics group, página 14-30. Ver também American Society for Cybernetics, Summary: the Macy conferences.

^ 3. Ver Flo Conway e Jim Siegelman, Dark hero of the information age, páginas 154-170.

^ 4 Ver Norbert Wiener, Cybernetics, páginas 9-13, 133-134.

^ 5. Ver Wiener, Cybernetics, páginas 74-136; e Arturo Rosenblueth, Norbert Wiener e Julian Bigelow, Behaviour, purpose and teleology.

^ 6. Ver Rosenblueth, Wiener e Bigelow, Behaviour, purpose and teleology; e Wiener, Cybernetics, páginas 168-191.

^ 7. Para a influência de Turing sobre Wiener, ver Wiener, Cybernetics, páginas 21, 32-33.

^ 8. Ver Conway e Siegelman, Dark hero, páginas 171-194; e Heims, The cybernetics group, páginas 271-272.

^ 9. Ver R.C. Lewontin, The Cold War and the transformation of the academy.

^ 10. Ver Norbert Wiener, The human use of human being (Cibernética e Sociedade), página 174; e Conway and Siegelman, Dark hero, páginas 237-243, 255-271.

^ 11. Ver Wiener, The human use of human beings (Cibernética e Sociedade), páginas 239-254.

^ 12. Ver Norbert Wiener, God & Golem, Inc., páginas 52-60.

^ 13. Wiener, God & Golem, Inc., página 69.

^ 14. Ver John von Neumann e Oskar Morgenstern, Theory of games and economic behaviour, e Steve Heims, John von Neumann e Norbert Wiener, páginas 43-46, 79-95, 193-194, 292–293.

^ 15. Ver Heims, John von Neumann e Norbert Wiener, páginas 235-236, 244-251. Se o seu diabólico plano tivesse sido executado, a guerra nuclear resultante haveria varrido a maioria dos habitantes de sua terra húngara que viviam nas linhas de frente na Europa.

^ 16. Ver Paul Ceruzzi, Modern computing, páginas 21-24; e Heims, John von Neumann e Norbert Wiener, páginas 238-239.

^ 17. Ver John von Neumann, The general and logical theory of automata páginas 313-315; Theory of self-reproducing automata, páginas 49-51.

^ 18. Ver B. Jack Copeland, Computable numbers: a guide, páginas 21-22.

^ 19. Ver Warren McCulloch e Walter Pitts, A logical calculus of the ideas immanent in nervous activity.

^ 20. Ver von Neumann, General and logical theory of automata, páginas 308-311; Theory of self-reproducing automata, páginas 43-46.

^ 21. Ver von Neumann, General and logical theory of automata, páginas 296-300; Theory of self-reproducing automata, páginas 36-41; The Computer and the Brain, páginas 39-52.

^ 22. Von Neumann, General and logical theory of automata página 324.

^  23. Ver Marvin Minsky, Matter, mind and models, Steps towards artificial intelligence.

^  24. Ver von Neumann, General and logical theory of automata, páginas 315-318; Theory of self-reproducing automata, páginas 74-87.

^ 25. Ver Talcott Parsons e Edward Shils, Toward a general theory of action; e B.F. Skinner, Science and human behaviour. Ver também Heims, The cybernetics group, páginas 52-247; e Christopher Rand, Cambridge U.S.A., páginas 129-158.

^ 26. Ver Anatol Rapoport, Fights, games and debates, páginas 107–179; e Andrew Wilson, The bomb and the computer, páginas 140-153.

^ 27. Ver Edmund Berkeley, The computer revolution, páginas 142-143; e Emerson Pugh, Lyle Johnson e John Palmer, IBM՚s 360 and early 370 systems, página 171.

^ NT 1 — Leitmotiv — O termo é freqüentemente usado nas artes, principalmente em música, para indicar um motivo sonoro ou frase musical.