Máquinas terão consciência até 2020, diz futurólogo

Fonte: http://idgnow.uol.com.br/computacao_pessoal/2007/10/03/idgnoticia.2007-10-02.5202464661/

Por Peter Moon, especial para o IDG Now!
Publicada em 03 de outubro de 2007 às 07h00
Atualizada em 08 de outubro de 2007 às 03h37

São Paulo - O futurólogo da British Telecom, Ian Pearson, prevê advento de máquinas inteligentes e conexão do cérebro com a internet.

Você pode não concordar com ele. Pode mesmo não acreditar em nada do que ele diz. Mas a British Telecom acredita. Ian Pearson é o futurólogo de plantão da BT, a gigante de telecom do Reino Unido. Pearson é pago para imaginar aonde as tecnologias atuais irão nos levar. Inteligência Artificial, modificação genética do ser humano, vírus inteligentes, civilizações imaginárias, a Second Life 10.0 e cenários terríveis como o do Exterminador do Futuro fazem parte do vasto leque de possibilidades na mira deste cientista.

De posse de novas informações, todos os anos ele atualiza a sua Linha Tecnológica do Tempo, onde se lê que a seleção inglesa de futebol irá perder para jogadores robôs em 2051.

Nesta entrevista exclusiva feita por telefone desde Londres, onde mora, Pearson fala sobre o seu ofício, pondera sobre os problemas para entender as máquinas inteligentes quando estas surgirem, e alerta para os grandes dilemas ético-morais decorrentes do avanço tecnológico que a humanidade terá, mais cedo ou mais tarde, que enfrentar.

Há 10 anos, em maio de 1997, o campeão mundial de xadrez Gary Kasparov foi derrotado pelo supercomputador Deep Blue da IBM (leia “Vitória da máquina sobre o homem completa dez anos”). Será que aquele foi o primeiro vislumbre de uma nova forma de inteligência, como o próprio Kasparov declarou?

Sim, este é um bom exemplo do que se pode fazer com uma inteligência baseada em computadores. O que ficou claro é que a Inteligência Artificial não precisa fazer as coisas do mesmo jeito que nós humanos para atingir os mesmos objetivos que nós usamos nossa inteligência para alcançar. Deep Blue não funcionava do mesmo modo que uma pessoa. Deep Blue tinha uma enorme capacidade de processamento de dados. Não era uma máquina consciente. Era apenas uma máquina muito burra que não tinha ciência da sua existência. Ela apenas mastigava números para ser capaz de resolver problemas cuja solução requer uma das mais refinadas mentes humanas do planeta.

Mas foi um grande avanço. Acredito que foi um divisor de águas importantíssimo para o pensamento. Muitos entre nós percebemos então que não seria necessário identificar exatamente como o cérebro funciona para resolver um monte de problemas que requerem inteligência, porque para solucionar estas coisas pode-se usar computadores no lugar de uma grande máquina autoconsciente.

Não obstante, acredito que a tarefa de produzir máquinas com consciência ainda é importante. Nós provavelmente construiremos máquinas conscientes em algum momento entre 2015 e 2020, creio eu. Mas elas não serão como você e eu. Serão conscientes de si mesmas e a sua vontade será consciente mais ou menos do mesmo jeito que a sua e a minha, mas funcionarão de um modo bem diferente. Serão alienígenas. Terão um modo diferente do nosso de pensar, mas não obstante ainda assim elas irão pensar. Não é preciso que se pareçam com a gente para que sejam capazes de pensar as mesmas coisas.

Mas, de acordo com a Lei de Moore (leia “CTO da Intel: Adeus eletrônica, vem aí a Spintrônica”), tão logo as máquinas se tornem inteligentes elas ultrapassaram a compreensão humana. A propósito, a sua Linha Tecnológica do Tempo de 2006 prevê que uma entidade de Inteligência Artificial irá ganhar um prêmio Nobel na década de 2020, e que na década seguinte os robôs serão mentalmente superiores aos humanos. O que virá depois disso, uma super-inteligência ou Deus 2.0?

Eu continuo acreditando nestas previsões de tempo para o advento da inteligência sobre-humana, mas não vou comentar sobre um Deus 2.0. Acredito que ainda devemos esperar por um computador consciente mais inteligente que nós por volta de 2020. Ainda não vejo razões porque isso não iria acontecer neste período de tempo. Mas não penso que iremos compreendê-los. Pela simples razão de que nós nem mesmo entendemos como funcionam algumas das principais funções da consciência.

Vou lhe dar um exemplo. No começo dos anos 1990 na Universidade de Sussex havia um experimento para gerar um programa que iria desenvolver circuitos para distinguir entre os diferentes tons num circuito telefônico, permitindo aos circuitos operarem em modos diferentes. Pois bem, os circuitos que o computador desenvolveu operaram de modo muito diferente daqueles criados pelos humanos. Quer dizer que o computador não empregou as convenções que as pessoas usam, mas apesar disso ele forneceu soluções que eram mais elegantes e que operavam de modo muito diverso.

Este exemplo mostra como até mesmo os mais simples dos sistemas nos fazem perder muito tempo para tentar compreender como eles funcionam. Eu não creio que iremos compreender estas máquinas inteligentes. Se você acha que elas serão capazes de se tornar mais inteligentes do que as pessoas, bem, eu concordo com a lógica de elas são mais espertas na hora de criar projetos mais inteligentes. Mas elas irão se tornar muito, muito inteligentes. É como um hamster tentando entender um ser humano. Eles simplesmente não podem entender o problema. Como então poderiam pensar do mesmo jeito? É como se comparar um ser humano a uma inteligência alienígena, que é centenas de milhões de vezes mais inteligente. Nós não possuímos a capacidade para começar a pensar do mesmo modo.
Quando pusemos máquinas ganhando prêmios Nobel na nossa linha tecnológica do tempo, tivemos boas razões para fazê-lo. Percebe? Ainda que muitos entre nós gostem de pensar que somos razoavelmente inteligentes, a maioria não é capaz de fazer algo tão genial para ganhar um prêmio Nobel, assim como não somos capazes de entender todos os ensaios ou conferências que um prêmio Nobel é capaz de escrever ou proferir, porque talvez estes caras operem num nível diferente do restante da humanidade. Com os computadores acontecerá o mesmo em algum momento num futuro não muito distante.

Neste contexto, podemos considerar que o Second Life seria uma forma de Matrix 1.0, ao passo que a Matrix do filme homônimo de 1999 será uma combinação do Second Life com a Inteligência Artificial?

Este é um jeito interessante de enxergar a questão! Eu nunca havia pensado nisto nesses termos. Mas no fundo eu realmente acho que não. Penso que, embora a Matrix e o Second Life tratem de socialização, o Second Life é um mundo imaginário onde podemos habitar, mas a diferença chave é que as pessoas têm plena consciência de estarem lá, enquanto que em Matrix a questão chave do filme não era que se tratava de um ambiente virtual onde as pessoas não sabiam que se encontravam. Não creio que o Second Life jamais evolua para um lugar onde a gente não seja consciente que está online. Sempre seremos capazes de distinguir entre estar conectado num mundo imaginário e quando se trata da vida real. Sempre seremos capazes de distinguir entre a vida real e a vida imaginária. Essa é a principal diferença entre Matrix e o Second Life. Mas certamente podemos adaptar o conceito do Second Life a partir de ambientes virtuais mais simples e adicionar a estes capacidades sensoriais, criando assim algo totalmente convincente. Sob este enfoque, uma futura versão poderia lembrar muito a Matrix, onde se tem um ambiente muito grande com pessoas interconectadas num nível muito convincente de realidade.

Isso está me parecendo o holodeck de Jornada nas Estrelas, não acha?

Isso! O holodeck em Jornada nas Estrelas tinha um pouco das propriedades futuras dos mundos virtuais. Em 2020, nós seremos capazes de induzir sensações, de exprimir sensações e de substituir sensações. Portanto, poderemos fazer algo que se aproxime do holodeck de Jornada nas Estrelas ou de O Vingador do Futuro (Total Recall, 1990). Será algo meio parecido com a Matrix, como um Second Life 10.0 ou algo do gênero.

O futuro está convergindo na direção de muitas destas coisas. No lugar do Second Life, uma metáfora que usamos com freqüência é o The Sims, o game com personagens imaginários que interagem entre si. Eles não são humanos, mas interagem assim mesmo. No futuro, com o advento da Inteligência Artificial, poderemos ter algo com as características do The Sims e consciência. Será uma situação muito interessante quando existir uma civilização imaginária, vivendo vidas imaginárias, sob um ponto de vista humano. Para os membros desta civilização ela será bastante real, e suas existências acontecerão no interior da rede, dentro do ciberespaço.

Você se interessa pela questão da convergência NBIC (nanociência, biotecnologia, tecnologia da informação e ciências cognitivas). Isso preocupa muita gente. Um exemplo é Bill Joy, o antigo CTO da Sun Microsystems, que em 2000 publicou um célebre manifesto na revista Wired, entitulado “Por que o futuro não precisa da gente”, onde alertava para o perigo que esta convergência representa para a Humanidade. Na sua linha tecnológica do tempo, eu li que nos anos 2030 um vírus criado pela nanotecnologia poderá ser transmitido entre máquinas e humanos através da internet. Isso não é o pior dos pesadelos tecnológicos?

Eu colocaria as coisas em outros termos. Em primeiro lugar, colocamos estas idéias na linha tecnológica do tempo para salientar as possibilidades da tecnologia futura. Mas acredito que, em certos casos, nós provavelmente iremos criar restrições para prevenir que alguém crie coisas como estas. A convergência NBIC permitirá que se crie coisas muito poderosas que trarão enormes benefícios para a Humanidade. Do mesmo modo, ela poderá permitir a criação de armas formidáveis que podem desaguar em cenários realmente horríveis.

O ponto que Bill Joy queria colocar em evidência no seu artigo é que tudo isso será plenamente possível. Daí que, em algum momento, nós teremos que descobrir como impedir que estas coisas aconteçam. Teremos que persuadir os governos ao redor do planeta para que percebam que existem problemas sérios que precisam ser regulados como forma de proteção.Pegue o exemplo da tecnologia de modificação genética, uma tecnologia cujos problemas potenciais já foram antecipados. Os governos devem fazer alguma coisa com relação a isso, devem estabelecer tratados a este respeito, embora sempre haja alguns poucos países que ficarão de fora. Por exemplo, na maior parte do mundo é ilegal clonar seres humanos e existem muitas restrições sobre o que se pode pesquisar em termos de modificação genética. Acredito que provavelmente o mesmo deverá acontecer com a convergência NBIC, proibindo aos cientistas o acesso a um nível tecnológico que os coloque perto de obter a capacidade de produzir coisas como os nano assemblers (máquinas moleculares capazes de produzir outras máquinas moleculares) para a produção de vírus e coisas do tipo. Será preciso criar restrições muito rígidas sobre a convergência NBIC para isso não ocorrer.

Mas como fazer isso?

O problema é que muitas destas tecnologias serão quase impossíveis de policiar. Mesmo que elas se tornem ilegais em todo o mundo através de tratados internacionais, como será possível controlar o que alguém está fazendo no fundo do quintal, alguém muito inteligente e com pouco equipamento? Não se pode detectar este tipo de coisa através do uso de vigilância via satélite. Sob esta ótica, eu acho que não poderemos fazer nada a respeito, seremos obrigados a aceitar o risco. Mas isso não é novidade! Uma vez que a tecnologia existe ou mesmo no caso dela estar a meio caminho de ser criada, é óbvio que só será necessário alguns caras espertos trabalhando num pequeno laboratório. Em pouco tempo eles irão sair de lá com alguma coisa. Como poderemos impedir?

O conceito de convergência NBIC prevê a criação de alguma forma viral extrema de Inteligência Artificial, assim como máquinas conscientes, super-homens, nano assemblers, modificação genética, etc... Precisamos decidir como regular estas tecnologias, apesar de termos capacidade limitada para tanto. Eu concordo com Bill Joy até certo ponto. Não sou otimista de achar que iremos achar uma solução. No momento, não existe nenhuma. Joy tem o mérito de ter levantado uma questão muito importante!

O físico inglês Stephen Hawking defendeu em 2001 (na revista alemã Focus) a modificação genética da nossa espécie como forma de manter o passo com as máquinas inteligentes. Você acredita que o melhoramento genético do ser humano é possível?

Estamos desenvolvendo uma boa compreensão de como um ser humano é construído e como ele funciona tão somente a partir de um exército de proteínas e coisas parecidas. Do mesmo modo, nós estamos identificando como operam os processos que envolvem a vida. Acredito que este progresso irá se acelerar ao longo da próxima década. Portanto é muito provável que possamos desenvolver a capacidade de modificar o ser humano sob diversas formas. Mas, novamente, temos que ter meios para policiar este processo. Ao mesmo tempo, deveríamos ter a possibilidade de realizar quaisquer modificações no ser humano que possamos desejar. Por exemplo, as pessoas irão procurar por modificações genéticas para acrescentar genes que realizam tarefas úteis, assim como se livrar de outros que não o façam. Não conheço a resposta para esta questão, e a maioria dos cientistas também não sabe.

Nós seremos capazes de extrair genes de outros organismos, e modificá-los ao fundi-los uns com os outros. Eventualmente, quando realmente compreendermos os princípios básicos através dos quais os genes operam, e quando reunirmos outros vislumbres do que a natureza levou bilhões de anos para produzir, poderemos ir muito mais longe.
Quando isso acontecer, seremos capazes de projetar genes a partir do zero para alcançar os objetivos a que nos propusermos. Seremos capazes de decidir quais características queremos criar ou até mesmo determinar qual personalidade se deseja possuir, e daí produzir todas as proteínas e sistemas para realizá-lo.

Acredito que seremos capazes de fazer tudo isso, modificar pessoas e muito possivelmente acabar expandindo certo número de habilidades humanas. A questão é: quão longe devemos ir até decidir que queremos inserir melhorias genéticas nas pessoas que desejam obtê-las, como por exemplo, uma conexão direta com as máquinas? Será que iremos querer nos conectar na rede? Deveríamos produzir genética que permita às pessoas, em 2050 ou 2060, se conectar diretamente na internet através do pensamento, permitindo a elas se comunicar com outras pessoas através de telepatia? Por que não seguir este caminho no caso da tecnologia existir e a engenharia permiti-lo? As possibilidades são muito interessantes.

Neste exato momento, o Pentágono está empregando mais de cinco mil robôs no Iraque e no Afeganistão, patrulhando cidades, desarmando explosivos ou realizando vôos de reconhecimento. O próximo passo é fazê-los portar armas. O final dessa história desemboca no Exterminador do Futuro?

Risos) Esta é com certeza uma das principais preocupações com que os engenheiros vêm se preocupando: se esta tecnologia leva na direção de O Exterminador do Futuro como mostra o filme de 1984, quando se projeta um robô que deveria responder ao nosso comando, mas que no momento em que se torna consciente decide não mais nos obedecer.

Quando os Estados Unidos desenvolvem armas robóticas eles estão dando um passo nessa direção. A questão é quão longe se pode seguir por esse caminho sem contar com uma enorme assistência tecnológica. Por exemplo, um ditadorzinho de algum regime poderia permitir que seus cientistas trilhassem esta direção para desenvolver algum sistema bélico? Hoje, provavelmente não, porque ele não teria acesso a tecnologias que ainda não foram desenvolvidas.
Estas tecnologias irão requerer uma enorme quantidade de recursos. Mas este potencial existe. Como sabemos que a possibilidade existe, é óbvio que alguém irá pensar em projetar estas máquinas, e não irá deter-se meramente pelo temor de que em algum momento sua pesquisa possa desembocar num cenário como o do Exterminador do Futuro. Nós certamente teremos que nos auto-policiar para não sermos estúpidos o suficiente para destruir o mundo.

Você é otimista com relação ao futuro? Acredita que poderemos expandir nossa civilização tecnológica ao mesmo tempo em que salvamos o mundo da fome, da superpopulação, da poluição e da destruição ambiental?

Eu sou um otimista. Reconheço que existem perigos no futuro. Mas de alguma forma eu ainda acredito que iremos conseguir evitar estes problemas e que o futuro será muito melhor do que o presente. Se olharmos muito além no futuro, iremos resolver muitos destes problemas usando máquinas avançadas. De uma forma ou de outra, conseguiremos encontrar um meio para evitar a destruição do mundo. É nisso que acredito. Se eu olhar para o lado negativo, existe um risco, um risco significativo de que nós possamos destruir o mundo através de meios impossíveis de imaginar. Eu acredito que nas próximas décadas haverá um equilíbrio entre os problemas causados pela tecnologia e as soluções por ela criadas. Mas penso que no curto e no médio prazo o mundo provavelmente não será melhor ou pior do que é hoje. No longo prazo, no entanto, existem muitas razões para ser otimista. Nós poderemos solucionar muitos dos problemas que causamos ao planeta, assim como provavelmente saberemos lidar com os problemas a serem criados por tecnologias que ainda estão por vir. Portanto, no que diz respeito ao futuro, eu sou um otimista. Mesmo porque a alternativa contrária é horrível demais para ser pensada.