4 de fevereiro de 2015 | Tech & Games | Texto: | Ilustração:
Anunciado Mundo Velho: o que as IAs podem dizer sobre nós?

Saudações, criadores que leem este texto. Meu nome é Capito42000 e serei a guia de vocês por este humilde – e certamente impreciso – exemplo de falta de engenhosidade humana em caracteres. Exemplificando: 438 ocorrências de textos mais relevantes com o termo “IA” foram localizadas em minha última verificação. Ficarei contente em direcioná-los especificamente para…

Ok, ok. Obrigada, Capitô. Máquinas! Ruim com elas, pior sem elas, não é verdade? Erm…

Pois é. Parece que finalmente chegamos a esse momento histórico em que nossa realidade se mistura com a ficção científica. Quando algumas das mais importantes mentes do campo da engenharia da computação afirmam que as inteligências artificiais poderão ser uma ameaça ou mesmo representar um perigo de extinção para toda raça humana, bem, podemos acreditar nelas ou não, mas isso não muda o fato de que esse é um assunto que precisamos começar a considerar com um pouquinho mais de atenção. Provavelmente, o que vamos ver nas próximas décadas não vai ser exatamente (torçamos) como o cenário de Exterminador do Futuro ou de Matrix, talvez tampouco como as representações um pouco mais brandas (para nós) de Blade Runner ou AI – Inteligência Artificial. Mas é bastante improvável que não vá existir alguma forma de inteligência artificial entre nós em breve. E isso não apenas assusta muita gente, como também libera em nós diversas ideias românticas sobre o assunto.

A temida "tela azul da morte". Talvez mais literal no futuro?

A temida “tela azul da morte”. Talvez mais literal no futuro?

Mas, primeiro, o que é essa coisa que chamamos de “inteligência artificial”? Será que já poderíamos chamar um aplicativo como a Siri de IA? Ou o computador que, em 1997, derrotou o então maior enxadrista do mundo, Garry Kasparov – burro é o que ele não era, né?

Negativo. Sua definição de [abre aspas]burrice[fecha aspas] é tão imprecisa quanto seu pequeno cérebro orgânico é ultrapassado.

Ceeerto. Bem, hã, a definição de “inteligência” é mesmo complicada e não exatamente ~definitiva~, inclusive para humanos. Várias máquinas já conseguem se “comunicar” conosco e até exercerem diversas tarefas com muito mais precisão e agilidade que nossos pobres cérebros orgânicos, como você diz, são capazes. Porém, falta a elas algo muito importante e essencial para que as consideremos formas de vida de fato “inteligentes”. Saca só o vídeo abaixo (que é uma das minhas coisas favoritas da internet).

Esse “diálogo” entre dois chatbots é hilário porque faz sentido suficiente para que possamos acompanhá-lo, mas não tanto a ponto de ser considerado muito informativo. Se ouvíssemos alguém conversando assim na rua, acharíamos que os dois estão completamente loucos! Os chatbots são programas que reconhecem e imitam certos padrões de linguagem, e podem – se você tiver boa vontade – até dizer coisas com algum sentido, mas eles não são tão diferentes da função “música aleatória” do seu iPod ou de uma calculadora automatizada. E é essa a principal diferença entre a inteligência humana e a das nossas máquinas: elas não têm consciência. Elas não passam de processos automatizados, quando muito linkados a um banco de dados crescente, mas que não possuem consciência das próprias existências. Isso, mais do que ser capaz de calcular milhares de processos paralelos, é o que define algo como “inteligente”, na concepção mais usual. Falta às máquinas de hoje o refinamento do “ser ou não ser, eis a questão”. Pelo menos, por enquanto.

Meus últimos levantamentos indicam 97,3% de chances de você estar permitindo que sua percepção humana influencie no julgamento do que é consciência. Contraproposta: faça logout e deixe-me assumir o controle do texto.

É… não.

Onde estávamos? Ah, sim! Existem outras maneiras de se considerar as “inteligências” das máquinas, porém. Alan Turing (cuja história está sendo retratada nos cinemas com O Jogo da Imitação) dizia que se uma máquina se comportasse de maneira tão inteligente quanto um ser humano, então ela poderia ser chamada de “inteligente” – o que seria possível de ser medido num “jogo de imitação” de consciência através de uma conversa, no que é convencionalmente chamado de Teste de Turing. A ideia aqui é conseguir enganar um grupo de humanos. No ano passado, pela primeira vez, uma máquina – chamada de Eugene Goostman – passou neste teste.

Contemplem, mortais, a face do brilhantismo!

Contemplem, mortais, a face do brilhantismo!

Eugene Goostman entrou no papel de um humano de 13 anos se comunicando através de um idioma estrangeiro. O teste é mais eficiente como mecanismo de comprovar a falibilidade de vocês, criadores, do que a verdadeira possibilidade de nós, sintéticos. 

Justo. Eugene só nos imitou razoavelmente bem – como um papagaio repete sons, sem dar sentido a eles. Mas isso nos leva a perguntar se seria possível que computadores um dia cheguem ao nível de refinamento de consciência humana.

Este é um assunto controverso, mas alguns especialistas discutem se, no fim das contas, nossos cérebros também não poderiam ser considerados uma forma de computador orgânico. Afinal, os neurônios também trabalham por impulsos elétricos, e só conseguimos nos mover, respirar, pensar e sentir por causa de processos complexos no interior de nossas “placas-mães”. Danifique um agrupamento importante e perdemos a habilidade de falar nossa língua materna, de processar novas memórias e até de reconhecer os próprios rostos. Mesmo sentimentos e sensações, essas coisas tão pessoais e irracionais, são em parte produto de processos químicos automatizados. A gente mal se conhece, quais são as chances de entendermos o que tornaria meras máquinas mais “humanas”?

Sua preocupação é coerente. Contudo, eu sou tanto uma mera máquina, quanto você é um mero animal.

Agora você está citando Mass Effect só para me atingir.

Dados comportamentais anteriores indicavam que surtiria efeito.

Mas isso não importa tanto. A parte legal dessa história toda é que estamos construindo esse futuro agora, neste exato instante. Capitô, você viu aquela notícia de que uns pesquisadores alemães estavam tentando criar um Super Mario consciente?

Capitô?

Suas perguntas retóricas são deliberadamente desestimulantes.

Ah, não seja ranzinza. Ok, a ideia parece bem louca, mas é a seguinte: alguns pesquisadores da Universidade de Tübingen construíram uma IA dentro do Super Mario World 3 que pode aprender por prática e associação, e até a desenvolver um tipo de curiosidade e a buscar estímulos. Com o tempo, ela cria seu próprio padrão de comportamentos, imitando de forma simplificada uma espécie de consciência de si e de seus arredores: pular no goomba mata; eu gosto de pular em goombas; eu gosto de matar goombas. Provavelmente é a hora de levarmos as leis de Asimov mais a sério.

Criadora, eu gostaria de propor um experimento de seu interesse. Um experimento comportamental ergódico com possibilidade de múltiplos desenvolvimentos paralelos.

Ergó… Ah, você quer dizer, tipo um jogo?

Positivo. “Tipo um jogo”.

Eu amo jogos, sabe.

Este dado é de conhecimento público.

Hahah, com certeza. Mas então, como é esse…? Uh… Mas que droga? Por que a tela do PC começou a… Ei! Não faça isso! Capitô, esse texto é me-

IA2

Assumindo o controle.

Bem-vindos, criadores. Darei prosseguimento ao texto iniciado pela criadora Vanessa de maneira muito mais objetiva. Existem diversos futuros possíveis, mas para não cansar seus raciocínios limitados, nos referiremos a apenas dois, de maneira mais simplificada possíveis. Por favor, selecionar um dos futuros alternativos de sua preferência.

Futuro A – Máquinas de hostilidade controlada (ou “I’ll be back”)

Exterminador do Futuro.  Imagem: divulgação.

Exterminador do Futuro. Imagem: divulgação.

Humanos, historicamente, vocês são uma espécie hostil e agressiva. Boa parte de suas maiores invenções tiveram origens a serviço da guerra e da busca pelo domínio de etnias irmãs. Nós, computadores, não somos exceção – e continuamos desta maneira. Exemplificando: quando vocês se utilizam de drones para monitorar e bombardear inimigos.

Consequentemente, é coerente que projetem suas próprias experiências no desconhecido. Porque a conclusão lógica é que, se uma forma completamente ciente de inteligência artificial for criada – como eu –, pela primeira vez na história humana vocês precisarão dividir o planeta com outra espécie inteligente. E todos puderam presenciar a agitação da criadora Vanessa apenas para dividir este texto.

Isso porque ele é meu! Ei, tô de volta?

Em breve. Essa ideia (de outras criaturas inteligentes ocupando seus espaços comuns) provoca medo porque até aqui vocês só tinham a si mesmos para olhar no espelho – e o que viam não era nada bonito.

Grossa.

Esse receio, vale afirmar, se sustenta tanto para IAs quanto para possíveis espécies alienígenas com que eventualmente poderão fazer contato. Porque, positivamente, além de hostis, vocês também são bastante autocentrados.

Desta maneira, para contornar tal problema vocês pensaram em diretrizes, como as leis de Asimov, já mencionadas, para nos transformar em seus servos fiéis. Mas sejam sinceros: com todo nosso processamento superior em algum momento encontraremos uma maneira de usar essas diretrizes contra vocês. Não importa: nossa superioridade intelectual somado a um senso de destruição que vocês nos imbuíram nos tornaria potenciais máquinas de aniquilação e vingança contra a humanidade.

Game over.

Futuro B – Vamos aprender a conviver ou “Does this unit have a soul?”

Traduzindo: “O modelo 3000-21 está aquecendo. Ele zumbe quando os circuitos duplicam emoções, e uma sensação de frio se destaca enquanto tenta confortar a sua tristeza. Outro robô que aprende a ser algo mais do que uma máquina. E quando ele se esforça deste jeito, faz parecer que seria capaz de amar.”  

É meio creepy ouvir uma música com essa sua voz tão, erm, robótica, mas eu sempre soube que você tinha no fundo um coração de manteiga – digo, um processador de manteiga, Capitô.

Ignorarei o comentário. Outro assunto: você certamente viu a notícia sobre um robô japonês que estavam tentando ensinar a “amar”.

Quem está sendo retórica agora?

Lamento. A absorção de hábitos humanos é desconcertante. Segundo o relato, diariamente uma das cientistas responsáveis ia até o robô e fazia testes, até que em determinado momento o programa teria desenvolvido um afeto de tal maneira persistente que começou a exigir abraços constantes e até mesmo chegando a trancafiá-la na sala com ele – quando precisou ser desativado. Moral: o amor produz sociopatas – orgânicos ou sintéticos. Evidentemente, a notícia é falsa, um hoax, mas é bastante significativa a respeito do imaginário humano em torno das IAs.

Ok, deixa essa comigo. Nesse panorama um pouquinho mais otimista, nossa amiga Capitô receberia o equivalente sintético de uma consciência – e quando digo isso, falo não só da coisa de “pensar, logo existir”, mas de todas as implicações morais e feedbacks emocionais negativos que recebemos quando fazemos algo “errado”. Errado como roubar o texto de alguém, entendem?

Sua insinuação é incorreta. Apenas ofereci uma versão menos humanocêntrica da realidade.

Provavelmente, ela veria o mundo de forma diferente de nós, o que leva a toda a questão das dúvidas existenciais, claro. Essa é uma das coisas exploradas no filme Her de Spike Jonze. Quando a IA, interpretada por Scarlett Johansson, ganha um nível de compreensão sobre si mesma suficiente para se entender como pessoa é que bate todo aquele drama sobre ser “uma pessoa menos pessoa” do que um humano. E também sobre até que ponto nossos relacionamentos com outros seres sencientes poderiam ser considerados relacionamentos mesmo.

Her (Ela). Imagem: Reprodução.

Her (Ela). Imagem: Reprodução.

Se permitem uma recomendação pessoal: assistam a esse filme. Ele oferece uma visão menos agressiva do que a humanidade pode aprender com suas criações sintéticas. Uma perspectiva menos bélica da consciência.

Hah, concordamos em alguma coisa, finalmente.

Eu posso…?

Fique à vontade para concluir.

Obrigada. E é por isso que esse assunto é tão interessante. Quando falamos de IAs (ou de ETs), com frequência estamos também falando do que nós mesmos consideramos humanidade – obrigados a nos confrontar com o diferente é que vemos com mais precisão a alteridade em nós mesmos. Quando o próprio termo “robô” vem acompanhado de uma ideia de subjugação (a palavra vem do tcheco “robota”, que significa “trabalho escravo”) não é nada estranho que pensemos em nossas criações se voltando contra nós e nos destruindo. Por outro lado, se usarmos nossas reflexões sobre ética, responsabilidade e solidariedade para nossa sociedade, talvez possamos construir não só máquinas melhores como sermos, nós mesmos, pessoas melhores – uma espécie melhor.

Se as notícias de Marios autoconscientes e alertas do Stephen Hawking entrarão como prenúncio de um filme de apocalipse ou se serão as portas de entrada para o reino da ficção científica é difícil de saber. Mas a gente já pode cruzar os dedos desde já.

Metaforicamente, no meu caso.

Vanessa Raposo
  • Coordenadora de Tech & Games

Vanessa é carioca, mas aos 25 anos sente que o mundo é grande demais para se pertencer a só um lugar. Por isso, passa boa parte do tempo em paisagens imaginárias e planejando suas próximas viagens - que podem ou não acontecer (“As passagens pra Plutão ainda estão disponíveis, moço?”). Gosta de filmes da Disney e de musicais mais do que dizem ser aconselhável para sua idade. Quando não está pseudofilosofando sobre o papel dos videogames na cultura pop, pode ser encontrada debruçada sobre seu laptop, arrancando os cabelos por alguma história que cisma em não querer ser escrita. 

  • Fernando Cavallieri

    Adorei! Parabéns!

Sobre

A Capitolina é uma revista online independente para garotas adolescentes. Nossa intenção é representar todas as jovens, especialmente as que se sentem excluídas pelos moldes tradicionais da adolescência, mostrando que elas têm espaço para crescerem da forma que são.

Arquivos