Uma breve história do Futuro – Parte I

No meio do turbilhão de mudanças que só a inovação traz, às vezes é bom ter um tempo para parar e refletir: afinal, para onde o mundo está indo? Como será a sociedade do futuro? O que meus filhos e netos vão encontrar? As respostas variam de acordo com quem está falando. Por isso, fomos atrás da mesma pessoa que já respondeu essas mesmas perguntas para Bill Gates, Barack Obama, Mark Zuckerberg: o historiador e autor Yuval Noah Harari.

Se você não conhece ele de nome, talvez tenha visto algum dos seus livros por aí: “Sapiens: uma breve história da humanidade”; “Homo Deus: uma breve história do amanhã”. Neles, o historiador pinta um pouco da nossa realidade passada e o que ainda está por vir. Inteligência artificial tomando o mundo? Metade do mundo sem emprego – e uma economia sem propósito? As projeções de Harari são de arrepiar até mesmo os roteiristas mais criativos de Black Mirror. Mas, como o historiador mesmo fala: se a gente não encarar essas possibilidades, talvez a gente nunca consiga se preparar de verdade para o que vem por aí.

*Essa é a primeira parte de um Ghost Interview duplo com o historiador.

Yuval, você se debruçou bastante sobre o tema da Inteligência Artificial nos últimos anos. Talvez a primeira pergunta que a gente quer fazer seja um pouco fora da curva, mas, o que não é IA?

Há muita confusão sobre o que inteligência artificial significa ou não, especialmente em lugares como o Vale do Silício. Para mim, a maior confusão de todas é entre inteligência e consciência. Noventa e cinco por cento dos filmes de ficção científica são baseados no erro de que uma inteligência artificial será inevitavelmente uma consciência artificial. Eles presumem que os robôs terão emoções, sentirão coisas, que os humanos se apaixonarão por eles ou que desejarão nos destruir. Isso não é verdade.

Inteligência não é consciência. Inteligência é a capacidade de resolver problemas. A consciência é a capacidade de sentir coisas. Em humanos e outros animais, os dois realmente andam juntos. A maneira como os mamíferos resolvem problemas é sentindo as coisas. Nossas emoções e sensações são realmente uma parte integrante da maneira como resolvemos problemas em nossas vidas. No entanto, no caso dos computadores, não vemos os dois juntos.

Nas últimas décadas, houve um imenso desenvolvimento na inteligência computacional e exatamente zero desenvolvimento na consciência computacional. Não há absolutamente nenhuma razão para pensar que os computadores estão perto de desenvolver a consciência. Eles podem estar se movendo ao longo de uma trajetória muito diferente da evolução dos mamíferos. No caso dos mamíferos, a evolução os conduziu a uma inteligência maior por meio da consciência, mas, no caso dos computadores, eles podem estar progredindo ao longo de uma rota paralela e muito diferente para a inteligência que simplesmente não envolve a consciência.

Podemos nos encontrar em um mundo com superinteligência inconsciente. A grande questão não é: se os humanos se apaixonarão pelos robôs ou se os robôs tentarão matar os humanos. A grande questão é como se parece um mundo de superinteligência inconsciente? Porque não temos absolutamente nada na história que nos prepare para tal cenário.

(Entrevista ao Podcast The Ezra Klein Show, publicada em 27 de março de 2017)

Com consciência ou não, a IA pode acabar com os nossos trabalhos nos próximos anos?

A ascensão da inteligência artificial pode exacerbar este problema. Dentro de algumas décadas, a IA pode tornar a maioria dos seres humanos inúteis. Estamos agora a desenvolver software para computadores e IA que superam os seres humanos em cada vez mais tarefas, desde conduzir carros até diagnosticar doenças. Como resultado, os especialistas calculam que dentro de algumas décadas, não serão só os empregos de taxistas e médicos, mas cerca de 50% de todos os postos de trabalho nas economias avançadas serão ocupados por computadores.

Podem aparecer muitos novos tipos de empregos, mas isso não irá necessariamente resolver o problema. Os seres humanos têm basicamente apenas dois tipos de capacidades – físicas e cognitivas – e se os computadores nos superarem em ambas, eles podem superar-nos nos novos empregos tal como o fizeram nos antigos. Então, qual será a utilidade de seres humanos nesse mundo? O que faremos com milhares de milhões de seres humanos economicamente inúteis? Não sabemos. Não temos qualquer modelo econômico para tal situação. Esta pode ser a maior questão econômica e política do século XXI.

(Entrevista ao português Jornal de Notícias publicada em 27 de maio de 2017)

Ok, isso é um pouco assustador…

Ninguém sabe realmente como será o mundo dentro de 30 ou 60 anos. Na verdade, acho que a nossa capacidade de entender o mundo é hoje menor do que nunca. No passado, o conhecimento humano aumentava lentamente e a tecnologia demorava tempo a ser desenvolvida, de modo que a política e a economia também mudavam a um ritmo lento. Hoje, o nosso conhecimento aumenta em uma velocidade vertiginosa e, teoricamente, deveríamos entender o mundo cada vez melhor. Mas o que acontece é exatamente o contrário. Os nossos conhecimentos recém-adquiridos levam a mudanças econômicas, sociais e políticas mais rápidas. Na tentativa de entender o que está acontecendo, aceleramos a acumulação de conhecimento, o que leva apenas a movimentações mais rápidas e maiores. Consequentemente, estamos cada vez menos aptos a dar sentido ao presente ou a prever o futuro. Ninguém sabe realmente o que está acontecendo hoje no mundo, ou onde estaremos no futuro.

Não fazemos ideia de como a Europa ou o resto do mundo vai ser em 2050. Não sabemos o que as pessoas farão como trabalho, não sabemos como serão as relações de gênero, as pessoas poderão viver muito mais do que hoje e o próprio corpo humano pode sofrer uma revolução sem precedentes graças à bioengenharia e a interfaces diretas entre cérebro e computador.

Consequentemente, pela primeira vez na história, não fazemos ideia do que ensinar às crianças na escola ou aos estudantes na faculdade. A maior parte do que as crianças aprendem hoje na escola será irrelevante em 2050.

(Entrevista ao português Jornal de Notícias publicada em 27 de maio de 2017)

Alguns especialistas acreditam que a IA não chegou para substituir o trabalho humano, mas para fazer atividades complementares que irão edificar as profissões atuais. O que você acredita que opõe essa versão?

Não temos nenhuma garantia de que os trabalhos que vão surgir serão suficientes para compensar os que vão desaparecer. Também não está claro se os humanos serão capazes de realizar esses novos trabalhos melhor que a inteligência artificial. E, ainda, um terceiro problema é quantas pessoas terão a habilidade necessária para se reciclar. (Entrevista ao El País em 3 de novembro de 2016)

E ainda tem a questão de que a IA está se tornando cada vez mais uma rede de algoritmos e dados, qual o impacto disso no mercado de trabalho?

Mas o fato é que a IA será muito mais cooperativa, pelo menos potencialmente, do que os humanos. Para dar um exemplo famoso, agora todo mundo está falando sobre carros autônomos. A grande vantagem de um carro que dirige sozinho em relação a um motorista humano não é apenas que, como um veículo individual, o carro que dirige sozinho provavelmente é mais seguro, mais barato e mais eficiente do que um carro movido por humanos. A vantagem realmente grande é que os carros autônomos podem ser conectados uns aos outros para formar uma única rede de uma maneira que você não pode fazer com motoristas humanos.

É o mesmo com muitos outros campos. Se você pensar em medicina, hoje você tem milhões de médicos humanos e muitas vezes você tem problemas de comunicação entre médicos diferentes, mas se você mudar para médicos de IA, você realmente não terá milhões de médicos diferentes. Você tem uma única rede médica que monitora a saúde de todas as pessoas no mundo.

Se agora mesmo, enquanto falamos, um médico de IA em Timbuktu descobrir uma nova doença ou um novo tratamento, essas informações estarão imediatamente disponíveis para meu médico de IA pessoal em seu smartphone. Algumas das maiores vantagens da IA estão no campo da cooperação, não na inteligência. (Entrevista ao Podcast The Ezra Klein Show, publicada em 27 de março de 2017)

Mas por que as pessoas acreditam que a IA vai ficar apenas em uma funcionalidade?

Não é porque eu superestimei a IA. É porque a maioria das pessoas tende a superestimar os seres humanos. Para substituir a maioria dos humanos, a IA não terá que fazer coisas muito espetaculares. A maioria das coisas que o sistema político e econômico precisa dos seres humanos é, na verdade, muito simples.

Anteriormente, conversamos sobre como dirigir um táxi ou diagnosticar uma doença. Isso é algo que a IA em breve será capaz de fazer melhor do que os humanos, mesmo sem consciência, mesmo sem ter emoções ou sentimentos ou superinteligência. A maioria dos humanos hoje faz coisas muito específicas que uma IA em breve será capaz de fazer melhor do que nós.

Se você voltar no tempo, para os dias de caçadores-coletores, a história é diferente. Seria extremamente difícil construir um robô caçador-coletor que pudesse competir com um ser humano. Mas criar um carro autônomo que seja melhor do que um motorista de táxi humano? Isso é fácil. Para criar um médico de IA que diagnostique o câncer melhor do que um médico humano? Isso é fácil.

O que estamos falando no século 21 é a possibilidade de que a maioria dos humanos perderá seu valor econômico e político. Eles se tornarão uma espécie de classe massiva e inútil – inútil não do ponto de vista de sua mãe ou de seus filhos, inútil do ponto de vista do sistema econômico, militar e político. Quando isso acontece, o sistema também perde o incentivo para investir em seres humanos.

(Entrevista ao Podcast The Ezra Klein Show, publicada em 27 de março de 2017)

E o que aconteceria com essa parcela da sociedade ociosa?

O problema crucial não é criar novos empregos. O problema crucial é a criação de novos empregos que os humanos executem melhor do que os algoritmos. Consequentemente, em 2050, uma nova classe de pessoas pode surgir – a classe inútil. Pessoas que não estão apenas desempregadas, mas também são impossíveis de empregar.

A mesma tecnologia que torna os humanos inúteis também pode tornar viável alimentar e sustentar as massas desempregadas por meio de algum esquema de renda básica universal. O verdadeiro problema será então manter as massas ocupadas e contentes. As pessoas devem se envolver em atividades com propósito, ou enlouquecem. Então, o que a classe inutilizada fará o dia todo?

Em qualquer caso, o fim do trabalho não significará necessariamente o fim do significado, porque o significado é gerado mais pela imaginação do que pelo trabalho. O trabalho é essencial para o significado apenas de acordo com algumas ideologias e estilos de vida. Escudeiros ingleses do século XVIII, judeus ultraortodoxos de hoje e crianças em todas as culturas e épocas encontraram muito interesse e significado na vida, mesmo sem trabalhar. As pessoas em 2050 provavelmente serão capazes de jogar jogos mais profundos e construir mundos virtuais mais complexos do que em qualquer época anterior da história.

(…) Mas e a verdade? E a realidade? Queremos realmente viver em um mundo no qual bilhões de pessoas estão imersas em fantasias, perseguindo objetivos fictícios e obedecendo a leis imaginárias? Bem, goste ou não, esse é o mundo em que vivemos há milhares de anos.

(Artigo publicado no The Guardian em 8 de maio de 2017)

De maneira individual, uma forma de lutar contra participar dessa “classe economicamente inutilizada” é se reinventar, mas qual o limite disso?

A menos que você tenha 80 anos ou algo assim, terá que se reinventar repetidamente nas próximas décadas – você provavelmente mudará de emprego várias vezes. Algumas pessoas imaginavam que seria assim, uma grande revolução, que – não sei – em 2025, 60% dos empregos serão assumidos. E então temos alguns anos difíceis em que as pessoas têm que se reciclar, e novos empregos aparecem, e algumas pessoas não encontram novos empregos e você tem um grande problema de desemprego. Mas então, eventualmente, as coisas se acomodam em um novo equilíbrio e entramos em um novo tipo de economia.

O problema com este cenário é que ele assume que a IA atingirá sua capacidade máxima em 2025, o que está extremamente longe da verdade. Não estamos nem nos aproximando da capacidade total da IA. Vai apenas acelerar. Então, sim, teremos essas mudanças enormes em 2025 – mas teremos mudanças ainda maiores em 2035, e mudanças ainda maiores em 2045, e pessoas que terão que se reajustar repetidamente a essas coisas.

Como indivíduos, o que podemos fazer é bastante limitado. Se você for muito rico e bem-sucedido, é claro que terá todos os recursos do mundo para se proteger contra esse tipo de convulsão. Mas se você for uma pessoa comum, precisará de muita ajuda. Acho que o mais importante é investir na inteligência emocional e no equilíbrio mental, porque os desafios mais difíceis serão psicológicos. Mesmo que haja um novo emprego, e mesmo que você obtenha apoio do governo para se “encaixar”, você precisa de muita flexibilidade mental para gerenciar essas transições. Adolescentes ou jovens de 20 e poucos anos, eles são muito bons com mudanças. Mas depois de certa idade – quando você chega aos 40, 50 – a mudança é estressante. E uma arma que você terá [é] a flexibilidade psicológica para passar por essa transição aos 30, 40, 50 e 60 anos de idade. O investimento mais importante que as pessoas podem fazer não é aprender uma habilidade específica— ”Vou aprender a programar” ou“ Vou aprender chinês” ou algo parecido. Não, o investimento mais importante é realmente construir essa mentalidade ou personalidade mais flexível.

(Entrevista à GQ publicada em 30 de setembro de 2018)

E de maneira coletiva, o que precisa ser feito para evitar um cenário muito ruim com a IA?

Precisamos encontrar um mecanismo para cooperação global em torno de questões do tipo como evitar uma corrida armamentista de IA, como evitar que diferentes países corram para construir sistemas de armas autônomos e robôs assassinos como arma. A menos que tenhamos cooperação, não podemos impedir isso, porque todos os países dirão: “Bem, não queremos produzir robôs assassinos – é uma má ideia – mas não podemos permitir que nossos rivais façam isso antes de nós, então devemos fazer isso primeiro, “e então você tem uma corrida para o fundo.

Da mesma forma, se você pensar sobre as possíveis interrupções no mercado de trabalho e na economia causada por IA e automação. Portanto, é bastante óbvio que haverá empregos no futuro, mas eles estarão uniformemente distribuídos entre as diferentes partes do mundo? Um dos resultados potenciais da revolução da IA poderia ser a concentração de imensa riqueza em alguma parte do mundo e a completa falência de outras partes. Haverá muitos novos empregos para engenheiros de software na Califórnia, mas talvez não haja empregos para trabalhadores têxteis e motoristas de caminhão em Honduras e no México.

Então, o que eles farão? Se não encontrarmos uma solução em nível global, como criar uma rede de segurança global para proteger os humanos contra os choques de IA, e permitindo-lhes usar as oportunidades da IA, então criaremos a mais desigual situação econômica que já existiu. Vai ser muito pior ainda do que aconteceu na Revolução Industrial quando alguns países se industrializaram – a maioria dos países não – e as poucas potências industriais passaram a conquistar, dominar e explorar todos os outros. Então, como criamos cooperação o suficiente para que os enormes benefícios da IA ​​e da automação não cheguem apenas, digamos, à Califórnia e ao leste da China, enquanto o resto do mundo está sendo deixado para trás.

(Live com Mark Zuckerberg publicada no Facebook em 26 de abril de 2019)

Você acha que as pessoas entendem as implicações das revoluções bio e infotech que estão em andamento?

Cinco anos atrás, a inteligência artificial parecia ficção científica. Ainda que no mundo acadêmico e nos negócios privados se conhecessem as potencialidades, pelo menos, no campo político e no discurso público quase não se ouvia falar disso. Então, alguns governos perceberam o que está acontecendo. Minha impressão é que os chineses perceberam primeiro o que estava acontecendo. Acho que isso se origina do trauma nacional da revolução industrial, quando eles perderam o trem e foram deixados para trás e sofreram terrivelmente. Eles farão de tudo para estar na frente da revolução da IA. Desde 2017, os europeus e americanos também perceberam. E agora estamos caminhando para uma corrida armamentista em grande escala da inteligência artificial, o que é uma notícia muito, muito ruim.

(Entrevista ao The Guardian publicada em 5 de agosto de 2018)

Ok, agora passando para o lado dos softwares que comandam essas inteligências artificiais, como os algoritmos afetam a nossa sociedade?!

Isso vou responder semana que vem…

To be continued…

—

Está perdido?

A Ghost Interview é um formato de storytelling criado pelo MORSE, aqui reunimos as principais entrevistas, vídeos e conteúdos de ícones que com certeza você gostaria de convidar para um jantar! Tentamos ao máximo manter as palavras e o contexto das entrevistas, mas as traduções ou mesmo adaptações podem gerar interpretações diversas. Por esse motivo compartilhamos sempre o link da íntegra das entrevistas e textos de onde extraímos os conteúdos. Dúvidas ou sugestões, portas sempre abertas 🙂