Será o começo de nosso fim???

 O domínio da inteligência artificial sobre a linguagem é uma ameaça à civilização

 Yuval Harari, Tristan Harris e Aza Raskin* 

Da esquerda para a direita, temos: Yuval Noah Harari, Tristan Harris e Aza Raskin

Ela poderia ajudar a derrotar o câncer, mas também devorar toda a cultura humana

Imagine que você está embarcando em um avião e metade dos engenheiros que o construíram lhe diz que há 10% de chance de a aeronave cair, matando você e todos os demais a bordo. Você embarcaria mesmo assim?

Em 2022, mais de 700 dos principais acadêmicos e pesquisadores por trás das maiores empresas de inteligência artificial foram questionados em uma sondagem a respeito do risco futuro da inteligência artificial (IA). 

Metade dos entrevistados declarou que existe uma chance de 10% ou maior de extinção da humanidade (ou alguma insegurança similarmente permanente e grave) provocada por sistemas de IA. As empresas de tecnologia que constroem os maiores modelos de linguagem de hoje estão tomadas por uma corrida para colocar toda a humanidade nesse avião. 

A TORRE DE BABEL - provável pintura de Hendrick van Cleve (1525-1595), flamengo, encontra-se no Rijksmuseum Twenthe em Enschede, na Holanda. A narrativa da Torre de Babel nos recorda o quanto a linguagem é fundamental para toda a vida humana!

Necessidade de regulação 

Empresas farmacêuticas não podem vender novos medicamentos para as pessoas sem antes submeter seus produtos a rigorosos testes de segurança. Laboratórios de biotecnologia não podem lançar novos vírus à esfera pública para impressionar acionistas com sua feitiçaria. Igualmente, sistemas de inteligência artificial com o poder do GPT-4 e além não deveriam ser emaranhados às vidas de bilhões de pessoas a um ritmo mais veloz do que as culturas sejam capazes de absorvê-los com segurança.

A corrida pelo domínio do mercado não deveria determinar a velocidade do acionamento da tecnologia mais consequencial da humanidade.

Nós devemos nos mover a qualquer velocidade que nos possibilite fazer isso direito. 

O espectro da inteligência artificial assombra a humanidade desde meados do século 20, mas até recentemente não passava de um projeto distante, algo que pertencia mais à ficção científica do que ao debate científico e político sério. É difícil para as nossas mentes humanas captar e compreender as novas capacidades do GPT-4 e outras ferramentas similares, e é ainda mais difícil dar conta da velocidade exponencial na qual essas ferramentas estão desenvolvendo capacidades mais avançadas e poderosas. Mas a maioria das capacidades principais se resume a uma coisa: manipular e gerar linguagem, seja com palavras, sons ou imagens. 

No princípio era o verbo. A linguagem é o sistema operacional da cultura humana. Da linguagem emergem o mito e o direito, os deuses e o dinheiro, a arte e a ciência, as amizades, as nações e os códigos computacionais. O novo domínio da linguagem por parte da inteligência artificial significa que ela é capaz agora de invadir e manipular o sistema operacional da civilização. Ao ganhar domínio da linguagem, a IA está se apoderando da chave-mestra da civilização, de cofres de bancos a santos sepulcros. 

A inteligência artificial trabalhará, especialmente, com a linguagem e comunicação humanas, pois elas são a base de toda a nossa civilização

Controle sobre a linguagem 

O que significaria para os humanos viver em um mundo no qual uma grande porcentagem das narrativas, melodias, imagens, leis, políticas e ferramentas é moldada por inteligência não humana, que sabe como explorar com eficiência sobre-humana fraquezas, vieses e vícios da mente humana — ao mesmo tempo que sabe formar relações íntimas com os seres humanos?

Em jogos como xadrez, nenhum humano chega perto de superar um computador. O que acontece quando o mesmo suceder na arte, na política ou na religião?

A inteligência artificial poderia devorar rapidamente toda a cultura humana, tudo o que produzimos ao longo de milhares de anos, digerir e começar a jorrar uma torrente de novos artefatos culturais. Não apenas trabalhos escolares, mas também discursos políticos, manifestos ideológicos e livros sagrados para novos cultos. Até 2028, a corrida presidencial dos Estados Unidos poderia não ser mais protagonizada por humanos. 

Os humanos com frequência não possuem acesso direto à realidade. Nós somos encapsulados pela cultura, experimentando a realidade através de um prisma cultural. Nossas visões políticas são forjadas por reportagens de jornalistas e anedotas de amigos. Nossas preferências sexuais são ajustadas em função de arte e religião. Essa cápsula cultural tem sido, até aqui, tecida por outros humanos. Como será experimentar a realidade através de um prisma produzido por inteligência não humana? 

Por milhares de anos, nós, humanos, vivemos dentro de sonhos de outros humanos. Nós adoramos deuses, perseguimos ideais de beleza e dedicamos as nossas vidas a causas que se originaram na imaginação de algum profeta, poeta ou político. Logo nós também viveremos dentro de alucinações de inteligência não humana. 

Cartaz de um dos filmes da série MATRIX, nos quais a realidade dos seres humanos é totalmente inventada pela inteligência artificial, desaparecendo o autocontrole da vida!

Ilusões controladas por máquinas 

A franquia “O exterminador do futuro” retratou robôs correndo nas ruas e atirando em pessoas. “Matrix” assumiu que, para impor controle total sobre a sociedade humana, a inteligência artificial teria primeiro que controlar fisicamente nossos cérebros e conectá-los a uma rede computacional. Mas simplesmente obtendo domínio da linguagem a IA teria tudo o que precisa para nos envolver em um mundo de ilusões à la Matrix, sem atirar em ninguém nem implantar nenhum chip em nossos cérebros. Se tiros forem necessários, a IA fará humanos puxarem o gatilho simplesmente contando-nos a história certa. 

O espectro de ficar preso em um mundo de ilusões assombra a humanidade há muito mais tempo do que o espectro da inteligência artificial. Nós logo estaremos finalmente diante do gênio maligno de Descartes, da caverna de Platão e da maya budista. Uma cortina de ilusões poderia desprender-se sobre toda a humanidade, e nós poderemos jamais ser capazes de rasgá-la — ou até mesmo perceber sua presença. 

As redes sociais, através dos algoritmos incentivam as pessoas a se unirem, conversarem, se relacionarem mais com quem se parece com elas no pensar, agir e desejar! Com isso, a polarização ideológica aumenta e o distanciamento e incompreensão entre as pessoas também!

O alerta das redes sociais 

As redes sociais foram o primeiro contato entre a inteligência artificial e a humanidade, e a humanidade perdeu. O primeiro contato nos deixa um sabor amargo do que está por vir. Nas redes sociais, IA primitiva foi usada não para criar conteúdo, mas para curar conteúdo gerado pelos usuários. A IA por trás dos nossos feeds de notícias ainda está escolhendo quais palavras, sons e imagens chegam às nossas retinas e tímpanos com base na seleção das postagens que obtêm mais viralidade, mais reações e mais engajamento.

Ainda que muito primitiva, a inteligência artificial por trás das redes sociais foi suficiente para criar uma cortina de ilusões que elevou a polarização social, minou nossa saúde mental e desgastou a democracia.

Milhões de pessoas confundiram essas ilusões com a realidade. Os Estados Unidos têm a melhor tecnologia da informação na história, mas os cidadãos americanos não conseguem mais concordar sobre quem venceu as eleições. Apesar de todos estarem agora cientes dos problemas das redes sociais, eles ainda não foram solucionados porque tantas de nossas instituições sociais, econômicas e políticas estão emaranhadas. 

Os grandes modelos de linguagem são nosso segundo contato com a inteligência artificial. Nós não podemos nos dar ao luxo de perder novamente. Mas sobre quais bases nós deveríamos acreditar que a humanidade é capaz de alinhar essas novas formas de IA para nosso benefício? Se nós continuarmos a fazer as coisas como sempre, as novas capacidades de IA serão usadas novamente para obtenção de lucro e poder, mesmo isso que destrua inadvertidamente as fundações da nossa sociedade. 

Importantíssimos e inimagináveis avanços a Medicina poderá obter com o auxílio da inteligência artificial, porém, há imensos riscos também!

Benefícios x Riscos 

A inteligência artificial tem potencial para nos ajudar a derrotar o câncer, descobrir drogas que salvam vidas e inventar soluções para nossas crises climáticas e energéticas. Há inumeráveis outros benefícios que nem conseguimos imaginar. Mas o tamanho do monte de benefícios da IA não importa se sua base ruir.

A hora do acerto de contas com a inteligência artificial é antes da nossa política, nossa economia e nossa vida cotidiana se tornarem dependentes dela.

Democracia é diálogo, diálogos têm base em linguagem, e quando a própria linguagem é hackeada, o diálogo acaba, e a democracia fica insustentável. Se esperarmos o caos se abater, será tarde demais para remediá-lo. 

Mas uma dúvida pode persistir em nossas mentes: se nós não nos movimentarmos o mais rápido possível o Ocidente não arrisca perder para a China? Não. O acionamento e envolvimento descontrolado de inteligência artificial na sociedade, desprendendo poderes divinos desvencilhados de responsabilidade, poderia ser a razão da derrota do Ocidente para a China. 

Que futuro queremos? 

Nós ainda podemos escolher qual futuro queremos com a inteligência artificial. Quando os poderes divinos vierem acompanhados de responsabilidades e controles proporcionais nós poderemos concretizar os benefícios prometidos pela IA. 

Nós invocamos uma inteligência alienígena. Nós não sabemos muita coisa sobre ela, a não ser que é extremamente poderosa e nos oferece presentes deslumbrantes, mas também poderia invadir as fundações da nossa sociedade. Nós conclamamos os líderes a responder a este momento à altura do desafio que ele apresenta. A primeira coisa é ganhar tempo para modernizar nossas instituições do século 19 para um mundo com inteligência artificial — e aprender a dominá-la antes que ela nos domine. 

Traduzido do inglês por Guilherme Russo. 

* Yuval Noah Harari é historiador; autor de “Sapiens”, “Homo Deus” e “Implacáveis”; e um dos fundadores da empresa de impacto social Sapienship. Tristan Harris e Aza Raskin são fundadores do Centro para Tecnologia Humana e apresentam o podcast “Your Undivided Attention”. 

Fonte: O Estado de S. Paulo – Caderno 2: Cultura & Comportamento – Quarta-feira, 29 de março de 2023 – Págs. C6 – C7 – Internet: clique aqui (Acesso em: 31/03/2023). 

Será que é hora de pausar a inteligência artificial? 

Pedro Doria

Jornalista – Colunista do Estadão 

Talvez seja preciso dar uma pausa e pensar em quais são as regras que queremos adotar

Nas duas últimas semanas, dois manifestos distintos foram publicados cobrando limites para a inteligência artificial (IA). O primeiro, assinado pelo historiador israelense Yuval Noah Harari e os ativistas digitais Tristan Harris e Aza Raskin. O segundo por tecnólogos como Elon Musk e o co-fundador da Apple, Steve Wozniak. Há algo quase extraordinário quando intelectuais e pessoas dedicadas ao avanço tecnológico pedem uma moratória. Cobram que o mundo pare e pense. 

A história do avanço da humanidade é uma de constante busca pelo novo, pela criação do que antes parecia impossível. Toda filosofia que sustenta nossas democracias modernas é voltada para que o conhecimento possa avançar com liberdade. Aqueles que passamos a considerar nossos direitos mais sagrados são, todos, voltados à procura de criar algo original. São as liberdades de expressão e pensamento, de que podemos nos reunir com quem quisermos mesmo que em espaço público. É por isso que tem de surpreender quando tecnólogos e pensadores liberais pedem uma pausa no avanço. 

Mas Harari e Harris têm razão num ponto fundamental. A primeira geração de IA, embutida em nossas redes, criou um ambiente gerador de conflitos políticos. O contato em massa com esta tecnologia cindiu em dois o processo eleitoral, ao tornar o debate de ideias inviável. 

Várias consequências nos esperam com o avanço e introdução, sempre maiores, da inteligência artificial no processo produtivo e organizativo das empresas. Estamos nos preparando para isso? Claro que não!!!

A IA que apenas começa a se popularizar, que gera conteúdo, é a de terceira geração. E como ela tende a melhorar, vai avançar em sua capacidade de criação. O que eles pedem, portanto, é simples:

... será que não é hora de dar uma pausa e pensar em quais são as regras que desejamos adotar?

Ainda assim, o pedido de socorro de quem está acompanhando esta revolução de perto não é trivial. Estados Unidos e China estão engatados numa nova Guerra Fria. E a principal luta é por domínio tecnológico justamente em IA. 

Como, nessas circunstâncias, o governo americano poderia pedir às empresas do país que parem de criar novos produtos? A China faria o mesmo? Se ambos se comprometessem a fazê-lo, como um pode ter certeza de que o outro está mesmo fazendo? 

É inútil cobrar que o Congresso Nacional, aqui no Brasil, se debruce a sério sobre o problema. O jogo, em Brasília, é outro – o das chantagens de Arthur Lira. No Executivo seria possível? Talvez. Mas a disputa ideológica lá ainda não deixou o século 20. 

O Brasil não vai assumir as rédeas de seu futuro neste processo, seguirá a reboque do que os outros decidirem. 

Fonte: O Estado de S. Paulo – Colunista – Sexta-feira, 31 de março de 2023 – 05h00 (Horário de Brasília – DF) – Internet: clique aqui (Acesso em: 31/03/2023).