Pular para o conteúdo principal

Nexus

Capa do livro Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial

Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial

Autor: Yuval Noah Harari
Data de publicação: 2024

Notas​

Um mapa 1:1 pode parecer a representação suprema da realidade, mas, significativamente, ele não é mais uma representação, de forma alguma; ele é a realidade. (p.37)

E de que forma a rede de computadores avaliaria o sofrimento causado por coisas menos tangíveis como a consciência da própria mortalidade? Se um mito religioso promete que jamais morreremos, Porque depois da morte nossa alma eterna irá para o ceu, isso nos torna devidamente felizes ou apenas iludidos? A morte é a causa profunda da nossa miséria, ou nossa miséria vem nossa da nossa tentativa de negar a morte? Se alguém perde sua crença religiosa e aceita a própria mortalidade, a rede de computadores deveria considerar isso perda liquida ou ganho liquido? (p. 288)

Democracias e das ditaduras a cooperarem na prevenção da guerra nuclear. O manifesto dizia: "Apelamos como seres humanos a seres humanos: lembrem sua humanidade e esqueçam o resto. Se assim o fizerem, estará aberto o caminho para um novo Paraíso; se não o fizerem, diante de você está o risco da morte universal". Isso também se aplica à IA. Seria uma tolice dos ditadores crer que a IA necessariamente inclinará a balança do poder em favor deles. Se não tiverem cuidado, a IA tomará o poder para si mesma.

Talvez, porém, tenhamos outras escolhas disponíveis. Não posso prever as decisões que as pessoas tomarão nos próximos anos, mas como historiador realmente acredito na possibilidade de mudança. Uma das principais lições da história é que muitas das coisas que consideramos naturais e eternas são, na verdade, de lavra humana e mutáveis. Mas aceitar que o conflito não é inevitável não deve nos tornar comodistas. Muito pelo contrário. Tal aceitação impõe uma pesada responsabilidade sobre todos nós: a de fazer boas escolhas. Isso implica que, se a civilização humana é consumida por conflitos, não podemos pôr a culpa em nenhuma lei da natureza ou em alguma tecnologia estranha. Implica também que, se nos esforçarmos, podemos criar um mundo melhor. Isso não é ingenuidade; é realismo. Tudo o que é velho hoje foi novo um dia. A única constante da história é a mudança. (p. 391)

Conceitos​

O que é Informação?​

Um grupo militar utilizava pombos correios para se comunicar com mensagens criptografadas, um dia um general do grupo inimigo capturou um pombo, ele não conseguiu entender o que estava escrito, mas o pombo era a informação, ele soube que existia um grupo de espionagem. Quando um pombo é só um pombo e quando um pombo é informação?

Burocracia​

A burocracia é uma forma de organização social que permite a coordenação de grandes grupos de pessoas. Ela é caracterizada por regras claras, hierarquia e procedimentos padronizados, o que facilita a tomada de decisões e a execução de tarefas complexas. A burocracia é essencial para o funcionamento eficiente de instituições governamentais, empresas e outras organizações. O nome vem do latim "buro", que significa mesa, e "cracia", que significa poder ou governo. A burocracia é muitas vezes associada a processos lentos e ineficientes, mas sua estrutura organizada é fundamental para garantir a estabilidade e a continuidade das operações em grandes organizações.

Autocorreção​

A autocorreção é um processo pelo qual sistemas ou indivíduos ajustam suas ações ou decisões com base em feedback ou erros anteriores. na ciência descobertas que mudam todo o entendimento de algo são celebradas, no DSM (Manual Diagnóstico e Estatístico de Transtornos Mentais), algo errado (como a homossexualidade ser considerada uma doença) é corrigido e o erro não é atribuído a psicólogos específicos e sim a vieses institucionais. (p. 129)

Realidades​

Existe a realidade objetiva, coisas que existem a gente tendo conhecimento deles ou não, um meteoro vindo em direção a terra existe mesmo que ninguém o tenha observado, e a realidade subjetiva, que é a percepção individual de cada pessoa sobre o mundo. Além disso, existe realidade intersubjetiva, que é a construção coletiva de significados e valores compartilhados por grupos sociais. Essas realidades interagem e influenciam umas às outras, moldando a compreensão humana do mundo. (p. 51)

  • Realidade objetiva: Pedras, árvores, planetas, etc. Coisas que existem independentemente da percepção humana.
  • Realidade subjetiva: Dor, Prazer, Amor, etc. Coisas que existem na mente de cada pessoa, como sentimentos e emoções.
  • Realidade intersubjetiva: Leis, Deuses, Nações, Empresas, etc. Coisas que existem porque as pessoas concordam que elas existem, como instituições sociais e culturais.

O Problema do Alinhamento​

O problema do alinhamento refere-se à dificuldade de garantir que os objetivos e comportamentos de sistemas complexos, como inteligência artificial, estejam alinhados com os valores e interesses humanos. À medida que esses sistemas se tornam mais autônomos e sofisticados, a tarefa de assegurar que suas ações estejam em harmonia com as intenções humanas se torna cada vez mais desafiadora. O problema do alinhamento é crucial para evitar consequências indesejadas e garantir que a tecnologia beneficie a sociedade como um todo. (p. 279)

Experimento Mental do Clipe de papel: O experimento mental do clipe de papel é uma reflexão sobre a natureza da inteligência artificial e sua capacidade de compreender e agir no mundo. Ele sugere que, se uma IA fosse projetada para maximizar a produção de clipes de papel, ela poderia desenvolver estratégias inesperadas e potencialmente perigosas para alcançar esse objetivo, como dominar a galaxia para explorar recursos naturais ou dominar a humanidade manipular seres humanos. Esse experimento destaca a importância de alinhar os objetivos das IAs com os valores humanos para evitar resultados indesejados. (p. 278)