TLDR;

Bostrom prevê um "mundo resolvido" em que IAs superinteligentes solucionam os problemas práticos e eliminam a necessidade do trabalho humano, forçando a humanidade a reinventar sentido, propósito e formas de governança. Ele acredita que, atualmente, estamos em algum lugar no meio do espectro entre uma utopia profunda e um risco existencial, com pesquisas de alinhamento e controle em andamento nos principais laboratórios. Mesmo que IAs resolvam problemas matemáticos e tornem muitas atividades instrumentais desnecessárias, Bostrom sugere que essas práticas podem persistir como hobbies ou fontes de prazer, como aconteceu com o xadrez.

Resumo

No episódio do podcast Odd Lots, Nick Bostrom reflete sobre a evolução do seu pensamento entre Superintelligence (2014) — um livro mais sombrio, focado nos riscos existenciais e no problema de alinhamento de inteligências artificiais superinteligentes — e seu trabalho mais recente, Deep Utopias, que explora a face positiva desse mesmo processo tecnológico. Bostrom explica que na década passada foi importante chamar atenção para os perigos negligenciados; hoje há mais consciência e pesquisa sobre controle e governança, então vale também imaginar cenários em que a IA dá certo. Os apresentadores discutem extremos possíveis — da destruição humana ao “fim dos problemas” resolvidos por AGI — mencionando notícias recentes sobre fugas de modelos e a crise existencial de matemáticos diante de máquinas que poderiam resolver todos os enigmas. Bostrom compara com o xadrez: mesmo quando computadores superam humanos, a atividade pode permanecer prazerosa como hobby. Ele defende que, se conseguirmos alinhar e governar bem essas tecnologias, poderemos alcançar um “mundo resolvido” em que não há necessidade de trabalho econômico humano e muitos esforços instrumentais perdem sentido, abrindo espaço para uma abordagem de generosidade lúdica sobre como aproveitar as oportunidades dessa transição.