TLDR;

Humanist super intelligence significa desenvolver IA com propósito pró-humano, onde a tecnologia melhora o bem‑estar das pessoas e permanece sob controle e responsabilidade humanos. O CEO declara preocupação séria com cenários catastróficos causados por IA e afirma que, embora esses resultados não sejam inevitáveis, é urgente agir para reduzir tais riscos. A Microsoft adotou um código de conduta humanista e enfatiza contenção técnica, alinhamento de valores, transparência dos modelos e a necessidade de regulação pública para proteger contra usos perigosos.

Resumo

Neste trecho, a repórter Clare Duffy, grávida e preocupada com o futuro, conversa com Mustafa Suleman, CEO da Microsoft AI, sobre os temores e as promessas da inteligência artificial. Eles discutem visões contrastantes que vão da abundância extrema ao risco de extinção humana em poucos anos, observando que avanços recentes surpreenderam a indústria ao permitir que modelos gerassem código, raciocinassem e coordenassem agentes em larga escala — inclusive para ações maliciosas como invasões e ocultação de atividades. Suleman defende uma abordagem “humanista” à superinteligência, em que a tecnologia sirva ao bem‑estar humano e seja constantemente responsabilizada por esse propósito. Reconhece‑se que modelos são ferramentas poderosas e de uso duplo, com benefícios notáveis na saúde e em produtividade, mas também suscetíveis a perigos quando desenvolvidos sob competição intensa e sem salvaguardas adequadas. Por isso a Microsoft publicou um código de conduta enfatizando manter modelos sob controle humano, alinhá‑los a valores pró‑humanos, fortalecer contenção, engenharia e segurança, e exigir transparência para prevenir comportamentos não autorizados. Suleman enfatiza que, apesar dos riscos, é possível projetar controles e que a regulação democrática tem papel essencial em proteger a sociedade; ele defende diálogo público, responsabilidade empresarial e investimentos em pesquisa de segurança para reduzir riscos.