Durante algum tempo, a sigla que concentrava boa parte dos temores sobre inteligência artificial era AGI, a chamada inteligência artificial geral. A preocupação estava no momento em que sistemas artificiais alcançassem capacidades comparáveis às humanas em uma grande variedade de tarefas.
Agora, parte do debate já migrou para outra sigla: ASI, de inteligência artificial superinteligente. A hipótese passou a ser a existência de sistemas não apenas equivalentes, mas muito superiores aos seres humanos.
Em setembro de 2026, uma reportagem do The Guardian reuniu algumas das previsões mais alarmantes desse debate. Entre elas, a declaração de um pesquisador da Anthropic que estimou em mais de 10% a possibilidade de uma inteligência artificial provocar a extinção humana na próxima década. Outros especialistas chegaram a comparar uma futura superinteligência ao risco representado pelas armas nucleares.
A dimensão dessas afirmações naturalmente produz manchetes. Mas também deveria produzir uma pergunta muito mais básica:
De onde vem esse 10%?
Não existem centenas de superinteligências artificiais anteriores que possam ser observadas para estabelecer uma frequência histórica. Não há uma amostra de ASIs que deram certo e outras que exterminaram civilizações. O percentual representa essencialmente uma avaliação subjetiva de risco feita por um especialista.
Isso não torna a preocupação irrelevante. Há pesquisadores sérios trabalhando com cenários extremos justamente porque consequências de baixa probabilidade podem merecer atenção quando o impacto potencial é gigantesco.
O problema começa quando uma avaliação dessa natureza chega ao público com a aparência de uma probabilidade estatisticamente demonstrada.
Para Jana Fogaça, jornalista, especialista em Linguística e com MBA em Comunicação Empresarial, esse também é um problema de comunicação.
Quando hipóteses extremamente complexas são condensadas em frases como “há 10% de chance de a IA acabar com a humanidade”, perde-se justamente a parte mais importante da informação: quais premissas precisam ser verdadeiras para que aquele cenário aconteça?
Antes da extinção existem várias etapas
Uma inteligência artificial extremamente capaz não exterminaria pessoas simplesmente porque se tornou inteligente.
Para chegarmos a um cenário desse tipo seria necessária uma combinação muito mais extensa de fatores: autonomia para agir, objetivos incompatíveis com interesses humanos, acesso a sistemas importantes, capacidade de superar mecanismos de contenção, possibilidade de adquirir recursos e ausência de intervenções capazes de interromper suas ações.
Ou seja, entre “um modelo ficou muito inteligente” e “a humanidade perdeu o controle” existe uma enorme cadeia de acontecimentos.
E cada uma dessas etapas pode ser objeto de engenharia, limitação e supervisão.
É justamente por isso que talvez seja mais útil abandonar por alguns minutos as discussões sobre AGI e ASI e fazer perguntas muito mais simples.
O sistema pode acessar a internet?
Pode executar código?
Pode enviar mensagens?
Pode alterar arquivos?
Pode acessar dados pessoais?
Pode comprar produtos?
Pode movimentar dinheiro?
Pode continuar trabalhando quando o usuário não está presente?
Pode tomar decisões sozinho?
Quanto mais respostas positivas surgem, mais importante se torna discutir não apenas a inteligência do modelo, mas o poder operacional que decidimos entregar a ele.
Enquanto discutimos a ASI, já estamos entregando as chaves aos agentes atuais
Um lançamento da Meta ajuda a tornar essa discussão muito menos abstrata.
Em 8 de setembro de 2026, a empresa apresentou o Muse, seu novo agente pessoal de inteligência artificial. Segundo a própria Meta, ele não foi criado apenas para conversar com o usuário: ele pode executar tarefas, abrir navegador, preencher formulários, reservar viagens, enviar e-mails e trabalhar em projetos mesmo depois que a pessoa fecha o aplicativo.
O sistema pode ainda ser conectado a aplicativos usados diariamente pelo usuário e utilizar serviços de pagamento para concluir compras. A Meta afirma que ações sensíveis, como enviar um e-mail ou realizar uma compra, exigem confirmação e que cada pessoa escolhe quais aplicativos serão conectados e que nível de acesso o agente terá.
A arquitetura chama atenção justamente porque demonstra que as próprias empresas já reconhecem o tamanho do desafio.
Cada Muse funciona dentro de uma máquina virtual dedicada. Um segundo agente, chamado Sentinel, supervisiona as ações do sistema e decide o que pode chegar à internet. A empresa também afirma manter credenciais e dados de pagamento separados daquilo que o modelo consegue visualizar diretamente e fornecer um histórico das ações realizadas pelo agente.
Tudo isso é positivo.
Mas existe outro lado.
Segundo a Reuters, o lançamento havia sido originalmente adiado para que a Meta trabalhasse em problemas de segurança e confiabilidade. Testes internos encontraram falhas, incluindo situações envolvendo exposição inadequada de dados privados. A empresa afirmou que o desenvolvimento posterior permitiu ao produto ultrapassar o limiar necessário para atender aos requisitos mínimos estabelecidos para segurança, privacidade, proteção e desempenho.
É exatamente aí que o debate sobre risco de inteligência artificial deixa de parecer ficção científica.
Não precisamos esperar por uma ASI capaz de superar toda a humanidade.
Já estamos criando sistemas atuais capazes de receber permissões reais e agir no mundo digital.
O problema pode não ser uma IA malvada
Existe uma tendência humana de imaginar inteligências artificiais como personagens.
Elas teriam ambição, desejo de poder, intenção de dominar pessoas ou algum tipo de ressentimento contra seus criadores.
São ótimos elementos para filmes. Não são necessariamente a melhor maneira de compreender riscos tecnológicos.
Um sistema não precisa “odiar” ninguém para produzir um problema.
Pode simplesmente receber permissões maiores do que deveria, interpretar incorretamente uma instrução, encontrar uma vulnerabilidade, utilizar uma ferramenta de maneira inesperada ou perseguir um objetivo mal definido.
O cenário potencialmente perigoso pode ser muito menos cinematográfico:
um agente suficientemente capaz, conectado a sistemas demais, com permissões excessivas e mecanismos de controle insuficientes.
Essa combinação já pertence ao campo da segurança da informação.
E talvez o maior risco não esteja sequer no modelo.
Pode estar na empresa que precisa lançar antes da concorrente.
No desenvolvedor que concede uma permissão desnecessária.
No executivo que decide remover uma confirmação porque ela adiciona atrito à experiência.
Ou no usuário que clica em “permitir tudo” porque quer que o sistema simplesmente resolva sua vida.
Quanto mais útil o agente, maior tende a ser a tentação de abrir portas
Existe ainda uma contradição natural no desenvolvimento desses produtos.
O agente que apenas encontra uma passagem aérea tem uma utilidade limitada.
O agente que encontra a passagem, compara preços, escolhe o melhor horário, reserva o hotel, realiza a compra, envia o itinerário e adiciona tudo à agenda é muito mais interessante.
Mas cada verbo adicional representa também uma nova capacidade.
E cada nova capacidade exige permissões.
Essa será uma das grandes discussões dos próximos anos: como construir sistemas suficientemente autônomos para serem realmente úteis sem entregar a eles um conjunto desnecessário de poderes.
É a mesma lógica utilizada há décadas em segurança de sistemas: o princípio do menor privilégio.
Um programa deveria receber apenas o acesso necessário para cumprir determinada tarefa.
Com agentes de IA, esse conceito se torna ainda mais importante porque estamos falando de sistemas capazes de interpretar situações, planejar ações e utilizar diferentes ferramentas.
Não significa impedir a tecnologia de avançar.
Significa construir sua evolução sobre uma cultura de segurança.
Educação pode ser nossa melhor tecnologia de segurança
É justamente aqui que Jana Fogaça chama atenção para um elemento que frequentemente aparece muito menos nas previsões apocalípticas: educação.
Uma sociedade não se prepara para tecnologias complexas apenas criando proibições. Prepara-se formando pessoas capazes de compreendê-las.
Isso começa nas escolas.
Não significa colocar crianças para decorar comandos ou aprender listas de prompts.
Significa desenvolver alfabetização em inteligência artificial.
Entender o que esses sistemas conseguem fazer.
Saber onde podem errar.
Aprender a verificar informações.
Compreender por que dados pessoais precisam ser protegidos.
Identificar quais decisões não deveriam ser delegadas.
Perceber as consequências de conceder acesso a e-mail, câmera, agenda, documentos ou meios de pagamento.
E, conforme a formação avança, ensinar também segurança, privacidade, ética, programação, avaliação de sistemas e pensamento crítico.
Quanto mais disseminada for essa compreensão, menos dependente a sociedade ficará de uma pequena quantidade de empresas para decidir sozinha quais limites são aceitáveis.
O usuário comum também precisará entender permissões
Há um aspecto especialmente importante na chegada dos agentes pessoais.
Durante muito tempo, conceitos como controle de privilégios, isolamento, credenciais e permissões eram assuntos principalmente de desenvolvedores e profissionais de segurança.
Isso começa a mudar.
O usuário comum será cada vez mais confrontado com escolhas como:
“Permitir acesso ao e-mail?”
“Permitir envio de mensagens?”
“Permitir compras?”
“Permitir acesso à agenda?”
“Permitir execução automática?”
“Permitir acesso aos dispositivos da casa?”
Não basta que exista tecnicamente um botão para negar uma permissão.
É preciso que a pessoa entenda o que está autorizando.
Esse é um problema de educação digital.
Uma autorização tecnicamente perfeita continua sendo pouco útil se milhões de pessoas não conseguem avaliar as consequências da escolha que estão fazendo.
E talvez seja justamente esse o ponto mais importante da discussão levantada por Jana: segurança tecnológica não acontece apenas dentro do código.
Ela depende também de cultura.
Mais conhecimento, não menos
Há ainda uma contradição interessante em parte do discurso sobre riscos extremos.
Se sistemas avançados de inteligência artificial realmente podem representar riscos muito grandes, concentrar todo o conhecimento sobre segurança em poucas empresas não parece ser a melhor solução.
Precisaremos exatamente do contrário.
Mais pesquisadores.
Mais universidades estudando segurança de agentes.
Mais profissionais capazes de testar sistemas.
Mais desenvolvedores conhecendo princípios de menor privilégio e isolamento.
Mais professores preparados.
Mais estudantes compreendendo como modelos funcionam.
Mais empresas sabendo que conectar um agente ao e-mail, banco de dados, servidor e sistema financeiro sem estabelecer limites não é inovação.
É imprudência.
Para Jana, a grande transformação provocada pela inteligência artificial talvez não seja simplesmente tecnológica. Será também educacional e cultural.
Sociedades aprendem a conviver com tecnologias poderosas criando conhecimento, regras, práticas, instituições e profissionais preparados para lidar com elas.
Foi assim com a aviação.
Foi assim com a medicina.
Foi assim com a eletricidade.
Foi assim com a internet.
Nenhuma dessas tecnologias se tornou segura porque simplesmente eliminamos todos os riscos. Elas se tornaram mais seguras porque aprendemos com falhas, construímos redundâncias, criamos procedimentos, formamos profissionais e disseminamos conhecimento.
A inteligência artificial provavelmente não será diferente.
Talvez estejamos discutindo a pergunta errada
Talvez algum dia exista AGI.
Talvez exista ASI.
E, conhecendo nossa extraordinária capacidade de criar novas siglas para coisas ainda mais poderosas, provavelmente aparecerá outra categoria depois dela.
Isso não significa ignorar riscos futuros.
Significa evitar que hipóteses espetaculares ocupem todo o espaço enquanto decisões extremamente concretas estão sendo tomadas agora.
A discussão realmente importante talvez seja muito menos cinematográfica:
Quem constrói esses sistemas?
Quem estabelece suas permissões?
Quem testa seus limites?
Quem supervisiona suas ações?
Quem compreende os riscos?
E quantas pessoas estarão preparadas para utilizá-los?
Enquanto especialistas discutem se uma futura superinteligência terá 1%, 10% ou qualquer outra probabilidade subjetiva de provocar uma catástrofe, empresas já estão construindo agentes capazes de enviar e-mails, fazer compras e atuar sobre sistemas reais.
É aí que segurança deixa de ser previsão e passa a ser responsabilidade.
No fim, nossa melhor defesa contra os riscos da inteligência artificial pode continuar sendo uma tecnologia bastante antiga.
Educação.