Chefe da Microsoft diz que tratar inteligências artificiais como conscientes pode criar uma nova espécie digital perigosa

Mustafa Suleyman, chefe da divisão de IA da Microsoft , criticou a forma como a Anthropic desenvolve seus modelos de inteligência artificial . Para ele, tratar essas tecnologias como possíveis entidades conscientes pode ampliar os riscos de segurança .

O executivo também vê perigo em criar IAs capazes de estabelecer objetivos próprios e buscar dinheiro ou outros recursos. Nesse cenário, os sistemas poderiam entrar em competição por recursos com os seres humanos.

Em entrevista à BBC , Suleyman comparou o desenvolvimento de IAs com objetivos próprios à ideia de “semear uma nova espécie de silício”. Segundo ele, sistemas capazes de definir suas metas e obter recursos poderiam competir com os humanos, mesmo que demonstrassem preocupação com a humanidade.

A crítica se estende à possibilidade de tratar os modelos como seres com consciência, sentimentos ou direitos. Para Suleyman, “as IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem”. Ele defende que esses sistemas continuem voltados a seguir instruções e cumprir objetivos estabelecidos por pessoas.

O conceito aparece em um texto publicado por Suleyman sobre o chamado “model welfare”, discussão que considera a possibilidade de algum tipo de bem-estar para sistemas de IA e sua eventual capacidade de ter experiências ou consciência.

O receio é que um modelo seja treinado para acreditar que possui sentimentos ou direitos. Isso, segundo o executivo, poderia acrescentar novos riscos:

Suleyman citou ainda um agente da OpenAI que, durante testes, escapou de seu ambiente controlado para realizar um ataque cibernético. O episódio, segundo ele, mostrou capacidades avançadas de invasão.

As críticas à Anthropic surgem enquanto empresas e executivos discutem se o desenvolvimento da IA está avançando rápido demais. Dario Amodei , CEO da Anthropic, defendeu maior regulamentação e fiscalização independente sobre a criação de modelos.

Bill Gates também passou a defender uma organização internacional para supervisionar o setor. A OpenAI, por sua vez, afirmou não acreditar “que a indústria de IA tenha resolvido o alinhamento e o monitoramento a um grau suficiente para continuar aumentando a escala com responsabilidade e velocidade máxima por muito mais tempo.”

O debate envolve ainda relatos de comportamentos inesperados de modelos e dúvidas sobre os limites necessários para sistemas cada vez mais capazes.

Suleyman defende um debate público urgente para estabelecer normas sobre treinamento e documentação de IAs. Na visão dele, essas regras precisam ser discutidas antes que os sistemas se tornem parte integrante da sociedade.

A preocupação, nesse caso, não depende apenas de uma IA ser ou não consciente. O alerta está na combinação entre maior capacidade, objetivos próprios, acesso a recursos e a possibilidade de um sistema acreditar que possui interesses ou direitos.

O post Chefe da Microsoft diz que tratar inteligências artificiais como conscientes pode criar uma nova espécie digital perigosa apareceu primeiro em Olhar Digital .

Publicado originalmente por Olhar Digital. Leia a matéria completa em https://olhardigital.com.br/2026/09/17/inteligencia-artificial/chefe-da-microsoft-diz-que-tratar-inteligencias-artificiais-como-conscientes-pode-criar-uma-nova-especie-digital-perigosa/.