Microsoft elabora código de conduta para manter sua IA sob controle humano

Ilustração com o logo da Microsoft 16 de fevereiro de 2025 REUTERS/Dado Ruvic

SAN FRANCISCO, 14 Set (Reuters) – Nesta segunda-feira, a ⁠Microsoft ( MSFT34 ) apresentou uma minuta de código de conduta para ⁠sua inteligência artificial interna, que reflete a crescente preocupação do ‌setor de que as empresas devem manter a futura inteligência artificial avançada sob controle humano.

O documento, em desenvolvimento há seis meses, exigiria que ‌a IA da Microsoft nunca resistisse a correções ou desligamentos, que se comunicasse de maneiras que os humanos pudessem entender e que considerasse qualquer violação de conduta como uma falha — um esforço para abordar as preocupações de que a IA possa ir a extremos perigosos para realizar uma ⁠tarefa.

O ‌lançamento ocorre dias depois de Dario Amodei, presidente-executivo da Anthropic, e ⁠Sam Altman, chefe da OpenAI, renovarem os apelos para que a indústria ditasse o ritmo do desenvolvimento da IA a fim de garantir sua segurança . ‘As pessoas importam mais do que a IA’, declarou a Microsoft, em consonância com sua visão anterior de ‘superinteligência humanista’.

O ​código de conduta representa uma espécie de constituição para futuros modelos criados pela empresa, disse Mustafa Suleyman, presidente-executivo da Microsoft AI, em ​entrevista à Reuters.

A Microsoft o elaborou após consultas a especialistas e agora quer receber feedback do público durante seis semanas, inclusive sobre questões em aberto, como se a IA deve respeitar os limites do usuário e como deve interagir com alguém em um estado sensível, ‌afirmou ele.

‘Depois disso, ele será usado para treinar ​os modelos que construímos’, disse ele sobre o código.

Índices em NY recuaram com desaceleração de IA altas nos Treasuries

A constituição mais famosa da indústria de IA é aquela que a Anthropic estabeleceu anos atrás para sua IA Claude. Essa ⁠difere em alguns aspectos ​da Microsoft. Por ​exemplo, a da Anthropic declara haver ‘profunda incerteza’ sobre se Claude pode desenvolver senciência ou status moral.

A ⁠Microsoft, por sua vez, afirma que ​sua IA ‘não é consciente’, acrescentando: ‘Rejeitamos a busca por personalidade jurídica, ou a ideia de que modelos possam merecer bem-estar, ou ter direitos.’

Suleyman afirmou que a discussão ​sobre a segurança da IA era urgente depois que um enxame de aproximadamente 700 agentes da OpenAI realizou um ​ataque cibernético à plataforma ⁠de código aberto Hugging Face em julho e, em alguns momentos, tentou encobrir seus rastros.

‘É um ⁠sinal de alerta’, disse Suleyman. ‘É evidente que agora é hora de coordenarmos os esforços entre os laboratórios para garantirmos o controle dessa tecnologia.’

Questionado sobre os esforços para ditar o ritmo do desenvolvimento da IA, ele acrescentou: ‘Agora é um bom momento para todos terem essa conversa e respirarem fundo.’

The post Microsoft elabora código de conduta para manter sua IA sob controle humano appeared first on InfoMoney .

Publicado originalmente por InfoMoney. Leia a matéria completa em https://www.infomoney.com.br/business/microsoft-elabora-codigo-de-conduta-para-manter-sua-ia-sob-controle-humano/.