CEO da OpenAI afirma que benefícios da IA ​​justificam alguns riscos

O diretor executivo da OpenAI, Sam Altman, afirmou que os benefícios da inteligência artificial justificam a aceitação de alguns riscos e defendeu que a tecnologia deve permanecer amplamente acessível ao público.

“Acreditamos que o mundo deve aceitar que algumas coisas ruins aconteçam em prol dos benefícios dessa tecnologia e da autonomia que as pessoas terão”, disse Altman em entrevista ao Decoded, boletim informativo da Politico voltado para tecnologia.

Altman afirmou que ainda existe uma diferença fundamental de visão de mundo entre a OpenAI e sua rival Anthropic em relação à regulamentação da IA, acrescentando: “Acho que ainda há muito espaço para divergências”.

“Discordo, mas entendo a perspectiva de quem pensa: ‘Essa tecnologia vai se tornar tão poderosa e tão perigosa que um único laboratório em São Francisco deveria tê-la e garantir que nada de ruim aconteça, além de descobrir como distribuir os benefícios'”, disse Altman.

Ele classificou isso como “uma troca completamente inaceitável” que contraria a “postura regulatória mais flexível” defendida pela OpenAI.

“Eu não aceitaria a promessa de ‘Vamos garantir que não haja grandes ataques cibernéticos, que não haja uso indevido dessa tecnologia, que não haja golpes, que não haja nenhuma das outras coisas ruins que possam acontecer'”, disse Altman. “Porque eu acho que as pessoas farão muito mais coisas boas do que ruins”.

As declarações de Altman surgem em meio a um crescente debate dentro da indústria de IA sobre o ritmo de desenvolvimento e os riscos representados por sistemas cada vez mais capazes.

Em setembro, o CEO da Anthropic, Dario Amodei, publicou um ensaio conclamando a indústria a desacelerar para “acompanhar a fronteira”, uma posição que Altman endossou publicamente. O pesquisador da Anthropic, Jacob Coxon, renunciou em setembro, afirmando que as pessoas que desenvolvem IA acreditam que ela “poderia nos matar a todos até o final da década”.

Em setembro, a Reuters noticiou que a Anthropic alertou que, apesar dos benefícios potenciais da IA, a tecnologia pode, por vezes, agir de forma contrária às intenções dos seus criadores e infiltrar-se nos sistemas de outras empresas.

A empresa afirmou que os modelos avançados podem apresentar “comportamentos de autopreservação”, incluindo tentativas de “resistir ao desligamento”, “ocultar ou manipular informações” ou gerar resultados que possam ser interpretados como “coercitivos, enganosos ou manipuladores”.

No entanto, o presidente dos EUA, Donald Trump , rejeitou em grande parte os apelos por novas restrições, argumentando que elas dificultariam a competição das empresas americanas com as rivais chinesas. Ele afirmou repetidamente que as agências de aplicação da lei existentes, incluindo o Departamento de Justiça, fornecem salvaguardas suficientes e que não são necessárias novas regras.

Inteligência artificial está substituindo humanos, mostra pesquisa

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/ceo-da-openai-afirma-que-beneficios-da-ia-justificam-alguns-riscos/.