Especialistas em IA criticam carta aberta apoiada por Musk que cita suas pesquisas

Por Martin Coulter

LONDRES (Reuters) - Quatro especialistas em inteligência artificial têm expressado preocupação após seus trabalhos terem sido citados em uma carta aberta --co-assinada por Elon Musk-- demandando uma pausa urgente na pesquisa.

A carta, datada de 22 de março e com mais de 1.800 assinaturas até esta sexta-feira, reivindica uma pausa de seis meses no desenvolvimento de sistemas 'mais poderosos' do que o apoiado pela Microsoft, o novo GPT-4, da OpenAI, que pode manter uma conversa semelhante à humana, compor músicas e resumir documentos longos.

Desde que o predecessor do GPT-4, o ChatGPT, foi lançado no ano passado, empresas concorrentes têm se apressado para lançar produtos similares.

A carta aberta diz que os sistemas de IA com 'inteligência competitiva à humana' representam riscos profundos à humanidade, citando 12 pesquisas de especialistas, incluindo acadêmicos de universidades, assim como atuais e ex-funcionários da OpenAI, do Google e de sua subsidiária DeepMind.

Desde então, grupos da sociedade civil nos Estados Unidos e na União Europeia têm pressionado parlamentares a controlar as pesquisas da OpenAI, que não respondeu imediatamente a pedidos de comentários.

Os críticos acusam a organização Future of Life Institute (FLI), que é financiada principalmente pela Fundação Musk e está por trás da carta, de priorizar cenários apocalípticos imaginários em sobreposição a preocupações mais imediatas em relação à IA, como a programação de preconceitos racistas ou sexistas nas máquinas.

Entre as pesquisas citadas está um conhecido artigo de autoria de Margaret Mitchell, que supervisionou anteriormente a pesquisa de ética em IA no Google.

Mitchell, agora cientista-chefe de ética da empresa de IA Hugging Face, criticou a carta, dizendo à Reuters que não está claro o que conta como 'mais poderoso que o GPT4'.

'Ao tratar muitas ideias questionáveis como um dado adquirido, a carta afirma um conjunto de prioridades e uma narrativa sobre IA que beneficia os apoiadores do FLI', disse ela. 'Ignorar danos ativos agora é um privilégio que alguns de nós não têm.'

Seus co-autores Timnit Gebru e Emily M. Bender criticaram a carta no Twitter, com Bender classificando algumas das reivindicações da carta como 'desequilibradas'.

O presidente do FLI, Max Tegmark, disse à Reuters que a campanha não é uma tentativa de impedir a vantagem corporativa da OpenAI.

'É quase hilário. Já vi pessoas dizerem: 'Elon Musk está tentando desacelerar a concorrência'', disse ele, acrescentando que Musk não teve nenhum papel na redação da carta. 'Isso não se trata de uma empresa.'

(Reportagem de Martin Coulter)