Veja todas as Notícias.Especialistas em IA criticam carta aberta apoiada por Musk que cita suas pesquisas
Publicada em
Por Martin Coulter
LONDRES (Reuters) - Quatro especialistas em inteligência artificial têm expressado preocupação após seus trabalhos terem sido citados em uma carta aberta --co-assinada por Elon Musk-- demandando uma pausa urgente na pesquisa.
A carta, datada de 22 de março e com mais de 1.800 assinaturas até esta sexta-feira, reivindica uma pausa de seis meses no desenvolvimento de sistemas 'mais poderosos' do que o apoiado pela Microsoft, o novo GPT-4, da OpenAI, que pode manter uma conversa semelhante à humana, compor músicas e resumir documentos longos.
Desde que o predecessor do GPT-4, o ChatGPT, foi lançado no ano passado, empresas concorrentes têm se apressado para lançar produtos similares.
A carta aberta diz que os sistemas de IA com 'inteligência competitiva à humana' representam riscos profundos à humanidade, citando 12 pesquisas de especialistas, incluindo acadêmicos de universidades, assim como atuais e ex-funcionários da OpenAI, do Google e de sua subsidiária DeepMind.
Desde então, grupos da sociedade civil nos Estados Unidos e na União Europeia têm pressionado parlamentares a controlar as pesquisas da OpenAI, que não respondeu imediatamente a pedidos de comentários.
Os críticos acusam a organização Future of Life Institute (FLI), que é financiada principalmente pela Fundação Musk e está por trás da carta, de priorizar cenários apocalípticos imaginários em sobreposição a preocupações mais imediatas em relação à IA, como a programação de preconceitos racistas ou sexistas nas máquinas.
Entre as pesquisas citadas está um conhecido artigo de autoria de Margaret Mitchell, que supervisionou anteriormente a pesquisa de ética em IA no Google.
Mitchell, agora cientista-chefe de ética da empresa de IA Hugging Face, criticou a carta, dizendo à Reuters que não está claro o que conta como 'mais poderoso que o GPT4'.
'Ao tratar muitas ideias questionáveis como um dado adquirido, a carta afirma um conjunto de prioridades e uma narrativa sobre IA que beneficia os apoiadores do FLI', disse ela. 'Ignorar danos ativos agora é um privilégio que alguns de nós não têm.'
Seus co-autores Timnit Gebru e Emily M. Bender criticaram a carta no Twitter, com Bender classificando algumas das reivindicações da carta como 'desequilibradas'.
O presidente do FLI, Max Tegmark, disse à Reuters que a campanha não é uma tentativa de impedir a vantagem corporativa da OpenAI.
'É quase hilário. Já vi pessoas dizerem: 'Elon Musk está tentando desacelerar a concorrência'', disse ele, acrescentando que Musk não teve nenhum papel na redação da carta. 'Isso não se trata de uma empresa.'
(Reportagem de Martin Coulter)
Escrito por Reuters
