Executivos de tecnologia, incluindo Elon Musk, cofundador da Apple, Steve Wozniak, CEO da Stability AI, Emad Mostaque, e o autor de Sapiens, Yuval Noah Harari, estão instando os principais laboratórios de inteligência artificial a interromper o desenvolvimento de sistemas de IA mais avançados que o GPT-4. Em uma carta aberta emitida pelo Instituto sem fins lucrativos Future of Life, os signatários citam “riscos profundos” à sociedade humana.
A carta pede a paralisação imediata da formação dos sistemas por pelo menos seis meses, que deve ser pública, verificável e incluir todos os atores públicos. Os sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade, conforme demonstrado por extensa pesquisa e reconhecido pelos principais laboratórios de IA. Os signatários questionam se devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade, automatizar todos os trabalhos, incluindo os gratificantes, e arriscar a perda de controle de nossa civilização.
A carta aberta chega algumas semanas após a estreia pública do GPT-4 da OpenAI, o grande modelo de linguagem que alimenta a versão premium do popular chatbot ChatGPT. O novo GPT-4 pode lidar com tarefas mais complexas e produzir resultados mais sutis do que as versões anteriores, e também está menos sujeito às falhas das versões anteriores, de acordo com a OpenAI.
Para realizar seu trabalho, sistemas como o GPT-4 precisam ser treinados em grandes quantidades de dados que possam usar para responder a perguntas e realizar outras tarefas. Desde o início do ano, uma lista crescente de empresas, incluindo Google, Microsoft, Adobe, Snapchat, DuckDuckGo e Grammarly, anunciaram serviços que aproveitam as habilidades generativas de IA.
Os especialistas em IA estão preocupados com as empresas lançando produtos sem as proteções adequadas ou mesmo sem entender as implicações. Os sistemas generativos de IA podem, por exemplo, citar fontes não confiáveis ou aumentar os desafios de segurança ao realizar ações prejudiciais ou não intencionais, aumentando as capacidades de agentes mal-intencionados que fraudariam, enganariam ou abusariam de outras pessoas.
“A IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidado e recursos proporcionais”, diz a carta. “Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, embora nos últimos meses tenhamos visto os laboratórios de IA presos em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável.”
