A carta aberta divulgada pelo Future of Life Institute, intitulada “Pausem Experimentos Gigantes com IA: Uma Carta Aberta”, em 29 de março, gerou debates na comunidade tecnológica, solicitando uma pausa temporária no desenvolvimento de sistemas de IA poderosos, como o GPT-4. Entretanto, Brian Armstrong, CEO da Coinbase, expressou desacordo com a carta por meio de uma postagem no Twitter.
Armstrong argumentou que não há um grupo de “especialistas” para julgar essa questão e que é pouco provável que os diversos atores envolvidos cheguem a um consenso. Além disso, ele afirmou que comitês e burocracia não resolverão o problema. Em vez disso, defendeu o progresso contínuo no desenvolvimento de tecnologia, apesar dos riscos potenciais.
A carta aberta propõe uma interrupção pública e verificável de pelo menos seis meses no treinamento de sistemas de IA mais avançados como o GPT-4 e sugere que laboratórios de IA desenvolvam protocolos de segurança conjuntos para garantir a implementação segura de tais sistemas. Por fim, a carta afirma que “sistemas de IA robustos só devem ser desenvolvidos quando estivermos seguros de que seus efeitos serão benéficos e seus riscos, controláveis”.
Personalidades notáveis do mundo da tecnologia, como Elon Musk, CEO da SpaceX, Tesla e Twitter; Steve Wozniak, co-fundador da Apple; Bill Gates, co-fundador da Microsoft; e Gary Marcus, pesquisador de IA e professor emérito da Universidade de Nova York, assinaram a carta aberta.
Entretanto, o CEO da Coinbase destacou a importância de seguir em frente com o progresso, apesar dos perigos, pois os benefícios superam os malefícios. Ele acredita que o mercado de ideias proporciona melhores resultados do que o planejamento centralizado.
Por fim, alertou contra o risco de permitir que o medo atrapalhe o progresso e a possibilidade de autoridades centrais controlarem o desenvolvimento tecnológico.
