O Amazon Q, chatbot da Amazon no setor de inteligência artificial, tem sido alvo de críticas e preocupações internas dentro da empresa.
Durante a conferência anual de desenvolvedores da Amazon Web Services, o chatbot foi apresentado como uma adição importante nas iniciativas da empresa na área de inteligência artificial.
O Amazon Q foi descrito como uma versão empresarial do ChatGPT, alegando possuir melhores recursos de segurança e privacidade que superam outras ferramentas de IA.
Apesar de a Amazon mostrar otimismo sobre sua inteligência artificial na conferência, as coisas mudaram quando relatórios internos foram divulgados. Os funcionários ficaram preocupados com a precisão e privacidade do Amazon Q, sugerindo que o chatbot não atendia às promessas de segurança feitas pelos executivos da empresa.
Documentos vazados mostraram que ele teve problemas, gerando respostas prejudiciais ou inadequadas. A situação ficou ainda mais séria porque o incidente foi classificado como “sev 2”, exigindo que os engenheiros resolvessem urgentemente. Outra preocupação nos documentos foi que o Amazon Q podia dar informações de segurança desatualizadas, colocando em risco as contas dos clientes.
Em resposta às críticas internas, a Amazon tentou minimizar as preocupações dos funcionários, dizendo que é normal receber feedback e que não identificaram problemas de segurança com base neles. Eles agradeceram as sugestões e garantiram que fariam ajustes no Amazon Q ao passar de um produto de prévia para estar disponível para todos.
