A manipulação online através de inteligência artificial (IA) preocupa gigantes da tecnologia como a Meta, dona do Facebook, Instagram e WhatsApp.
Para combater esse problema, Nick Clegg, presidente de assuntos globais da empresa, propôs a criação de um padrão universal para identificar conteúdo gerado por IA em fotos, vídeos e áudios.
Imagine poder ver um aviso em um post informando se ele foi criado por inteligência artificial. Essa é a ideia!
Essa iniciativa surge em um momento crítico, com as eleições presidenciais dos Estados Unidos se aproximando.
Há temor de que ferramentas de IA sejam usadas para espalhar desinformação e enganar eleitores. Afinal, isso já aconteceu com vídeos falsos do presidente norte-americano Joe Biden circulando online.
Mas por que a Meta está tão envolvida nisso?
A empresa está em uma posição única: desenvolve tecnologia para incentivar o uso de IA por consumidores, mas também possui a maior rede social do mundo, propensa a disseminar conteúdo gerado por IA.
Logo, a Meta tem insights tanto do lado da criação quanto da distribuição desse tipo de conteúdo.
A proposta da empresa se baseia em padrões tecnológicos já existentes, como o IPTC e o C2PA.
Essas informações especificam a autenticidade de um conteúdo digital em seus metadados.
Empresas como a Adobe, que fabrica o Photoshop, e jornais como o The New York Times já utilizam esses padrões para combater a desinformação.
Com a adoção do padrão proposto, companhias que oferecem ferramentas de geração de IA poderiam inserir essas informações nos arquivos de vídeo, foto ou áudio criados.
Plataformas como Facebook, YouTube e TikTok seriam então capazes de identificar o conteúdo artificial durante o upload e exibir avisos para os usuários.
Além disso, a Meta exige que usuários divulguem o uso de IA ao postar conteúdo criado dessa forma. O descumprimento dessa regra resulta em penalidades, ainda não especificadas pela empresa.
Em casos extremos, se o conteúdo “criar um risco particularmente alto de enganar o público sobre um assunto importante”, a Meta poderá adicionar um aviso mais destacado para dar mais contexto e informações sobre sua origem.
