O principal aplicativo de notícias dos EUA tem origem chinesa e ‘escreve ficção’ com a ajuda da IA

Na última véspera de Natal, Notícias de última hora, um aplicativo gratuito com raízes na China e o aplicativo de notícias mais baixado nos Estados Unidos, publicou um artigo alarmante sobre um tiroteio em uma pequena cidade. A manchete era “Tragédia do dia de Natal atinge Bridgeton, Nova Jersey, em meio ao aumento da violência armada em cidades pequenas”.

O problema é que tal tiroteio não ocorreu. Departamento de polícia de Bridgeton, Nova Jersey postou uma declaração no Facebook em 27 de dezembro, rejeitando o artigo – produzido com tecnologia de IA – como “completamente falso”.

“Nada semelhante a esta história ocorreu no Natal ou perto dele, ou mesmo na memória recente na área que descreveram”, dizia o post. “Parece que a IA deste meio de comunicação de ‘notícias’ escreve ficção e não tem problemas em publicar para os leitores.”

A NewsBreak, com sede em Mountain View, Califórnia, e escritórios em Pequim e Xangai, disse à Reuters que removeu o artigo em 28 de dezembro, quatro dias após a publicação.

A empresa disse que “as informações imprecisas se originaram da fonte do conteúdo” e forneceu um link para o siteacrescentando: “Quando o NewsBreak identifica qualquer conteúdo impreciso ou qualquer violação dos padrões de nossa comunidade, tomamos medidas imediatas para remover esse conteúdo”.

Os operadores do site findplace.xyz não responderam a um pedido de comentários da Reuters. A polícia se recusou a fornecer mais comentários.

À medida que os meios de comunicação locais em toda a América fecharam nos últimos anos, o NewsBreak preencheu o vazio.

Apresentando-se como “a fonte de referência para todas as coisas locais”, o Newsbreak afirma ter mais de 50 milhões de usuários mensais. Publica conteúdo licenciado dos principais meios de comunicação, incluindo Reuters, Fox, AP e CNN, bem como algumas informações obtidas ao pesquisar na Internet notícias locais ou comunicados de imprensa que reescreve com a ajuda da IA. Está disponível apenas nos EUA

Mas em pelo menos 40 casos desde 2021, o uso de ferramentas de IA pelo aplicativo afetou as comunidades que ele se esforça para servir, com o Newsbreak publicando histórias errôneas; criação de 10 histórias de sites de notícias locais com assinaturas fictícias; e retirar conteúdo de seus concorrentes, de acordo com uma análise da Reuters de documentos judiciais anteriormente não relatados relacionados a violação de direitos autorais, e-mails de cessação e desistência e um memorando da empresa de 2022 registrando preocupações sobre “histórias geradas por IA”.

A Reuters conversou com sete ex-funcionários do NewsBreak, incluindo cinco que disseram que a maior parte do trabalho de engenharia por trás do algoritmo do aplicativo é realizada em seus escritórios na China. Os ex-funcionários solicitaram anonimato, citando acordos de confidencialidade com o NewsBreak.

Dois programas comunitários locais que ajudam pessoas desfavorecidas disseram à Reuters que foram afetados por histórias errôneas produzidas pela IA do NewsBreak.

Em três ocasiões em janeiro, fevereiro e março, Food to Power, um banco de alimentos com sede no Colorado disse que teve que recusar as pessoas porque o NewsBreak declarou horários incorretos de distribuição de alimentos. A instituição de caridade reclamou ao NewsBreak em um e-mail de 30 de janeiro para o endereço de e-mail geral de suporte ao cliente do NewsBreak, que a Reuters analisou. A instituição de caridade disse que não recebeu resposta.

Colheita912, um caridade em Erie, Pensilvânia enviou um e-mail ao NewsBreak sobre duas notícias imprecisas baseadas em IA, que diziam que estava realizando uma clínica de cuidados com os pés 24 horas por dia para moradores de rua, pedindo ao meio de comunicação que “cessasse e desistisse” da cobertura errônea.

“Você está causando PREJUÍZO ao publicar esta desinformação – moradores de rua caminharão até esses locais para frequentar uma clínica que não está acontecendo”, disse Harvest912 ao NewsBreak, em um e-mail de 12 de janeiro visto pela Reuters.

Em resposta às perguntas da Reuters, o NewsBreak disse que removeu todos os cinco artigos sobre as instituições de caridade depois de saber que estavam errados e que os artigos eram baseados em informações incorretas em algumas das páginas da web das instituições de caridade.

Sem fornecer uma razão à Reuters, o NewsBreak adicionou um aviso à sua página inicial no início de março, alertando que o seu conteúdo “pode nem sempre estar livre de erros”.

O Newsbreak gera receita exibindo anúncios a seus usuários, que são predominantemente mulheres, com mais de 45 anos, sem diploma universitário e que moram em áreas suburbanas ou rurais dos EUA, de acordo com os sete ex-funcionários e uma apresentação da empresa de 2021 analisada pela Reuters. .

A empresa foi lançada nos EUA em 2015 como uma subsidiária da Yidian, um aplicativo de agregação de notícias chinês. Ambas as empresas foram fundadas por Jeff Zheng, CEO da Newsbreak, e as empresas compartilhar uma patente dos EUA registrado em 2015 para um algoritmo “Interest Engine”, que recomenda conteúdo de notícias com base nos interesses e localização do usuário.

O NewsBreak disse à Reuters que a patente foi atribuída por Zheng a ambas as empresas porque “alguns dos conceitos foram desenvolvidos desde o tempo de Jeff na Yidian” e que o NewsBreak é “baseado nos EUA” e “investido nos EUA”. A patente compartilhada “não tem absolutamente nenhuma influência sobre a empresa e suas operações”, disse o NewsBreak em respostas por escrito à Reuters, descrevendo a tecnologia referenciada na patente como “desatualizada”.

Um memorando da empresa de maio de 2022, de um consultor do NewsBreak para Zheng, revisado pela Reuters, levantou preocupações sobre o uso de ferramentas de IA pelo NewsBreak para republicar histórias de sites de notícias locais sob cinco assinaturas fictícias.

“Não consigo pensar em uma maneira mais rápida de destruir a marca NewsBreak”, escreveu Norm Pearlstine, ex-editor executivo do Wall Street Journal e do Los Angeles Times que trabalhava na época como consultor do NewsBreak, no memorando para Zheng.

Em uma entrevista depois que o NewsBreak lhe deu permissão para falar com a Reuters, Pearlstine disse que soube da prática por meio de um colega do NewsBreak.

“Eu questiono a legalidade da criação de contas falsas usando editores de conteúdo colocados atrás de seus acessos pagos. Se eu tivesse aprendido sobre a prática enquanto estava no LA Times, teria instruído nosso advogado a buscar uma ordem de restrição e processar por danos”, escreveu Pearlstine, cuja função de consultoria de seis meses na NewsBreak em 2022 consistiu em aconselhar a empresa sobre os negócios editoriais nos EUA.

Pearlstine, que confirmou que o memorando era autêntico, atribuiu o lapso à falta de experiência jornalística. “Um bom número de pessoas na equipe eram novas no jornalismo ou no mercado dos EUA. Essa foi parte da razão pela qual senti que deveria ser muito direto e muito explícito ao explicar por que achava que isso era importante”, disse ele. Reuters.

O NewsBreak disse que as notícias mencionadas no memorando de Pearlstine eram um “experimento limitado em três condados dos EUA” para agregar conteúdo de terceiros, e que o esforço foi dissolvido após a produção de dez artigos. A empresa negou ter usado acesso pago e disse que usou “trechos” de artigos que eram publicamente visíveis para produzir notícias completas usando OpenAI.

O NewsBreak também apontou a Reuters para a resposta enviada por e-mail de Zheng a Pearlstine, dizendo que reconheceu o problema e pediu à sua equipe para corrigi-lo.

A OpenAI disse à Reuters que suas políticas proíbem o uso de sua tecnologia para enganar as pessoas.

Em 2022, a Patch Media, que opera feeds de notícias locais digitais em todos os estados dos EUA, chegou a um acordo de US$ 1,75 milhão em um acordo ação judicial contra o NewsBreak por violação de direitos autorais, de acordo com documentos judiciais revisados ​​pela Reuters, que alegavam que o NewsBreak republicou as notícias de Patch sem permissão ou crédito.

Patch não respondeu a um pedido de comentário. NewsBreak disse que o acordo não foi uma admissão de irregularidades.

A Emmerich Newspapers, que opera jornais no Mississippi, Arkansas e Louisiana, chegou a um acordo em 2021 com o NewsBreak em uma ação judicial alegando violação de direitos autorais relacionada ao uso do conteúdo de Emmerich pelo NewsBreak sem permissão. NewsBreak disse que o acordo foi “amigável”.

Outro processo de direitos autorais está em andamento. As duas partes estão “envolvidas em ações judiciais adicionais contra as quais nos defendemos vigorosamente”, disse o NewsBreak.

Wyatt Emmerich, presidente da empresa, disse que o processo contra o NewsBreak envolvia “cópia literal de conteúdo”. Ele acrescentou: “O que me preocupa no futuro é que os agregadores de notícias possam usar inteligência artificial para reescrever ligeiramente nossas histórias, o que tornaria muito mais difícil provar a violação de direitos autorais. Já testemunhei casos disso acontecendo em sites de agregação de notícias.”

A NewsBreak é uma start-up privada, cujos principais financiadores são as empresas de private equity Francisco Partners, com sede em São Francisco, e a IDG Capital, com sede em Pequim, disse a NewsBreak à Reuters.

A Francisco Partners recusou-se a responder a perguntas sobre o seu investimento no NewsBreak. O IDG não respondeu aos repetidos pedidos de comentários por e-mail.

Em fevereiro, a IDG Capital foi adicionada ao uma lista de dezenas de empresas chinesas o Pentágono disse que supostamente trabalhavam com os militares de Pequim. IDG Capital disse à Bloomberg em fevereiro que não tem associação com os militares chineses e não pertence a essa lista. NewsBreak não comentou a descoberta.

Yidian, a empresa agregadora chinesa, desinvestiu do NewsBreak em 2019 porque “sua equipe de gestão na época não entendia o mercado dos EUA”, disse Zheng. Até então, Li Ya, presidente da Phoenix New Media, uma empresa de mídia estatal chinesa que detinha uma participação de 46,9% em Yidian, foi diretor do NewsBreak, de acordo com registros corporativos.

Yidian continuou a descrever o NewsBreak como sua versão nos EUA em seu site até 2021, de acordo com O fio da China.

Yidian em 2017 recebeu elogios dos dirigentes do Partido Comunista pela sua eficiência na disseminação da propaganda governamental. A Reuters não encontrou nenhuma evidência de que o NewsBreak tenha censurado ou produzido notícias favoráveis ​​ao governo chinês.

Um porta-voz do NewsBreak disse que não havia relacionamento comercial contínuo com Yidian. Yidian, Phoenix New Media e Li Ya não responderam aos pedidos de comentários da Reuters.

Cerca de metade dos 200 funcionários do NewsBreak estão baseados na China, onde estão envolvidos em pesquisa e desenvolvimento, disse a empresa.

Uma lista de empresas de 2022 revisada pela Reuters mostrou que 100 dos 137 engenheiros do NewsBreak na época estavam baseados na China.

Cinco dos ex-funcionários do NewsBreak disseram que o CEO Zheng divide seu tempo entre a China e os Estados Unidos.

Zheng, que nasceu na China, é residente permanente dos Estados Unidos e sua família se mudou para os EUA no início do ano passado, informou a empresa.

A Reuters descobriu cinco anúncios de emprego O NewsBreak postou em sites de empregos chineses procurando analistas de dados ou engenheiros para seus escritórios em Pequim e Xangai, capazes de “explorar em profundidade” “dados massivos de comportamento do usuário” dos usuários do aplicativo nos EUA.

Um assessor republicano do Comitê de Relações Exteriores da Câmara dos Representantes dos EUA disse à Reuters que o uso de engenheiros baseados na China pelo Newsbreak levantou possíveis preocupações de que dados de usuários americanos possam ser acessados ​​na China. O assessor não quis ser identificado porque não estava autorizado a falar com a mídia.

Num caso recente de grande repercussão, autoridades norte-americanas alertaram que o TikTok, cuja empresa-mãe é a empresa chinesa ByteDance, poderia ser obrigado pelo governo chinês a utilizar o seu algoritmo para controlar que tipo de notícias são visualizadas pelos norte-americanos e entregar os seus dados.

O TikTok, o aplicativo de vídeos curtos mais baixado no mundo, com 170 milhões de usuários nos EUA, agora enfrenta uma venda forçada ou uma proibição nos EUA.

Em resposta a perguntas da Reuters, a TikTok disse que planeja oferecer a terceiros mais acesso para examinar seu código e verificar se o aplicativo funciona conforme pretendido.

Zheng disse à Reuters que o NewsBreak cumpre as leis de dados e privacidade dos EUA e é mantido em servidores da Amazon baseados nos EUA. “Os funcionários na China só acessam dados anônimos armazenados em servidores AWS nos EUA”, disse ele. A Amazon se recusou a comentar.

O NewsBreak também disse que, como empresa sediada nos EUA, não estava sujeita às leis de dados chinesas.

Pearlstine, ex-consultor do NewsBreak, disse que a capacidade do NewsBreak de demonstrar que é uma empresa norte-americana é crítica.

“A saúde a longo prazo do NewsBreak dependia de ser percebida como uma empresa da Califórnia e de que quanto mais a liderança estivesse em Mountain View, melhor seria para a empresa”, disse ele.