Os democratas queriam um acordo sobre o uso de inteligência artificial. Não foi a lugar nenhum

O Comité Nacional Democrata estava a observar no início deste ano como as campanhas em todo o país faziam experiências com inteligência artificial. Assim, a organização abordou um punhado de influentes comités de campanha partidários com um pedido: assinar directrizes que os comprometessem a utilizar a tecnologia de uma forma “responsável”.

O projecto de acordo, cuja cópia foi obtida pela Associated Press, não estava repleto de ideias revolucionárias. Pediu às campanhas que verificassem o trabalho das ferramentas de IA, protegessem contra preconceitos e evitassem o uso de IA para criar conteúdo enganoso.

“Nosso objetivo é usar esta nova tecnologia de forma eficaz e ética, e de uma forma que promova – em vez de minar – os valores que defendemos em nossas campanhas”, dizia o rascunho.

O plano não deu em nada.

Em vez de promover um acordo, as directrizes suscitaram um debate sobre o valor de tais compromissos, especialmente aqueles que regem a tecnologia em rápida evolução. Entre as preocupações expressas pelas organizações da campanha Democrata: Tal compromisso pode prejudicar a sua capacidade de implementar a IA e pode afastar os doadores com ligações à indústria da IA. Alguns funcionários do comitê também ficaram irritados porque o DNC lhes deu apenas alguns dias para concordar com as diretrizes.

O desaparecimento da proposta destacou divisões internas sobre as tácticas de campanha e a incerteza do partido sobre a melhor forma de utilizar a IA, no meio de avisos de especialistas de que a tecnologia está a potenciar a proliferação da desinformação.

Hannah Muldavin, porta-voz sênior do Comitê Nacional Democrata, disse que o grupo não desiste de encontrar um consenso.

O DNC, disse ela, “continuará a envolver-se com os nossos comités irmãos para discutir ideias e questões importantes para as campanhas democratas e para os eleitores americanos, incluindo a IA”.

“Não é incomum que ideias e planos mudem, especialmente no meio de um ano eleitoral movimentado, e quaisquer documentos sobre este assunto refletem conversas iniciais e contínuas”, disse Muldavin, acrescentando que “o DNC e os nossos parceiros levam a sério as oportunidades e os desafios apresentado pela IA.”

A disputa surge à medida que as campanhas recorrem cada vez mais à inteligência artificial – sistemas informáticos, software ou processos que emulam aspectos do trabalho humano e da cognição – para optimizar as cargas de trabalho. Isso inclui o uso de grandes modelos de linguagem para escrever e-mails de arrecadação de fundos, enviar mensagens de texto para apoiadores e construir chatbots para responder às perguntas dos eleitores.

Espera-se que essa tendência continue à medida que as eleições gerais de Novembro se aproximam, com as campanhas a recorrerem a ferramentas de IA generativas sobrecarregadas para criar textos e imagens, bem como clonar vozes humanas e criar vídeos à velocidade da luz.

O Comitê Nacional Republicano usou imagens geradas por IA em um comercial de televisão no ano passado, prevendo um futuro distópico sob o presidente Joe Biden.

Grande parte dessa adoção, no entanto, foi ofuscada por preocupações sobre como as campanhas poderiam usar a inteligência artificial de forma a enganar os eleitores. Especialistas alertaram que a IA se tornou tão poderosa que tornou mais fácil gerar vídeos “profundamente falsos”, trechos de áudio e outras mídias direcionadas a candidatos adversários. Alguns estados aprovaram legislação que regulamenta a forma como a inteligência artificial generativa pode ser usada. Mas o Congresso até agora não conseguiu aprovar nenhum projeto de lei que regulamente a inteligência artificial no nível federal.

Na ausência de regulamentação, o DNC procurou um conjunto de directrizes que pudesse apontar como prova de que o partido estava a levar a sério a ameaça e a promessa da IA. A proposta foi enviada em março aos cinco comitês de campanha democratas que buscam eleger candidatos para cargos na Câmara, no Senado, para governador, legislativo estadual e procuradores-gerais estaduais, de acordo com o projeto de acordo.

O objetivo era fazer com que cada comitê concordasse com uma lista de proteções de IA e o DNC propôs emitir uma declaração conjunta proclamando que tais diretrizes garantiriam que as campanhas pudessem usar “as ferramentas de que precisam para evitar a propagação de informações erradas e desinformação, ao mesmo tempo em que capacitariam as campanhas para agirem com segurança”. , usar de forma responsável a IA generativa para envolver mais americanos na nossa democracia.”

O comitê democrata esperava que a declaração fosse assinada pelo presidente Jaime Harrison e pelos líderes das outras organizações.

Agentes democratas disseram que a proposta foi recebida com estrondo. Alguns líderes seniores dos comités temiam que o acordo pudesse ter consequências imprevistas, talvez restringindo a forma como as campanhas utilizam a IA, de acordo com vários agentes democratas familiarizados com a divulgação.

E poderá enviar a mensagem errada às empresas tecnológicas e aos executivos que trabalham com IA, muitos dos quais ajudam a encher os cofres das campanhas durante os anos eleitorais.

Alguns dos doadores mais prolíficos do Partido Democrata são grandes empreendedores de tecnologia e evangelistas de IA, incluindo Sam Altman, CEO da OpenAI, e Eric Schmidt, ex-CEO da Google.

Altman doou mais de US$ 200 mil para a campanha de Biden e seu comitê conjunto de arrecadação de fundos democrata alinhado desde o início do ano passado, de acordo com dados da Comissão Eleitoral Federal, e as contribuições de Schmidt para esses grupos ultrapassaram US$ 500 mil no mesmo período.

Dois outros proponentes da IA, Dustin Moskovitz, cofundador da Facebooke Reid Hoffman, cofundador do LinkedIn, doaram mais de US$ 900 mil ao comitê conjunto de arrecadação de fundos de Biden neste ciclo, de acordo com os mesmos dados.

O plano do DNC pegou os comitês desprevenidos porque veio com poucas explicações, além do desejo de fazer com que cada comitê concordasse com a lista de melhores práticas dentro de alguns dias, disseram vários agentes democratas que falaram sob condição de anonimato porque não estavam não está autorizado a discutir o assunto. Assessores dos comitês da Campanha Democrata para o Congresso e da Campanha Democrata para o Senado disseram que se sentiram apressados ​​​​por um cronograma do DNC que os instava a assinar rapidamente.

Representantes da Associação dos Procuradores-Gerais Democratas não responderam ao pedido de comentários da Associated Press. Porta-vozes da Associação de Governadores Democratas e do Comitê de Campanha Legislativa Democrática não quiseram comentar.

O Comité Nacional Republicano não respondeu a perguntas sobre as suas diretrizes de IA. A campanha de Biden também se recusou a comentar quando questionada sobre o esforço do DNC.

O acordo de quatro páginas – “Diretrizes sobre o uso responsável de IA generativa em campanhas” – cobria tudo, desde garantir que os sistemas de inteligência artificial não fossem confiáveis ​​sem que um humano verificasse seu trabalho até notificar os eleitores quando eles estivessem interagindo com sistemas de inteligência artificial gerados por IA. conteúdo ou sistemas.

“À medida que a ascensão explosiva da IA ​​generativa transforma todos os cantos da vida pública – incluindo as campanhas políticas – é mais importante do que nunca limitarmos a ameaça potencial desta nova tecnologia aos direitos dos eleitores e, em vez disso, aproveitá-la para construir soluções inovadoras e eficientes. campanhas e uma democracia mais forte e mais inclusiva”, dizia a proposta.

As diretrizes foram divididas em cinco seções que incluíam títulos como “Oferecendo Alternativas Humanas, Consideração e Recuo” e “Fornecendo Notificação e Explicação”. As regras propostas exigiriam que os comitês garantissem que “uma pessoa real deveria ser responsável pela aprovação do conteúdo gerado pela IA e por como, onde e para quem ele é implantado”.

A diretiva delineou como “os utilizadores devem estar sempre atentos quando interagem com um bot de IA” e sublinhou que quaisquer imagens ou vídeos criados por IA “devem ser sinalizados” como tal. E enfatizou que as campanhas deveriam usar IA para ajudar os funcionários, e não para substituí-los.

“As campanhas são um negócio conduzido e motivado por humanos”, dizia o acordo. “Use os ganhos de eficiência para ensinar mais eleitores e focar mais no controle de qualidade e na sustentabilidade.”

Ele também pediu às campanhas que não usassem “IA generativa para criar conteúdo enganoso. Ponto final”.