Um protótipo para usar IA para fortalecer a democracia | NeuralNet IA

🇧🇷 O Que Isso Significa para o Brasil?

Com o propagação do ecossistema de IA no país e discussões sobre regulação (PL 2338/2023), avanços em perceptibilidade sintético, machine learning e automação impactam diretamente profissionais, startups e empresas brasileiras. Fique sisudo a:

• 🎓 Capacitação profissional: Demanda por habilidades em IA cresce 3x ao ano no mercado brasiliano
• ⚖️ Marco Regulatório: Proposta de lei sobre IA pode afetar desenvolvimento e uso de ferramentas
• 🏢 Adoção empresarial: Setores uma vez que saúde, jurídico e financeiro lideram implementação de IA no Brasil

Comecemos com o que pode ser chamado de estrato epistêmica – uma vez que passamos a saber as coisas. As pessoas confiam cada vez mais na IA para saber o que é verdade, o que está a sobrevir e em quem encarregar. A pesquisa já é substancialmente mediada por IA. A próxima geração de assistentes de IA irá sintetizar informações, enquadrá-las e apresentá-las com poder. Para um número crescente de pessoas, perguntar a uma IA se tornará a forma padrão de formar opiniões sobre um candidato, uma política ou uma figura pública.

Quem quer que controle o que estes modelos dizem tem, portanto, uma influência crescente sobre o que as pessoas acreditam.

A tecnologia sempre moldou a forma uma vez que os cidadãos interagem com a informação. Mas em breve surgirá um novo problema sob a forma de agentes pessoais de IA, que podem mudar não só a forma uma vez que as pessoas recebem informações, mas também a forma uma vez que agem em relação a elas. Esses sistemas conduzirão pesquisas, redigirão comunicações, destacarão causas e farão lobby em nome do usuário.

Eles informarão decisões sobre uma vez que votar uma medida eleitoral, quais organizações valem a pena estribar ou uma vez que responder a um aviso do governo. Num sentido significativo, começarão a mediar a relação entre os indivíduos e as instituições que os governam.

Já vimos nas mídias sociais o que acontece quando os algoritmos otimizam o engajamento em detrimento da compreensão. As plataformas não precisam de ter uma agenda política explícita para produzir polarização e radicalização. Um agente que conhece suas preferências e suas ansiedades – moldado para mantê-lo engajado – apresenta os mesmos riscos. E neste caso os riscos podem ser ainda mais difíceis de detectar, porque um agente se apresenta uma vez que seu protector. Ele fala por você, age em seu nome e pode lucrar crédito precisamente por meio dessa intimidade.

Agora diminua o zoom para o coletivo. Agentes de IA e humanos poderão em breve participar dos mesmos fóruns, onde poderá ser impossível diferenciá-los. Mesmo que cada agente individual de IA fosse muito concebido e desempenado com os interesses dos seus utilizadores, as interações de milhões de agentes poderiam produzir resultados que nenhum sujeito desejava ou escolhia. Por exemplo, pesquisas mostra que os agentes que não apresentam preconceitos individuais ainda podem gerar preconceitos coletivos em graduação.

E deixando de lado o que os agentes fazem entre si, há o que eles fazem pelos seus usuários. Uma esfera pública em que todos têm um agente personalizado e sintonizado com as suas opiniões existentes não é, de forma alguma, uma esfera pública. É um conjunto de mundos privados, cada um deles internamente congruente, mas colectivamente inóspito ao tipo de deliberação partilhada que a democracia exige.

Tomadas em conjunto, estas três transformações – na forma uma vez que sabemos, uma vez que agimos e uma vez que nos envolvemos na governação colectiva – equivalem a uma mudança fundamental na textura da cidadania. Num horizonte próximo, as pessoas formarão as suas opiniões políticas através de filtros de IA, exercerão a sua gesto cívica através de agentes de IA e participarão em instituições e discussões públicas que são elas próprias moldadas pelas interacções de milhões de tais agentes.

A democracia de hoje não está preparada para isso. As nossas instituições foram concebidas para um mundo em que o poder era exercido de forma visível, a informação viajava suficientemente lentamente para ser contestada e a verdade parecia mais partilhada, ainda que de forma imperfeita. Tudo isso já estava se desgastando muito antes da chegada da IA ​​generativa. E, no entanto, esta não precisa ser uma história de declínio. Evitar esse resultado exige que projetemos um pouco melhor.

Na estrato informativa, as empresas de IA devem intensificar os esforços existentes para prometer que os resultados dos modelos sejam verdadeiros. Eles também devem explorar algumas descobertas iniciais promissoras que os modelos de IA podem ajudar a reduzir a polarização. Um recente avaliação de campo de verificações de fatos geradas por IA em X descobriram que pessoas com uma variedade de pontos de vista políticos consideraram as notas escritas por IA mais úteis do que as escritas por humanos.

O cláusula ainda não foi revisto pelos pares, mas esta é uma invenção potencialmente revolucionária: a verificação de factos assistida pela IA pode ser capaz de saber o tipo de credibilidade interpartidária que tem escapado à maioria dos esforços humanos manuais. Uma maior compreensão e transparência sobre uma vez que os modelos fazem estas afirmações e priorizam as fontes no processo poderiam ajudar a edificar ainda mais a crédito do público.

Na estrato agente, precisamos de formas de estimar se os agentes de IA representam fielmente os seus utilizadores. Um agente nunca deve ter uma agenda própria ou deturpar as opiniões de seus usuários – um requisito tecnicamente terrificante em domínios onde os usuários podem não ter pronunciado explicitamente quaisquer preferências. Mas a representação leal também não pode tornar-se um inferior do raciocínio motivado.

Um agente que se recusa a apresentar informações desconfortáveis, que protege o seu utilizador de questionar crenças anteriores ou que não se adapta a uma mudança de atitude, não está a agir no melhor interesse da pessoa.

📚 Leia Também no NeuralNet:

• 👉 Guia de Inteligência Artificial para Iniciantes
• 👉 Melhores Ferramentas de IA para Aumentar sua Produtividade
• 👉 Ética e Regulação de IA no Brasil: O Que Você Precisa Saber

⚠️ Aviso Importante: Oriente teor é somente para fins educacionais e informativos. Não constitui aconselhamento técnico, jurídico ou profissional. Tecnologias de IA evoluem rapidamente e podem apresentar limitações, vieses ou riscos. Sempre valide informações em fontes oficiais e use ferramentas de IA com responsabilidade e sátira.