A inteligência artificial foi novamente o tema quente de discussão no Web Summit anual em Lisboa, Portugal. Durante o dia de encerramento do evento, a denunciante e ativista Chelsea Manning expressou preocupação com o desenvolvimento da inteligência artificial e o choque entre humanos e tecnologia.

“Vivemos nesta era em que estamos rodeados de tecnologia”, disse Manning. “Encontrei numerosos exemplos deste conflito entre os humanos que somos e a tecnologia, e a forma como a tecnologia está a moldar a forma como interagimos uns com os outros, e como as instituições fazem parte disso.”

Manning diz que sua vida foi moldada pela exposição ao mundo digital, incluindo ser sem-teto, ingressar no exército e ir para a prisão por vazar documentos militares para o WikiLeaks em 2010.

“Deixo isso orientar a forma como integro, vejo a tecnologia e quero construir um futuro maior e melhor”, disse Manning.

Manning questionou os motivos por trás do rápido desenvolvimento da tecnologia de IA, quem a tecnologia acabará por beneficiar e se o impulso para a inteligência artificial está a mercantilizar a vida quotidiana.

“Estaremos simplesmente esquecendo o elemento humano e transformando cada interação que temos no dia a dia em uma mercadoria?” Manning disse. “Esta mercadoria nos mostra fazendo algo tão simples como deslizar em um aplicativo ou clicar em um ícone de coração bonitinho.”

Chamando a inteligência artificial e os grandes modelos de linguagem de palavras da moda da época, Manning apontou para a grande quantidade de dados com os quais esses modelos são treinados, citando a Wikipedia, livros didáticos, vídeos e imagens como exemplos.

Manning destacou que, ao contrário dos arquivos em um servidor, esses dados estão incorporados nos pesos e contrapesos do modelo e não podem ser simplesmente excluídos, o que contrasta com o Regulamento Geral de Proteção de Dados da União Europeia (RGPD) e direitos de privacidade, onde os indivíduos podem solicitar a exclusão de dados.

“Acho que recai sobre nós, como tecnólogos, a responsabilidade de desenvolver ferramentas que levem em conta o fato de que as pessoas precisam ter alguma aparência de privacidade e que as comunicações não devem ser um recurso a ser extraído e mercantilizado”, Manning disse. “Não quero viver em um mundo onde os relacionamentos que temos sejam um valor numérico.”

Com grandes modelos de linguagem, advertiu Manning, uma vez incorporadas as informações pessoais ou privadas de uma pessoa, elas se tornam uma parte permanente do modelo, tornando impossível a remoção.

Em 2021, Manning ingressou na empresa suíça Nym Technologies como consultor de segurança e defensor da privacidade. Nym Technologies lançou seu projeto focado em privacidade Nym, uma identidade descentralizada plataforma, em 2020 na Cosmos cadeia de bloqueio.

“Acho que meu foco de forma mais ampla e geral está na importância de ter alguma aparência de privacidade – por meio de criptografia ou dos meios técnicos e tecnológicos que temos – e ser capaz de usar isso intuitivamente”, disse Manning. “Não deve ser difícil e não deve ser difícil de usar.”

Manning também destacou a ascensão e aumento de deepfakes gerados por IA.

“As coisas que chamaram minha atenção nos últimos seis meses não foram o fato de que as pessoas estão usando deepfakes no discurso e na discussão pública, mas o fato de que eles podem ser feitos e o fato de que existem e são usados ​​para lançar dúvidas em informações reais verificadas”, disse Manning. “Acho que essa tendência faz com que as pessoas questionem cada vez mais a sua própria realidade.”

À medida que os deepfakes se tornam mais avançados, os legisladores temem que possam influenciar os próximos das eleições ou combustível odiar on-line. Uma solução proposta por Manning foi usar criptografia para verificar informações.

Manning disse anteriormente Descifrar que Bitcoin apelou à sua paixão pela criptografia, pela proteção de informações e pela construção de redes descentralizadas baseadas em criptografia.

“Sei que é atraente poder dizer: posso escolher minha própria realidade, posso escolher o que gosto”, disse Manning. “Mas a realidade é que o mundo material físico real irá se deparar com isso em algum momento. E penso que, quando se trata do clima em particular, não seremos capazes de simplesmente fingir que isso está fora.”

Editado por Ryan Ozawa.

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://decrypt.co/206449/chelsea-manning-web-summit-ai-technology-privacy