Andrea Colamedici inventou um filósofo, apresentou -o como autor e produziu um livro, secretamente gerado com a ajuda da inteligência artificial, sobre manipular a realidade na era digital.

As pessoas foram enganadas. As acusações de desonestidade, ética ruim e até ilegalidade voaram.

Mas o homem por trás disso, o Sr. Colamedici, insiste que não era uma farsa; Em vez disso, ele descreveu isso como um “experimento filosófico”, dizendo que ajuda a mostrar Como a IA “destruirá lenta mas inevitavelmente nossa capacidade de pensar”.

O Sr. Colamedici é um editor italiano que – juntamente com duas ferramentas de IA – gerou “Hypnocracy: Trump, Musk e a arquitetura da realidade”, um texto em burburinho Ostensivamente escritos por Jianwei Xun, o filósofo inexistente.

Em dezembro, a imprensa do Sr. Colamedici imprimiu 70 cópias de uma edição italiana que ele supostamente traduziu. Ainda assim, o livro rapidamente ganhou a atenção, sendo coberto por meios de comunicação em AlemanhaAssim, EspanhaItália e França, e ser citado por luminares tecnológicos.

“Hypnocracy” descreve como as pessoas poderosas usam a tecnologia para moldar a percepção com “narrativas hipnóticas”, colocando o público em uma espécie de transe coletivo que pode ser exacerbado ao confiar na IA

A publicação do livro veio quando escolas, empresas, governos e usuários da Internet em todo o mundo estão lutando com como usar – e não usar – ferramentas de IA, quais gigantes da tecnologia e startups disponibilizaram amplamente. (O New York Times processou o OpenAI, o criador do ChatGPT, e seu parceiro, a Microsoft, alegando violação de direitos autorais de conteúdo de notícias. As duas empresas negaram as reivindicações do processo.)

No entanto, o livro acabou sendo também uma demonstração de sua tesetocando leitores involuntários.

O livro, disse Colamedici, deveria mostrar os perigos da “apatia cognitiva” que poderia se desenvolver se o pensamento fosse delegado às máquinas e se as pessoas não cultivam seu discernimento.

“Tentei criar uma performance, uma experiência que não é apenas o livro”, disse ele.

O Sr. Colamedici ensina o que ele chama de “a arte de solicitar” ou como fazer perguntas inteligentes da IA ​​e dar instruções acionáveis, no Instituto de Design Europeu em Roma. Ele disse que muitas vezes vê duas respostas extremas, se opostas, a ferramentas como o ChatGPT, com muitos estudantes que desejam confiar nelas exclusivamente e a muitos professores pensando que a IA está inerentemente errada. Em vez disso, ele tenta ensinar os usuários a discernir o fato da fabricação e como se envolver com as ferramentas produtivamente.

O livro é uma extensão desse esforço, argumentou o Sr. Colamedici. As ferramentas de IA que ele usou o ajudaram a refinar as idéias, enquanto pistas (reais e inventadas) sobre o autor falso (online e no livro), sugeriram intencionalmente problemas em potencial para levar os leitores a fazer perguntas, disse ele.

O primeiro capítulo discute a autoria falsa, por exemplo, e o livro contém referências obscuras à cultura italiana que não vem de um jovem filósofo de Hong Kong, que eventualmente ajudou a liderar um revisor do verdadeiro autor que opera como tradutor.

Sabina Minardi, editora da Outlet L’Ebrofe, italiana, pegou as pistasexpondo Jianwei Xun como uma falsa no início deste mês.

Sr. Colamedici então Atualizado a página biográfica do autor falso e falou publicaçõesincluindo alguns enganado por seu trabalho. Novas edições e trechos impressos este mês vêm com pós -descritos sobre a verdade.

Mas alguns que adotaram o livro agora a rejeitam e questionam se o Sr. Colamedici agiu de forma antiética ou quebrou uma lei da União Européia sobre o uso de IA

A agência de notícias francesa Le Figaro escreveu sobre “L’Affaire Jianwei Xun”Explicando que o“ problema ”com sua entrevista anterior do filósofo de Hong Kong era que“Ele não existe. ”

O jornal espanhol El País na Espanha retirou um relatório sobre o livro, substituindo -o por uma nota Isso disse: “O livro não reconheceu o envolvimento da IA ​​na criação do texto, uma violação da nova Lei da AI européia”.

Artigo 50 Dessa lei diz que, se alguém usa um sistema de IA para gerar texto para fins de “informar o público sobre questões de interesse público”, deve (com exceções limitadas) ser divulgada que a IA generativa foi usada, disse Noah Feldman, professor de direito da Universidade de Harvard que aconselha as empresas de tecnologia.

“Essa disposição em seu rosto parece cobrir o criador do livro e talvez qualquer pessoa republicando seu conteúdo”, disse ele. “A lei não entra em vigor até agosto de 2026, mas é comum na UE para pessoas e instituições que desejam seguir leis que parecem moralmente boas, mesmo quando ainda não se aplicam tecnicamente”.

Jonathan Zittrain, professor de ciência da lei e da computação em Harvard, disse que estava mais inclinado a ligar para o livro de Colamedici de “uma arte performática, ou simplesmente marketing, que envolvia usar um pseudônimo”.

O Sr. Colamedici está desapontado que alguns campeões iniciais criticaram o experimento. Mas ele planeja continuar usando a IA para demonstrar os próprios perigos que levanta. “É o momento”, disse ele. “Estamos arriscando a cognição. É usá -la ou perdê -la.”

Ele disse que planeja ter Jianwei Xun – descrevendo -o como um coletivo de humanos e inteligência artificial – ensinar um curso sobre a IA no próximo outono.