I falsi messaggi vocali, noti anche come “deepvoices”, sono attualmente di gran moda nello spazio della disinformazione online. Queste voci false generate dall’intelligenza artificiale sono diventate un potente strumento per influenzare l’opinione pubblica e seminare confusione.
Nel New Hampshire, durante le primarie democratiche e repubblicane, alcuni elettori sono rimasti vittime di questi falsi messaggi vocali. Hanno ricevuto chiamate che affermavano di provenire da Joe Biden, che li esortava a non votare alle elezioni primarie. Queste chiamate erano così convincenti che molti destinatari furono ingannati.
Le “deepvoices” vengono create utilizzando software di intelligenza artificiale in grado di clonare e imitare perfettamente una voce. Questi software sono facilmente disponibili online, rendendo la creazione di messaggi vocali falsi accessibile a tutti. Carica semplicemente un campione della voce della persona che vuoi imitare, quindi il software utilizza algoritmi per generare un audio quasi indistinguibile dalla voce originale.
La difficoltà sta nell’individuare questi falsi messaggi vocali. A differenza dei video deepfake, in cui è possibile individuare incongruenze visive, l’audio falso è molto più difficile da rilevare. In effetti, è raro avere accesso alla registrazione vocale originale, il che rende difficile il confronto. Inoltre, tendiamo a fidarci ciecamente di ciò che sentiamo, il che rende più facile la diffusione della disinformazione.
Le conseguenze di questi falsi messaggi vocali sono profonde. Possono influenzare i risultati elettorali manipolando gli elettori e screditando i candidati. Inoltre, alimentano la sfiducia e lo scetticismo nei confronti dei media e dell’informazione online, minando la nostra fiducia nella democrazia.
Di fronte a questo problema crescente, è essenziale sviluppare strumenti di rilevamento affidabili per identificare i messaggi vocali falsi. Aziende come Loccus.ai e Reality Defender hanno già intrapreso questa strada, ma c’è ancora molto lavoro da fare per rendere questi strumenti accessibili a tutti.
In conclusione, i falsi messaggi vocali, o “deepvoices”, sono diventati un formidabile strumento di disinformazione. La loro facile creazione e la difficoltà di identificazione li rendono una seria minaccia per la democrazia e la fiducia del pubblico nelle informazioni online. È urgente trovare soluzioni per combattere questa nuova forma di manipolazione.