Zoë Schiffer: Oh, wow.

Leah Feiger: Ouais, exactement. Qui a déjà l’oreille de Trump. Cela s’est répandu. Et donc nous parlions de gens allaient chez X Grok et ils se disaient: « Grok, qu’est-ce que c’est? » Et qu’est-ce que Grok leur a dit? Non, non. Grok a déclaré que ce n’étaient pas des images de la manifestation à Los Angeles. Ils ont dit qu’ils venaient d’Afghanistan.

Zoë Schiffer: Oh. Grok, non.

Leah Feiger: Ils se disaient: « Il n’y a pas de soutien crédible. C’est une mauvaise attribution. C’était vraiment mauvais. C’était vraiment, vraiment mauvais. Et puis il y avait une autre situation où un autre couple de personnes partageait ces photos avec Chatgpt et Chatgpt était également comme », oui, c’est l’Afghanistan. Ce n’est pas exact, etc., etc. Ce n’est pas génial.

Zoë Schiffer: Je veux dire, ne me lancez pas ce moment à venir après que beaucoup de ces plateformes ont systématiquement démantelé leurs programmes de vérification des faits, ont décidé de laisser délibérément à travers beaucoup plus de contenu. Et puis vous ajoutez des chatbots dans le mélange qui, pour toutes leurs utilisations, et je pense qu’ils peuvent être très utiles, ils sont incroyablement confiants. Quand ils font des hallucine, quand ils gâchent, ils le font d’une manière très convaincante. Vous ne me verrez pas ici en défendant la recherche Google. Trash absolu, cauchemar, mais c’est un peu plus clair quand cela s’égare, lorsque vous êtes sur un blog aléatoire et non crédible que lorsque Grok vous dit avec une confiance totale que vous voyez une photo de l’Afghanistan quand vous ne l’êtes pas.

Leah Feiger: C’est vraiment préoccupant. Je veux dire, c’est hallucinant. Il est entièrement hallucinant, mais c’est avec le fanfaron du plus ivre de fraternité que vous ayez malheureusement été coincé lors d’une fête de votre vie.

Zoë Schiffer: Cauchemar. Cauchemar. Ouais.

Leah Feiger: Ils sont comme « Non, non, non. Je suis sûr. Je n’ai jamais été plus sûr de ma vie. »

Zoë Schiffer: Absolument. Je veux dire, d’accord, alors pourquoi les chatbots donnent-ils ces réponses incorrectes avec une telle confiance? Pourquoi ne voyons-nous pas simplement dire: « Eh bien, je ne sais pas, alors peut-être que vous devriez vérifier ailleurs. Voici quelques endroits crédibles pour rechercher cette réponse et cette information. »

Leah Feiger: Parce qu’ils ne font pas ça. Ils n’admettent pas qu’ils ne savent pas, ce qui est vraiment sauvage pour moi. Il y a en fait eu beaucoup d’études à ce sujet, et dans une étude récente des outils de recherche d’IA au Tow Center for Digital Journalism de l’Université Columbia, il a révélé que les chatbots étaient « généralement mauvais pour refuser de répondre aux questions auxquelles ils ne pouvaient pas répondre avec précision. Offrant plutôt que des réponses incorrectes ou spéculatives ». Vraiment, vraiment, vraiment sauvage, surtout quand on considère le fait qu’il y avait tellement d’articles lors des élections sur: « Oh non, désolé, je suis Chatgpt et je ne peux pas peser sur la politique. » Vous êtes comme, eh bien, vous pesez beaucoup maintenant.

Zoë Schiffer: D’accord, je pense que nous devrions s’arrêter là-bas sur cette note très horrible et nous reviendrons. Bienvenue à Retour à Vallée étrange. Je suis rejoint aujourd’hui par Leah Feiger, rédactrice en chef de la politique chez Wired. D’accord, donc au-delà d’essayer de vérifier les informations et les images, il y a également eu un tas de rapports sur des vidéos trompeuses générées par l’IA. Il y avait un compte Tiktok qui a commencé à télécharger des vidéos d’un prétendu soldat de la Garde nationale du nom de Bob qui avait été déployé pour les manifestations de Los Angeles, et vous pouviez le voir dire des choses fausses et inflammatoires comme le fait que les manifestants « effleurent des ballons pleins d’huile » et l’une des vidéos avait près d’un million de vues. Donc, je ne sais pas, j’ai l’impression que les gens doivent devenir un peu plus aptes à identifier ce genre de fausses images, mais c’est difficile dans un environnement qui est intrinsèquement sans contexte comme un article sur X ou une vidéo sur Tiktok.