Bienvenue sur IA Pulse Weekend. En vous abonnant, vous recevez tous les samedis matin, l’essentiel de ce qu’il s’est passé cette semaine autour de l’IA : une sélection de 3 articles avec pour chacun un résumé rapide à lire, plus 1 article de fond pour ouvrir l’esprit et réfléchir, et pour finir 1 podcast à écouter.
D’un coté, nous les humains, nous voulons absolument pouvoir détecter tous les contenus générés par les modèles d’IA. D’un autre nous développons de plus en plus d’outils IA pour produire toutes les sortes de contenus imaginables… L’humain va très bien, c’est même l’IA qui me l’a dit pas plus tard que ce matin.
Enfin, tout ça c’est surtout une belle opportunité pour tous nos champions de l’économie de l’attention, ceux qui nous font rester devant nos écrans, en swippant frénétiquement, et qui nous annoncent à tour de bras des compagnons IA pour aider à nous “engager” toujours plus. On ne compte plus les communiqués triomphants à propos de l’arrivée de ces “compagnons” dans nos applis adorées : Facebook, Instagram, l’Assistant Google, TikTok, Uber, Tinder…
Pendant ce temps, Google a mis à jour son expérimentation de l’IA générative dans les résultats de recherche. Enfin des sources, des dates, des liens cliquables et des vidéos ! C’est beau, et Google montre comment il ne compte pas tuer totalement son modèle de revenus basé sur le clic.
Et pour illustrer la frénésie de l’économie de l’attention autour des IA génératives, Meta va doper des réseaux sociaux avec des chatbots imitant des personnalités historiques ou non, nous permettant de discuter comme on le ferait avec son voisin de palier.
Tout ça, en sachant pertinemment que la technologie actuelle à la base des LLM a certainement un vice de conception et que nous ne sommes pas prêts de nous débarrasser de ses hallucinations. Ce n’est pas comme si on le savait depuis 2017, année de naissance des Transformers - non pas le film, mais les réseaux neuronaux.
Enfin n’oubliez pas de réfléchir, même dans les bouchons de ce samedi noir : il y a toujours des humains derrière nos modèles d’IA - des humains à l’autre bout du globe.
📰 Les 3 infos de la semaine
🕵🏻 Google’s AI search is getting more video and better links
The Verge, 02/08/2023
Cet article met en lumière les améliorations apportées au Search Generative Experience (SGE) de Google, qui utilise des modèles d’IA générative dans les résultats de recherche. Actuellement en phase d'expérimentation, le SGE enrichit désormais les résultats de recherche avec des images et des vidéos, offrant une expérience utilisateur plus immersive. Google s'efforce également d'optimiser la vitesse et le contexte de son cadre de résumé.
Sundar Pichai, PDG de Google, envisage le SGE comme le futur de la recherche en ligne. L'intégration croissante de YouTube dans les résultats de recherche, avec des références à des moments précis des vidéos, est un autre point fort. Google s'attache aussi à indiquer la date de publication des articles pour indiquer la fraîcheur des informations. Malgré les défis de temps de réaction et de scalabilité, le SGE s'est avéré précieux pour fournir des idées et des options face à des questions ouvertes.
🗣️ Meta plans AI-powered chatbots to boost social media numbers
Ars Technica, 01/08/2023
Ars Technica parles des plans de Meta pour développer des chatbots alimentés par l'IA avec des personnalités uniques pour augmenter l'engagement des utilisateurs sur ses plateformes, dont Facebook et Instagram. Meta développe des chatbots, appelés "personas", qui imitent les conversations humaines et prennent diverses formes de caractère, comme Abraham Lincoln ou un conseiller de voyage au style surfeur.
L'introduction de ces chatbots est une réponse à la concurrence croissante de plateformes comme TikTok et à un intérêt croissant pour la technologie de l'IA. Cependant, certains experts ont exprimé des préoccupations concernant les risques potentiels pour la vie privée des utilisateurs interagissant avec les chatbots, car cela pourrait exposer davantage leurs données à l'entreprise. Malgré les risques potentiels, Meta prévoit de lancer ses personas artificielles dès septembre.
🤪 Tech experts are starting to doubt that ChatGPT and A.I. ‘hallucinations’ will ever go away: ‘This isn’t fixable’
Fortune, 01/08/2023
Fortune aborde le fameux problème des "hallucinations" dans les modèles de langage artificiel tels que ChatGPT : ces systèmes peuvent produire des informations fausses ou inventées car ils n’ont aucune prise sur le réel.
Les développeurs, comme OpenAI, s'efforcent de rendre leurs modèles plus proche de la “vérité”, mais personne n’est capable de dire s'ils seront jamais assez fiables pour accomplir des tâches critiques. Certains experts, comme la professeure de linguistique Emily Bender, estiment que ce problème est inhérent à la technologie employée et que nous n’arriverons pas à le résoudre sans changer de technologie.
L'article indique aussi que certaines entreprises voient les hallucinations comme un bonus, car elles peuvent générer des idées créatives, mais pour des applications nécessitant une précision absolue, les hallucinations sont un problème bloquant.
🧠 L’article qui fait réfléchir - et qu’il faut absolument lire
L’humain derrière l’IA. Échange avec Clément Le Ludec et Maxime Cornet
Me, I’m not
Dans cette interview publiée sur le site du Conseil National du Numérique en France, les chercheurs Maxime Cornet et Clément Le Ludec nous font comprendre que l'IA n'est pas une machine autonome qui fonctionne à l'énergie solaire et à l'eau de pluie. Non, elle a besoin de l'ingrédient secret : le travail humain.
Nos deux chercheurs s'interrogent sur l'idée que l'IA générative pourrait remplacer le travail humain. Apparemment, nos tâches non routinières et nos interactions interpersonnelles ne sont pas encore à la portée de nos amis robotiques.
Ils nous rappellent que l'entraînement des modèles d'IA, bien que crucial, n'est qu'une petite partie de la grande aventure de la production de l'IA. Quel est le véritable trésor dans tout ça ? Des données de qualité, souvent façonnées par des travailleurs en Afrique pour nos chères IA françaises.
Ils abordent alors le travail d'annotation des données, souvent externalisé à Madagascar. Les travailleurs se sentent invisibles, tandis que les entreprises françaises de l'IA ont une vision ambivalente de ce travail. C'est comme si on disait : "Votre travail est essentiel, mais pas assez pour être bien payé".
Enfin, ils appellent à une régulation de l'IA. Ils suggèrent même la désignation d'un "responsable de l'IA éthique et transparente". Un nouveau poste à pourvoir, chers chercheurs d'emploi !
📻 Le podcast de la semaine
Comptoir IA : Nicolas Gaudemet - Chief AI OnePoint
Dans le dernier épisode de Comptoir IA, Nicolas Guyon reçoit avec Nicolas Gaudemet, Chief AI Officer chez Onepoint. Gaudemet, formé en IA après avoir été inspiré par le phénomène AlphaGo, partage sa vision de l'IA transformant les entreprises en entités conversationnelles et stimulant leur créativité.
Il débunke le mythe du prompt engineer payé 335K$/an et discute des défis des réseaux sociaux entre l'engagement et la prévention de la diffusion de contenus illégaux. Nicolas Gaudemet parle aussi de Mistral AI, de leur engagement pour l'open-source et la souveraineté technologique, et mentionne le Chinchilla paper, une méthode d'optimisation de l'entraînement des modèles IA. Il commente la lettre ouverte de Cédric O sur la régulation de l'IA et partage ses réflexions sur l'anthropomorphisme des modèles IA.
*** Attention autopromo ***
Si le sujet de la détection des textes IA vous intéresse, n’hésitez pas à lire les tests que j’ai commis : dans cette première partie, je m’attache à définir l’efficacité des outils dédiés à la détection des textes écrits par l’IA. Spoiler : vous connaissez déjà la réponse.
Mais le meilleur restera à venir dans une seconde partie publiée dans les prochains jours : quel taux de faux positifs ces outils détectent-ils ? C’est-à-dire, quel est le pourcentage de textes classés comme produits par l’IA alors que de vrais humains en sont les auteurs ?
*** Attention fin autopromo ***
N’hésitez à me contacter si vous avez des remarques et suggestions : olivier@255hex.ai
Partagez cette newsletter
Et si vous n’êtes pas abonné, il ne tient qu’à vous de le faire !
Bon weekend !