Nouvelle polémique pour la firme de Mountain View. La fonctionnalité AI Overviews, qui fournit des réponses alimentées par l’intelligence artificielle (IA) dans le moteur de recherche Google, génère de nombreuses erreurs depuis son déploiement récent.
De fausses informations inquiétantes
En quelques jours seulement, une pluie de publications dénonçant des résultats de recherche faux, voire grotesques, de la part d’AI Overview a inondé la toile. Annoncé en grande pompe lors de la Google I/O, l’outil génère des résumés d’informations au-dessus des résultats de recherche traditionnels, évitant à l’internaute de devoir naviguer à travers plusieurs liens pour obtenir la réponse qu’il souhaite.
Pour l’heure néanmoins, force est de constater qu’il demeure très imprécis. Il a par exemple recommandé d’insérer de la colle dans une recette de pizza, ou d’ingérer de la roche pour en extraire les nutriments. Des contre-vérités d’autant plus inquiétantes qu’elles touchent directement la santé. L’IA a même conseillé de « fumer deux à trois cigarettes quotidiennes pendant la grossesse ».
« La plupart des exemples que nous avons vus concernaient des requêtes peu courantes, et nous avons également vu des exemples qui avaient été trafiqués ou que nous ne pouvions pas reproduire », se défend Google dans les lignes de The Verge. La société maintient que sa fonctionnalité délivre des « informations de très haute qualité », mais est contrainte de désactiver manuellement l’outil pour des recherches spécifiques, au fur et à mesure de la publication de captures d’écran compromettantes sur les réseaux sociaux.
Image : Google / YouTube.
Google traverse une période tumultueuse
Cette nouvelle controverse met en lumière les difficultés rencontrées par la firme de Mountain View pour rester à jour dans la course à l’IA générative. Fin 2022, elle était prise de court par le lancement de ChatGPT puis, quelques mois plus tard, par l’intégration de l’IA dans Bing.
La société a alors accéléré pour rivaliser avec ces deux groupes, d’autant plus que son secteur d’activité principal, les moteurs de recherche était directement menacé. Le basculement des jeunes utilisateurs vers TikTok ou Instagram pour la recherche a alourdi la pression pesant sur les épaules de Google.
Le lancement rapide de Bard a été vivement critiqué en interne, et subi des moqueries en ligne. La mise en ligne plus récente de Gemini a également provoqué un tollé, car l’outil générait des images historiquement erronées. Il a depuis été suspendu. La mésaventure d’AI Overviews ne fait qu’empirer la situation, alors que Google est reconnu pour son avance technologique et ses produits de pointe.
Le géant du Web ne peut pas faillir, Google Search étant utilisé par des milliards de personnes pour rechercher des informations exactes, précises et de qualité. La situation rappelle par ailleurs que les IA génératives sont encore loin d’être entièrement fiables, leurs fournisseurs peinant encore à lutter contre leur propension à halluciner.
