La recherche simple

Nous l'avons vu, les robots conversationnels peuvent faire des recherches sur le web. Il s'agit d'une fonctionnalité optionnelle ou ponctuelle : l'IA peut chercher sur le web quand on lui demande ou quand elle détecte qu'elle a besoin d'informations actuelles.

D'un point de vue technique, le processus reste assez basique et ne prend que quelques secondes :

1. Le LLM transforme le prompt en mots-clés optimisés pour la recherche ;
2. Il fait sa requête sur un index de moteur de recherche ;
3. Il accède aux sites pertinents, puis combine le prompt original avec les informations qu'il vient de récupérer ;
4. Il génère une réponse finale sourcée et en langage naturel.

Ce processus est appelé RAG (Retrieval Augmented Generation ou génération augmentée par récupération).

Intérêt du RAG

La fonction de recherche reposant sur le RAG permet de s'affranchir de certaines limites des LLM, notamment en s’appuyant sur des bases de connaissances externes (index des moteurs de recherche par exemple) plutôt que de se limiter à générer des mots s'enchaînant de façon probabiliste à partir de données d'entraînement parfois obsolètes. 

De plus, l'utilisateur peut voir le processus entrepris par l'IA et vérifier les sources qu'elle a récupérées pour générer sa réponse, ce qui améliore la transparence et la fiabilité des informations et permet de réduire les hallucinations.

Toutefois, cette recherche simple reste limitée : elle effectue seulement quelques recherches ciblées et ne garantit pas une exploration exhaustive du sujet. Pour des besoins de recherche plus approfondis, une autre approche existe : la recherche approfondie.

La recherche approfondie (deep search)

Contrairement à la recherche simple qui effectue quelques requêtes ciblées en quelques secondes, la recherche approfondie (ou deep search) utilise le RAG de manière intensive et itérative.

Concrètement, lorsqu'on lance une recherche approfondie, l'IA ne se contente pas d'une seule série de recherches. Elle suit un plan de recherche structuré et effectue de multiples cycles successifs de manière autonome : elle recherche des informations, analyse les résultats, identifie les manques ou contradictions, puis relance de nouvelles recherches plus ciblées. Ce processus peut impliquer 10 à 50 recherches ou plus, avec lecture complète de sources, croisement d'informations et vérification des données.

Le résultat n'est plus une simple réponse conversationnelle, mais un rapport détaillé comprenant une synthèse argumentée, une analyse comparative des sources, et une bibliographie complète. Cette approche méthodique prend généralement 5 à 15 minutes, mais offre une profondeur d'analyse comparable à la démarche itérative de la recherche documentaire.

Pour exemple, vous trouverez ci-dessous un rapport généré après une recherche approfondie sur ChatGPT.

Quelles limites pour les fonctions de recherche ?

La recherche approfondie, proposée par des outils comme Perplexity ou ChatGPT, est potentiellement utile pour des besoins académiques ou professionnels nécessitant une exploration large d'un sujet.

De plus, la fonction de recherche, qu'elle soit simple ou approfondie, permet de combler certaines lacunes des IA génératives "basiques" : moins d'hallucinations, plus de transparence sur la façon de procéder, possibilité de vérifier les sources...

Mais comme vous vous en doutez, il subsiste quelques limites. Voyons cela à travers 3 rapides études de cas.