Réponse aux questions : mélange de recherche sémantique et d'IA générative
Pour répondre à des questions sur la connaissance d'un domaine, la stratégie que nous préférons chez NLP Cloud est la suivante : faites d'abord une requête avec la recherche sémantique afin de récupérer les ressources qui répondent le mieux à votre question, puis utilisez la génération de texte pour répondre à la question en vous basant sur ces ressources, comme un être humain.
Supposons que nous soyons un revendeur d'imprimantes HP et que nous souhaitions répondre aux questions de nos clients sur notre site web.
Tout d'abord, nous devrons calculer les embeddings et les stocker dans une base de données vectorielle, ou créer notre propre modèle de recherche sémantique. Ici, il sera composé de 3 exemples seulement, mais dans la vraie vie, vous pouvez inclure jusqu'à 1 million d'exemples lorsque vous utilisez la recherche sémantique sur NLP Cloud. Il suffit de créer un fichier CSV et d'y placer les éléments suivants :
HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online.
Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert.
HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00.
Nous téléchargeons ensuite notre jeu de données CSV dans NLP Cloud et cliquons sur "Create model" (Créer un modèle). Au bout d'un moment, notre propre modèle de recherche sémantique contenant notre propre connaissance du domaine sera prêt et nous recevrons une URL API privée pour l'utiliser.
Posons une question à notre tout nouveau modèle à l'aide du client NLP Cloud Python :
import nlpcloud
# We use a fake model name and a fake API key for illustration reasons.
client = nlpcloud.Client("custom-model/5d8e6s8w5", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.semantic_search("How long is the warranty on the HP Color LaserJet Pro?")
Le modèle renvoie rapidement les informations suivantes avec un temps de réponse court :
{
"search_results": [
{
"score": 0.99,
"text": "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Nous récupérons maintenant la réponse qui a le score le plus élevé (nous pourrions parfaitement récupérer plusieurs réponses) : "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
Cette réponse est correcte, mais elle n'est pas très conviviale, car l'utilisateur doit lire un long texte pour obtenir la réponse. Nous posons donc à nouveau la même question à notre point final de réponse aux questions, en utilisant le modèle ChatDolphin. Nous utiliserons la réponse de la recherche sémantique comme contexte :
import nlpcloud
client = nlpcloud.Client("chatdolphin", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.question(
"""How long is the warranty on the HP Color LaserJet Pro?""",
context="""Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."""
)
Il renvoie la réponse suivante :
{
"answer": "The warranty lasts for three years."
}
Pas mal, non ?
