La génération de récupération augmentée (RAG) est le concept consistant à fournir de grands modèles de langage (LLM) avec des informations supplémentaires provenant d’une source de connaissances externe. Cela leur permet de générer des réponses plus précises et contextuelles tout en réduisant les hallucinations. Dans cet article, nous fournirons un guide étape par étape pour créer une application RAG complète à l’aide du dernier LLM open source de Google. Gemme 7B et
Table des matières:
- Mise en route et configuration de l’environnement de travail
- Téléchargez et divisez l’ensemble de données Cosmopedia
- Génération d’intégration avec le modèle de transformateurs de phrases
- Stockez les intégrations dans la base de données vectorielles Upstash
- Présenter et utiliser Gemma 7B LLM
- Interrogation de l’application RAG
Vous pouvez essayer Upstash Vector Database gratuitement à partir d’ici :
La première étape de la création d’une application RAG consiste à préparer l’environnement de travail. Nous commencerons par télécharger les packages que nous utiliserons pour créer l’application :
%pip install -q -U langchain torch transformers sentence-transformers datasets tiktoken upstash_vector
Ensuite, nous importerons les packages et bibliothèques qui seront utilisés :
import torch
from upstash_vector import Vector
from datasets import load_dataset
from tqdm import tqdm, trange
from langchain_community.document_loaders.csv_loader import CSVLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.embeddings import HuggingFaceEmbeddings
from transformers import AutoTokenizer, AutoModelForCausalLM
from transformers import AutoTokenizer, pipeline
from langchain import HuggingFacePipeline
from langchain.chains import RetrievalQA