Cassandra e GPT - Usando LLMs com dados proprietários
by Samuel Matioli
Neste vídeo, exploramos como integrar LLMs, como o GPT, com o Apache Cassandra para enriquecer prompts com contexto adicional, utilizando dados proprietários. Aprenda a configurar um banco de dados Cassandra, gerar embeddings e usar esses dados para melhorar as respostas do GPT.
Principais pontos
Treinamento de modelos LLM
Instalação de dependências Python
Criação e configuração de um banco Cassandra e DataStax Astra
Uso de libraries Python (OpenAI e Cassandra)
Conexão com Cassandra/Astra
Criação de tabelas para armazenamento de vetores/embeddings
Carregamento e geração de embeddings de dados de produtos
Execução de prompts ampliados com dados proprietários
Introdução ao Retrieval Augmented Generation (RAG)