Estratégias para aprimorar sua aplicação de RAG (AI) com Postgres
Roberto Mello
Crunchy Data
2024-11-08 09:00:00 - AUDITORIO 2
RAG - Retrieval-augmented Generation - é um método eficaz para utilizar ferramentas baseadas em IA, fornecendo conhecimento a um Large Language Model. Isso fundamenta o LLM, melhora a saída e requer muito menos esforço e custo em comparação ao ajuste fino. Mas o RAG depende da relevância, densidade e detalhes dos documentos recuperados. Em outras palavras, a qualidade da saída do seu RAG depende da qualidade dos documentos recuperados.
Muitos estão usando embeddings de vetores para encontrar contexto para alimentar um LLM, mas essa é uma abordagem ingênua e não resolve a pesquisa magicamente. O Postgres tem diferentes ferramentas para ajudar na pesquisa de texto que foram aprimoradas ao longo de muitos anos. Nesta palestra, discutiremos os motivos para isso e como você pode usar ferramentas Postgres testadas em batalha para melhorar sua pesquisa e melhorar os resultados que são alimentados em LLMs, melhorar suas métricas e gerar seus resultados e respostas.
Estratégias para aprimorar sua aplicação de RAG (AI) com Postgres
Roberto Mello
Crunchy Data
2024-11-08 09:00:00 - AUDITORIO 2
RAG - Retrieval-augmented Generation - é um método eficaz para utilizar ferramentas baseadas em IA, fornecendo conhecimento a um Large Language Model. Isso fundamenta o LLM, melhora a saída e requer muito menos esforço e custo em comparação ao ajuste fino. Mas o RAG depende da relevância, densidade e detalhes dos documentos recuperados. Em outras palavras, a qualidade da saída do seu RAG depende da qualidade dos documentos recuperados. Muitos estão usando embeddings de vetores para encontrar contexto para alimentar um LLM, mas essa é uma abordagem ingênua e não resolve a pesquisa magicamente. O Postgres tem diferentes ferramentas para ajudar na pesquisa de texto que foram aprimoradas ao longo de muitos anos. Nesta palestra, discutiremos os motivos para isso e como você pode usar ferramentas Postgres testadas em batalha para melhorar sua pesquisa e melhorar os resultados que são alimentados em LLMs, melhorar suas métricas e gerar seus resultados e respostas.