LLMs: o que são os modelos de linguagem em grande escala

Bem-vindos a mais um artigo da série “IA Generativa em Pílulas” , neste episódio iremos explorar os LLMs e como essa poderosa ferramenta tem despertado o interesse em diversos setores da indústria, explicaremos o que são os LLMs, sua arquitetura, os tipos de modelos oferecidos e por último trarei dois casos práticos, uma plataforma de atendimento a cliente e customer success e o uso aplicado na saúde.

O que são os Large Language Models

Os modelos LLM como o GPT-4 e suas versões anteriores, são exemplos de modelo probabilístico no campo da inteligência artificial, mais precisamente um subgrupo de aprendizado profundo (do inglês “deep learning”), esses modelos de linguagem são treinados em um vasto conjunto de dados que abrange uma ampla gama de temas, desde literatura e conversas cotidianas a ciência, eles acabaram por ganhar notoriedade devido à sua habilidade e excelência em produzir textos.

Apesar de originalmente projetados para prever sequência de palavras, descobriu-se que devido a seu processo de treinamento baseado em uma grande quantidade de parâmetros (conjunto de características que viabiliza o aprendizado) os modelos de linguagem desenvolveram a habilidade de generalizar a resolução de tarefas no campo do processamento de Linguagem Natural (NLP do inglês “Natural Language Processing”).

*LLMs são geradores de texto que preveem a próxima palavra em uma sequência com base em sua probabilidade.

Dentro do domínio do processamento de linguagem natural (NLP), encontram-se diversas tarefas. Os modelos de linguagem de grande escala comprovaram sua eficiência ao demonstrar capacidade de aprender, por meio de técnicas de prompt engineering, a realizar diferentes tipos de tarefas. Isso se distancia do conceito inicial que previa a criação de modelos supervisionados especializados na execução de atividades específicas.

Exemplos de tarefas de NLP que os modelos LLM realizam com eficiência:

• QA (Question Answering): Responder a perguntas formuladas em linguagem natural.
• Masking: Preencher lacunas em textos onde palavras ou frases foram removidas.
• Tradução: Converter texto de um idioma para outro.
• Classificação: Categorizar textos em diferentes classes ou grupos, como sentimentos positivos ou negativos.
• Reconhecimento de Entidades Nomeadas (NER): Reconhecimento de entidades tais como “nome de pessoas”, “nome de organizações”, “locais” , “valores monetários” dentre outros.
• Sumarização: Criar versões compactas de blocos de textos maiores mantendo coesão e coerência.

*LLMs possuem a capacidade de serem multitarefa, modelos como LLAMA 2 e GPT-4 por exemplo são capazes de resolver diversas tarefas de NLP

Um dos aspectos mais impressionantes dos modelos LLM é a sua capacidade de produzir textos coesos e coerentes, eles não apenas mantêm uma linha lógica de pensamento ao longo de um texto, mas também demonstram um baixo índice de erros gramaticais, resultado direto de seu treinamento, permitindo-lhes aprender as nuances da língua tais como estilo e tom de escrita variados além da capacidade de compreender o contexto semântico do qual o texto faz parte.

Entretanto, a capacidade dos modelos LLMs não se resume apenas à geração de textos bem escritos, essa ferramenta tem sido utilizada com bastante sucesso em diferentes áreas da indústria para resolver, de forma centralizada, diversos tipos de tarefas. Uma dessas tarefas é a tradução de textos, que possui desafios específicos, como o domínio do vocabulário utilizado, o uso de simbolismos e a compreensão de senso comum. Outro exemplo é a capacidade de geração de código, onde LLMs provaram ser uma excelente ferramenta, soluções inovadoras como o Copilot da GitHub e o assistente da Databricks permitem que os usuários formulem suas intenções em linguagem natural. Os modelos de linguagem embarcados nessas ferramentas são capazes de interpretar essas intenções e produzir o código correspondente, lidando com uma ampla variedade de problemas de programação.

Mas não paramos por aqui! No próximo episódio da série “IA Generativa em Pílulas”, abordaremos um tema ainda mais interessante e que tem atraído a atenção de muitos sobre os LLMs: trata-se das ‘aplicações autônomas inteligentes’ ou, em inglês, ‘autonomous agents’. Este tópico é tão instigante que decidi dedicar um episódio dedicado a ele.

A Arquitetura dos LLMs

Os modelos LLM são baseados na arquitetura Transformer de aprendizado profundo, uma inovação significativa no campo do processamento de linguagem natural.

Esta arquitetura é caracterizada por seu mecanismo de atenção, que permite ao modelo processar palavras em um contexto mais amplo, diferentemente das abordagens anteriores que focam em palavras isoladas ou em pequenos grupos de palavras.

**Um dos componentes chaves na arquitetura Transformer é o encoder, que desempenha um papel crucial na criação de representações contextuais de palavras.

O processo começa com o embedding, etapa que transforma palavras em vetores, a transformação de palavras em vetores trata-se de um conjunto de informações, dentre elas a representação numérica de uma palavra dentro de um vocabulário conhecido do modelo LLM, sua posição dentro de uma sentença, e um array multidimensional com a sua representação contextual, essa estrutura carrega um rico conjunto de informações semânticas sobre as palavras e seu significado dentro do contexto do qual faz parte.

Os vetores resultantes são então processados através de camadas de atenção no encoder, este mecanismo permite que o modelo avalie e pondere a importância relativa de diferentes palavras no contexto de uma sentença ou de um texto maior. Essencialmente, ele permite que o modelo “preste atenção” a diferentes partes do texto de forma diferenciada, dependendo do que está sendo processado.

Este processo sofisticado de embedding e atenção permite que um modelo LLM capture não apenas o significado literal das palavras, mas também nuances como o estilo de linguagem, o tom, e a concordância gramatical dentro da sentença, ele pode detectar sutilezas como ironia ou sarcasmo, adapta-se a diferentes estilos de escrita e mantém a coesão e coerência do texto.

Após o processo de embedding e a passagem pelos mecanismos de atenção no encoder, segue-se a etapa crucial do decoder. Nesta fase, o modelo utiliza as informações processadas pelo encoder para gerar texto. O decoder, ao receber os vetores enriquecidos semanticamente, começa a construir sequencialmente as palavras da resposta. Cada palavra gerada é influenciada pelas palavras anteriores, mantendo a fluidez e a coesão do texto.
O decoder, assim como o encoder, utiliza camadas de atenção, mas com uma abordagem ligeiramente diferente. Enquanto o encoder foca na compreensão do texto de entrada, o decoder está voltado para a geração de texto de saída. Ele analisa o contexto fornecido pelo encoder e aplica sua própria camada de atenção para determinar a relevância de cada elemento na geração da resposta. Esse processo garante que o texto gerado seja não só gramaticalmente correto, mas também contextualmente apropriado e alinhado com o estilo e nuances capturados na etapa de entrada.

Através dessa interação entre encoder e decoder, um modelo de LLM alcança uma compreensão avançada e uma habilidade de geração de texto que reflete a complexidade e riqueza da linguagem humana. Com isso, o modelo é capaz de produzir respostas que são não apenas informativas, mas também naturalmente fluídas, mantendo a coesão e a coerência da sentença ao longo de todo o processo.
Os tipo de modelos LLM
Ao explorar os diferentes tipos de Modelos de Linguagem de Grande Escala (LLM), encontramos várias abordagens e arquiteturas, cada uma com suas particularidades em termos de treinamento e quantidade de parâmetros.

Alguns dos modelos mais conhecidos incluem GPT, BERT e LLAMA 2:

• GPT (Generative Pre-trained Transformer): Esta série de modelos, como o GPT-3, é conhecida por sua arquitetura Transformer e por um grande número de parâmetros, com GPT-3 possuindo 175 bilhões. O treinamento ocorre em duas fases: um pré-treinamento em um vasto corpus de texto, seguido por um fine tune (ajuste fino do modelo) em tarefas específicas. Ele é mantido e entregue pela OpenAI como um serviço (SaaS), implicando custos para os usuários.
• BERT (Bidirectional Encoder Representations from Transformers): BERT é um modelo que revolucionou a forma como os LLMs entendem a linguagem, com foco na compreensão de texto. Sua arquitetura bidirecional permite que ele considere o contexto de uma palavra em relação a todas as outras palavras na sentença, não apenas as anteriores. Isso o torna especialmente poderoso para tarefas como compreensão de texto e classificação. Embora não seja tão grande quanto o GPT em termos de parâmetros, a eficiência e eficácia do BERT em tarefas específicas de compreensão são consideravelmente satisfatórias.
• LLAMA 2: É uma versão de modelo gratuito para uso comercial criado pela Meta (Facebook) que apresenta uma gama de modelos pré-treinados, como o Llama Chat e o Code Llama, com capacidades variando entre 7 bilhões e 70 bilhões de parâmetros. Treinado em 2 trilhões de tokens, o LLAMA 2 se destaca em benchmarks externos, incluindo testes de raciocínio (reasoning), codificação, proficiência e conhecimento. Com modelos especializados como o Llama Chat, voltado para conversação, e o Code Llama, focado na geração de código em linguagens de programação, o LLAMA 2 representa uma ferramenta robusta e versátil. Sendo open-source, oferece uma opção acessível e potente para desenvolvedores e pesquisadores na área de NLP.

Este panorama mostra a amplitude de abordagens e opções disponíveis no campo das IA generativas especificamente os modelos de linguagem, com cada modelo atendendo a necessidades específicas dependendo do caso de uso.

Aplicabilidade dos Modelos LLMs

• Diversas indústrias estão se beneficiando do uso dos modelos LLMs, abaixo entrarei em alguns casos.
• Plataformas de Atendimento a Cliente e Customer Success
• Plataformas de atendimento ao cliente são sistemas utilizados por diversas indústrias para gerenciar e melhorar a interação com seus clientes. Elas são fundamentais em setores como telecomunicações, serviços financeiros, varejo entre outros.

Essas plataformas podem incluir canais como suporte telefônico, chat online, e-mail e mídias sociais.

Os modelos LLMs podem desempenhar um papel crucial na otimização de plataformas de atendimento ao cliente, pois oferecem vantagens que podem contribuir diretamente para o cumprimento de métricas de sucesso.

Para Plataformas de Atendimento, os LLMs podem:

• Elevar o Nível de Satisfação de Clientes no Atendimento Prestado: LLMs podem automatizar respostas a perguntas frequentes e mapear consultas de clientes, reduzindo significativamente o tempo de espera e resposta, além disso, podem fornecer respostas mais precisas e personalizadas fazendo com que indicadores de NPS possam atingir níveis de excelência.
• Aumento da Eficiência no Atendimento: Ao fornecer informações precisas e auxiliar na resolução de problemas, os LLMs podem aumentar o número de chamados solucionados em um único contato, melhorando a eficiência do atendimento ao cliente. Além disso, LLMs podem exercer um papel crucial no mapeamento de melhorias necessárias em material de consulta como documentos, artigos e outras fontes não estruturadas de dados, além de ser capaz de auxiliar no treinamento e capacitação do time de suporte/analistas.
• Inovação no Atendimento ao Cliente: Os LLMs podem ser usados para explorar novas abordagens de atendimento, como personalização avançada e análise preditiva baseada em dados, oferecendo insights valiosos sobre o comportamento e as preferências dos clientes.

Para o Customer Success, os LLMs podem:

• Reduzir a Taxa de Churn: Ao melhorar o processo de onboarding e fornecer suporte proativo, os LLMs ajudam a manter os clientes satisfeitos e reduzir a taxa de churn.
• Aumentar a Satisfação com a Solução Adquirida: Os LLMs podem oferecer treinamentos e suporte personalizados para garantir que os clientes compreendam e utilizem plenamente as soluções adquiridas.
• Melhorar o NPS: Ao agilizar o atendimento ao cliente e garantir experiências positivas, os LLMs podem contribuir para aumentar a pontuação no Net Promoter Score (NPS), um indicador chave de satisfação do cliente.

Cuidados com a Saúde

Os modelos LLMs estão se tornando instrumento vital no setor da saúde, oferecendo um leque de aplicações que vão desde a assistência direta ao paciente até o aprimoramento de processos administrativos e de pesquisa.

Alguns exemplos de casos de uso são:

Para programas de Terapias Virtuais, os LLMs podem:

Podem desempenhar um papel crucial na análise e estruturação de dados de exercícios físicos em academias e programas de reabilitação fisioterapêutico. Ao coletar dados de execução de exercícios, esses modelos podem criar históricos detalhados do progresso do paciente. Eles podem processar esses dados para identificar padrões, progressos e áreas que necessitam de mais atenção.

Esta abordagem pode levar a uma personalização mais eficaz dos regimes de reabilitação, ajustando-os conforme a resposta do paciente ao tratamento. Além disso, os LLMs podem fornecer feedback instantâneo e sugestões para melhorar a eficácia dos exercícios, contribuindo assim para uma recuperação mais rápida e eficiente.

Para programas de Medicina Personalizada, os LLMs podem:

Potencializar a forma como os planos de tratamento são desenvolvidos. Combinando informações sobre genética, estilo de vida e sintomas do paciente, esses modelos podem gerar planos de tratamento altamente personalizados.

Eles são capazes de analisar grandes volumes de dados médicos e pesquisas para sugerir abordagens de tratamento que podem ser mais eficazes para um indivíduo, considerando sua constituição genética única e condições de vida. Isso não só melhora a precisão do tratamento, mas também minimiza os efeitos colaterais e maximiza a eficácia da terapia.