Inteligência Artificial Generativa para Iniciantes
https://learn.microsoft.com/en-us/shows/generative-ai-for-beginners/ https://github.com/microsoft/generative-ai-for-beginners/tree/main
IA
- 1956: Artificial Intelligence (AI)
- 1997: Machine Learning (ML)
- 2012: Deep Learning (DL)
- 2021: Generative AI (GenAI)
IA Generativa
A IA generativa é um tipo de inteligência artificial que pode criar novos conteúdos, como texto, imagens, música e muito mais. Ela utiliza algoritmos avançados, como redes neurais e aprendizado profundo, para gerar dados que imitam padrões e características de dados existentes. A IA generativa tem aplicações em diversas áreas, incluindo arte, design, entretenimento e ciência.
Como LLM funciona
Os LLMs (Modelos de Linguagem de Grande Escala) são algoritmos de aprendizado profundo projetados para entender e gerar texto em linguagem natural. Eles são treinados em grandes volumes de dados textuais, aprendendo padrões, gramática, contexto e significado das palavras. Os LLMs utilizam arquiteturas complexas, como Transformers, que permitem processar sequências de texto de forma eficiente. Durante o treinamento, os modelos ajustam seus parâmetros para minimizar a diferença entre suas previsões e os dados reais, resultando em um modelo capaz de gerar texto coerente e relevante.
- Tokenização, texto para numbers
- Previsão de tokens de saída
- Processo de seleção, distribuição de probabilidade
A entrada de um grande modelo de linguagem é conhecida como prompt, enquanto a saída é conhecida como conclusão.
Tokenização
A tokenização é o processo de dividir um texto em unidades menores, chamadas de tokens. Esses tokens podem ser palavras, frases ou até mesmo caracteres individuais, dependendo do nível de granularidade desejado. A tokenização é uma etapa fundamental na pré-processamento de texto, pois permite que os algoritmos de aprendizado de máquina e processamento de linguagem natural (NLP) analisem e manipulem o texto de maneira mais eficaz.