News #9 da Tribo
Obrigada às agora mais de MIL pessoas que assinam essa news. Love you guys. Agora a meta são duas mil ;)
AI NO WEBSUMMIT RIO | Eu e o Gabriel Dornella demos uma Masterclass de AI no Web Summit Rio. Sala lotada, com gente no chão. Que delícia ver o apetite pelo conhecimento. Eu fiz primeiro parte, ensinando do zero ao não tão básico. O Gab entrou nos desafios e recomendações para as empresas. No meio disso, as 3 formas de melhorar a qualidade da resposta de um LLM (Large Language Models, os modelos como o do Chat GPT ou o Gemini). São eles:
(1) Prompt: forma mais usada e conhecida, contém as instruções e o pedido para o LLM. Um bom prompt é claro e completo, e inclui mesmo as informações que parecem óbvias.
(2) RAG (Retrieval Augmented Generation): que seria como fazer uma prova com consulta. E o RAG te ajuda a selecionar o conteúdo importante pra aquela prova.
(3) Fine Tuning: que é realmente complementar o treinamento do modelo, ou seja, uma prova sem consulta, na qual o modelo realmente aprende tudo.
RAG | O RAG (Retrieval Augmented Generation) é a bola da vez. O termo nasceu em 2020 num paper do Patrick Lewis, e é uma técnica de IA que permite incorporar automaticamente os dados atuais e relevantes da sua empresa no prompt, garantindo uma resposta muito melhor. O desafio para isso era conseguir encontrar rapidamente num oceano de dados muitas vezes não estruturados (como emails, pdfs, manuais, posts de redes sociais e históricos de conversas) o que era relevante pra aquele prompt. RAG resolveu isso porque usa banco de dados vetorial (vector database) que organiza e armazena dados de maneira que enfatiza os vetores, que são etiquetas que descrevem diferentes tipos de dados detalhadamente. Essas etiquetas ajudam a IA a encontrar as informações relevantes em um mar de dados, independentemente de sua origem. Por isso ele chama RAG, ou “geração aumentada por recuperação”. Porque a geração da resposta é aumentada (melhorada) por recuperação, ou por encontrar as informações relevantes e atuais nos dados da empresa (e não se basear apenas no pre-treinamento genérico do modelo). Mas Fe, não sei se entendi… Qual a utilidade disso? Imagine que você quer mandar um email pra um cliente, e, junto com o prompt, você anexa todas as informações relevantes dele. O resultado? Um email mais relevante e sem alucinações. Genial, não? Colegas nerds podem ler mais sobre RAG nesses artigos da Salesforce, Nvidia, AWS e Databricks.
O CEO da Mistral, Arthur Mensch, também acredita em RAG pra acabar com as alucinações. Bom papo dele com o CEO da Figma nesse firechat.
LLAMA 3 | Como já esperado a Meta lançou o Llama 3, a nova versão do seu modelo de LLM. Essa nova versão tem modelos de linguagem pré-treinados e ajustados por instrução com parâmetros 8B e 70B. Com o lançamento o Meta AI vai estar presente em mais países (mas ainda não chega no Brasil). Ele é o assistente de IA gratuito da Meta, acessível pelo Facebook, Instagram, WhatsApp e Messenger para realizar ações, criar conteúdo e acessar informações em tempo real. Na próxima news vou explicar o que são parâmetros e como eles influenciam os modelos. Stay tuned ;)
WEB SUMMIT RIO FOI BOM OU RUIM? | Tudo depende do que você espera do evento. Eu sempre quero mais e melhor conteúdo, afinal sou nerd, não dá pra negar. Mas o objetivo do Web Summit é conectar o ecossistema, com 4 pilares igualmente importantes: startups, investidores, parceiros e conteúdo. E aí a melhor análise vai pra Andrea Janer, na newsletter Vista da Oxygen. Bom, eu já comprei o Web Summit de Lisboa ;)
AI DE QUALIDADE | Pro VP de AGI da Amazon (“Amazon on the Future of Artificial General Intelligence | SXSW 2024” SXSW) os desafios éticos dos modelos atuais estão ligados a: (1) veracidade, (2) segurança e (3) controlabilidade. Os modelos atuais de AI são assim, se você perguntar uma coisa 10x ele vai te dar 10 respostas diferentes. E a gente quer uma resposta, a melhor, certa e segura.
Isso me lembra aquele correto mas já antigo conceito de qualidade: “Qualidade pro consumidor é ter um produto que atende suas expectativas. Pro time de produção é produzir como o produto projetado, com mínimas variações”.
Mas abordar ‘desafios éticos’ de AI com essa pequena amplitude é tão limitada como a visão do time do time de produção sobre qualidade. E se o que você projetou for ruim pra sociedade? Quais as implicações? Mais um exemplo do SXSW de quão perigoso é termos heads dessas empresas com uma visão tão limitada (como comentei do Peter Deng da Open AI na news #7). Será que a responsabilidade das pessoas que estão desenhando AI no mundo não são tão grandes como a de um médico ou advogado? E porque não fazer ter sim uma educação formal cheia de filosofia, sociologia e matérias de humanas? E aí entra a transição perfeita pro próximo tópico.
FILOSOFIA PRA ENGENHEIROS | Escrever um prompt é mais arte do que ciência. E nesse artigo da HBR “Why Engineers Should Study Philosophy”, o CIO da Goldman Sachs (ex-Amazon) Marco Argenti defende que, agora que não precisamos mais aprender a lingua dos computadores, podemos nos acomodar ou elevar nosso pensamento. “Ter um modelo mental claro sobre um problema, ser capaz de dividi-lo em etapas que são tratáveis, perfeito pensamento de primeiros princípios, às vezes estar preparado (e capaz) para debater com uma IA teimosa — essas são as habilidades que farão um grande engenheiro no futuro, e provavelmente a mesma consideração se aplica a muitas categorias de empregos. (…) Automatizar a mecânica da criação de código e focar em nossas habilidades de pensamento crítico é o que nos permitirá criar mais, mais rápido e ter um impacto desproporcional no mundo. Ajudar a IA a nos ajudar a ser mais humanos, menos computadores.
MENOS ALCOOL | A tendência de redução de consumo de álcool segue forte. Segundo pesquisa no Brasil da MindMiners o consumo de bebidas alcoólicas esta em queda, desde o % de pessoas que dizem consumir (de aproximadamente 65% nas pessoas de 42+ anos a 57% nos Millennials - 26 a 41 anos - e 45% nos de 18 a 25). 43% quer reduzir o consumo de álcool, e com isso a oferta e consumo de bebidas sem ou com pouco álcool (chamadas pela ONS de NoLos) estão em crescimento. E aí entra um tema bem interessante. Faltam definições de rotulagem, publicidade, compra e consumo. Os menores de 18 anos podem consumir bebidas adultas sem álcool? Li sobre isso na The Atlantic e cheguei no brief da ONS. A legislação foca no teor alcoólico mas existe uma preocupação do consumo de NoLos por jovens possa normalizar ou incentivar o consumo futuro de álcool, perpetuar o consumo de álcool como atividade social desejável ou como central para a interação social.
BOB IGER 1000 vs ELON 0 | Como lidar com criticas? Hoje os CEOs estão extremamente expostos como representantes das marcas. As recomendações do super Bob Iger da Disney, que dá um show de maturidade sempre, mesmo em relação aos surtos do Elon. Se pergunte essas 3 coisas:
(1) Essa pessoa tem boas intenções?
(2) Essa pessoa tem interesse no que está criticando?
(3) A crítica dessa pessoa é válida?
Se uma delas for não, ignore a crítica.
Eu sou a Fernanda Belfort. Marketeira de carreira, mãe, esposa, sobrevivente de câncer e hoje head do time de soluções para marketing da Salesforce. Comecei um grupo e um podcast chamados Tribo de Marketing em 2019, e sigo nessa jornada de uma lifelong learner que acredita na generosidade e abundância. AMO aprender e compartilhar. Um pouco de tudo, mas sempre com muito marketing e tech, de forma palatável :D
-Ouça o podcast da Tribo de Marketing.
-Siga no Instagram e no LinkedIn
-Acesse o Notion da Tribo de Marketing (beta) pra muito conteúdo legal e a Biblioteca da Tribo (todos os reports, e-books etc que passaram por mim desde 2020)!
-E mais umas coisinhas como uma aula que dei sobre AI no YouTube.
Conheci seu conteúdo agora e já vi que vou maratonar!