Detectando alucinações em LLMs com GraphEval e Python
Aprenda a usar o GraphEval e Python para detectar alucinações em LLMs de forma determinística combinando inteligência artificial simbólica e conexionista.
Tag: llm
35 publicações encontradas
Design Loops, Not Prompts: por que autoavaliação de LLMs não funciona em agentes de IA
Em experimento controlado, self-critique em loops de agente não fez melhor que não fazer nada. Já um verificador determinístico ancorado na fonte…
Tokenminning: como gastar menos tokens sem sacrificar a qualidade dos seus agentes de IA
Engenheiros estão gastando até US$ 10.000 por semana em tokens de IA. O tokenminning propõe roteamento inteligente e compactação de contexto para…
As lições não ensinadas sobre parsing de perguntas em RAG: estruture antes de buscar
Seis lições práticas sobre parsing de perguntas em RAG que a maioria dos tutoriais ignora: estruture a pergunta antes de buscar. Com…
LLMs estão presos no pensamento de grupo — e uma startup quer tirá-los de lá
Testes mostram que LLMs convergem para as mesmas respostas: '7' como número aleatório, 'Time is a river' como metáfora. A startup Springboards…
Memória latente persistente para agentes LLM: como um paper de handover 6G resolve o cold-start dos agentes
Pesquisador transpõe método de handover 6G (ILCP) para agentes LLM: comprimir estado latente entre agentes elimina o cold-start e a reconstrução de…
NVIDIA lança Nemotron-Labs-TwoTower: modelo de difusão com pesos abertos e 2,4× mais velocidade
Novo modelo open-weight da NVIDIA separa contexto e difusão em duas torres, retendo 98,7% da qualidade autorregressiva com o dobro da vazão…
SkillOpt transforma edição de habilidades de agentes de IA em um processo de otimização controlado
Agentes de IA baseados em grandes modelos de linguagem (LLMs) frequentemente falham porque suas instruções — ou "skills" — são modificadas…
Tail Control: a engenharia contraintuitiva por trás de workflows de IA confiáveis em produção
O que separa um protótipo de LLM de um sistema em produção não é a qualidade do modelo, mas a confiabilidade da…
Margaret Atwood critica IA: ‘garbage in, garbage out’ após experiência frustrante com Claude
A renomada autora de O Conto da Aia e O Assassino Cego, Margaret Atwood, não poupou críticas à inteligência artificial durante sua…
Fundador usa Claude para enfrentar câncer raro e questionar diagnósticos médicos
Connor Christou, fundador da Keragon, usou o Claude da Anthropic para processar exames, dados de wearables e literatura médica durante seu tratamento…
Tool Calling Explicado: Como Agentes de IA Decidem o Que Fazer
Se você vem acompanhando a evolução dos modelos de linguagem, já deve ter notado uma mudança fundamental: os LLMs deixaram de ser…
Subquadratic afirma ter resolvido o gargalo matemático dos transformers — e tem benchmarks independentes para provar
Startup de Miami afirma ter resolvido o gargalo da atenção densa em transformers. Modelo SubQ seria 56x mais rápido e processa 12x…
Subquadratic afirma ter resolvido o gargalo que limita os LLMs — e os testes independentes mostram velocidade 56x maior
A startup americana Subquadratic saiu do modo stealth no mês passado com uma afirmação ambiciosa: resolveram o gargalo matemático que tem limitado…
AWS SageMaker ganha mais de 100 métricas detalhadas para inferência de IA generativa
AWS SageMaker AI agora emite mais de 100 métricas detalhadas de inferência com dashboard integrado no CloudWatch, cobrindo saúde de GPU, latência…
Amazon Bedrock AgentCore: agentes de IA em produção com duas chamadas de API
Há um ano, Simon Willison definiu agentes de IA com uma das descrições mais claras até hoje: "Um agente LLM executa ferramentas…
Corrida da Compressão KV Cache: TurboQuant vs OSCAR vs EpiCache
Modelos de linguagem grandes (LLMs) com contexto longo enfrentam um gargalo de memória que não tem nada a ver com os pesos…
Tokenomics: como empresas estão lidando com o custo crescente do uso de IA generativa
Enquanto empresas investem centenas de milhões de dólares em ferramentas de IA para codificação, marketing e atendimento ao cliente, uma nova obsessão…
AWS acelera carregamento de modelos LLM e amplia janelas de contexto com GPUDirect e Amazon FSx for Lustre
Para quem trabalha com grandes modelos de linguagem (LLMs) em instâncias GPU da AWS, o tempo de carregamento do modelo na memória…
Desafios e Métricas para Avaliação de Desempenho de LLMs: Insights de Legare Kerrison e Cedric Clyburn
Contexto e importância da avaliação de LLMs O avanço das Large Language Models (LLMs) tem impulsionado a adoção de aplicações de inteligência…
DoorDash revoluciona personalização com LLMs para momentos dinâmicos e hiperpersonalização
DoorDash avança na personalização dinâmica com modelos de linguagem de grande escala Na busca por transformar a experiência do consumidor, DoorDash…
Por que o Vale do Silício perdeu o contato com as necessidades reais dos usuários
O distanciamento do Vale do Silício em relação ao consumidor comum Em um artigo recente do The Verge, a jornalista Elizabeth Lopatto…
ToolSimulator: Testes Escaláveis e Seguros para Agentes de IA com Ferramentas Externas
A AWS lançou o ToolSimulator, um framework de simulação de ferramentas baseado em grandes modelos de linguagem (LLM) integrado ao Strands Evals…
Meta Revoluciona Detecção de Bugs com Testes Just-in-Time e IA
Meta lança abordagem Just-in-Time para testes de software com IA A Meta anunciou uma inovação significativa na área de testes automatizados para…