Sobes.tech

Machine Learning / AI

O que gostaria de fazer em geral?

Middle
155

O que se pode fazer quando, após um trabalho prolongado, o contexto do agente se enche gradualmente?

Senior
152

Como guardar no estado do LangGraph uma grande quantidade de informações obtidas via API, usá-las dentro da ferramenta, mas sem passar dados desnecessários para o contexto do LLM? Por exemplo, o LLM vê apenas o ID e os nomes dos especialistas, enquanto a ferramenta recebe sua agenda e dados adicionais.

Senior
150

Como se pode avaliar a qualidade do trabalho do sistema de monitorização/investigação de incidentes?

Senior
149

Como treinar um LLM para não responder na ausência de informações no contexto?

Senior
146

Como fazer na prática um modelo num campo específico gerar apenas valores de uma lista curta de IDs de string e nenhum outro símbolo?

Senior
146

O que pode fazer se um agente implantado responder demasiado lentamente ou se não houver memória suficiente para alojar um LLM?

Senior
144

O que é a probabilidade de exame?

142

Quem esteve envolvido na afinação dos modelos?

Middle
141

Como passar um esquema de modelo para saída estruturada ao nível do código?

Senior
141

Conte-nos mais sobre o cache KV: como funciona e de onde vem, começando pela arquitetura Transformer.

Senior
140

Como implementou e implantou o serviço para processar pull requests?

Senior
139

O orquestrador vê os resultados das chamadas das ferramentas do subagente ou apenas o output final do próprio subagente?

Senior
138

Que outros métodos de otimização podem ser usados para acelerar a inferência ou pelo menos colocar o modelo em 12 GB de VRAM na RTX 3090?

Senior
135

Como verificar se o LLM-as-a-Judge avalia corretamente a qualidade e como calibrá-lo?

Senior
133

Como é construído o orquestrador: qual o framework e arquitetura utilizados, o que ele faz, é de uma só etapa ou pode raciocinar várias vezes antes de responder?

Senior
132

Como obter uma resposta formalizada e estruturada, por exemplo, ao usar output estruturado?

Senior
132

Quais são as opções de amostragem de novos tokens em LLM?

Senior
131

Qual é a composição atual da sua equipa?

Middle
125
/4