Sobes.tech

Machine Learning / AI

Сіз LangGraph-те күйді қолданасыз ба және барлық күйді контексте өткізіп отырсыз ба?

Senior
157

Ұзақ жұмыс кезінде агенттің контексті біртіндеп толып кетсе, не істеуге болады?

Senior
154

LangGraph-те API арқылы алынған үлкен ақпаратты қалай күйде сақтау, оны құрал ішінде пайдалану, бірақ қажетсіз деректерді LLM контекстіне жібермеу керек? Мысалы, LLM тек мамандардың ID мен аттарын көрсе, ал құрал олардың кестесі мен қосымша деректерін алады.

Senior
154

Өндірістік мониторинг/оқиға тергеу жүйесінің сапасын қалай бағалауға болады?

Senior
149

Қалай практикалық түрде модельді нақты өрісте берілген қысқа тізімдегі жолдық ID-лерден басқа ешқандай таңбаларсыз тек мәндерді генерациялауға мәжбүр етуге болады?

Senior
148

Модель көлемін азайту үшін pruning деген не?

147

Егер контекстте ақпарат болмаса, жауап бермеу үшін LLM-ді қалай оқытуға болады?

Senior
146

Орнатылған агент тым баяу жауап берсе немесе LLM-ді орналастыру үшін жады жетіспесе, не істеуге болады?

Senior
144

Тексеру ықтималдығы дегеніміз не?

142

Код деңгейінде құрылымдалған шығу үшін схеманы модельге қалай өткізуге болады?

Senior
141

KV-кэш туралы толығырақ айтыңыз: ол қалай жұмыс істейді және қайдан пайда болады, Transformer архитектрасынан бастап.

Senior
140

Қалайша пул сұрауларын өңдеу үшін қызметті жүзеге асырып, орналастырдыңыз?

Senior
139

Оркестратор субагент құралдарын шақыру нәтижелерін көреді ме, әлде тек субагенттің соңғы нәтижесін бе?

Senior
138

Инференсті жылдамдату немесе кем дегенде модельді 12 ГБ VRAM RTX 3090-ға орналастыру үшін қандай басқа оңтайландыру әдістерін қолдануға болады?

Senior
135

Оркестратор қалай құрылды: қандай фреймворк пен архитектура пайдаланылады, ол не істейді, бірқадам ба немесе бірнеше рет ойлану мүмкін бе жауап бермес бұрын?

Senior
134

Қалай формалданған, құрылымдалған жауап алуға болады, мысалы, құрылымдалған шығу нәтижесін қолданғанда?

Senior
134

LLM-ді-сотшының сапаны дұрыс бағалайтынын қалай тексеруге және оны қалай калибрлеуге болады?

Senior
133

LLM-де жаңа токендерді таңдау үшін қандай опциялар бар?

Senior
133

Қазіргі командаңыздың құрамы қандай?

Middle
125
/4