Ի՞նչ կարելի է անել, երբ երկարատև աշխատանքի ժամանակ գործակալի կոնտեքստը աստիճանաբար լցվում է։
Senior
152
Machine Learning / AI
3608
0
Ինչպե՞ս պահել LangGraph-ի վիճակում մեծ քանակությամբ տեղեկատվություն, որը ստացվել է API-ով, օգտագործել այն գործիքի ներսում, բայց չփոխանցել ավելորդ տվյալներ LLM-ի կոնտեքստին: Օրինակ, LLM-ն տեսնում է միայն մասնագետների ID-ն և անունները, իսկ գործիքը ստանում է նրանց ժամանակացույցը և լրացուցիչ տվյալները։
Senior
150
Ինչպե՞ս կարելի է գնահատել հսկողության/հարցաքննության համակարգի աշխատանքի որակը:
Senior
149
147
Ընդհանուր առմամբ, ինչ եք ուզում անել?
Middle
147
Ինչպե՞ս գործնականում ապահովել, որ մոդելը կոնկրետ դաշտում միայն տողային ID-ների կարճ ցուցակի արժեքներ և այլ նշաններ չստեղծի։
Senior
146
Ինչպե՞ս սովորեցնել LLM-ին, որ պատասխան չտա, երբ կոնտեքստում տեղեկություն չկա։
Senior
146
Ի՞նչ կարելի է անել, եթե տեղադրված գործակալը շատ դանդաղ է պատասխանում կամ բավարար հիշողություն չկա LLM տեղադրելու համար։
Senior
144
142
Ինչպես փոխանցել մոդելի սխեման կոդի մակարդակով կառուցվածքային ելքի համար։
Senior
141
Ավելացրեք ավելին KV-կեշի մասին՝ ինչպես է աշխատում և որտեղից է գալիս, սկսած Transformer-ի ճարտարապետությունից։
Senior
140
Ինչպե՞ս եք իրականացնում և տեղադրում ծառայությունը pull request-ների մշակման համար։
Senior
139
Օրգանիզատորը տեսնում է ենթակառուցվածքների գործիքների զանգերի արդյունքները կամ միայն ենթակառուցվածքի ինքնուրույն ելքը?
Senior
138
Ով էր ներգրավված մոդելների հարմարեցման մեջ?
Middle
137
Ի՞նչ այլ օպտիմիզացիայի մեթոդներ կարելի է օգտագործել ինֆերանսը արագացնելու կամ գոնե մոդելը տեղադրելու համար 12 ԳԲ VRAM RTX 3090-ում։
Senior
135
Ինչպե՞ս ստուգել, որ LLM-as-a-Judge ճիշտ գնահատում է որակը և ինչպես կատարել նրա կալիբրացիան։
Senior
133
Ինչպես է կառուցված օրգանիզատորը՝ որ ֆրեյմվորկ և ճարտարապետություն են օգտագործվում, ինչ է անում, արդյոք մեկ քայլով է, թե կարող է մի քանի անգամ մտածել պատասխան տալու համար։
Senior
132
Ինչպե՞ս ստանալ ֆորմալացված, կառուցվածքային պատասխան, օրինակ՝ կառուցվածքային ելքի օգտագործման դեպքում։
Senior
132
Ի՞նչ տարբերակներ կան LLM-ում նոր տոքենների սեմպլավորման համար։
Senior
131
Ի՞նչ է ձեր ներկայիս թիմի կազմը։
Middle
125