Machine Learning / AI

Ինչպես նախագծել գործակալ, որը պատասխան է տալիս օգտվողներին՝ հիմնվելով գործարքային տվյալների վրա՝ ինչ տեխնոլոգիական շերտ և ճարտարապետություն է անհրաժեշտ, և արդյոք արժե կիրառել բազմագենտություն?

Ի՞նչ օպտիմալացումներ կարելի է առաջարկել ստանդարտ LLM-ի ինֆերենցիայի համար, եթե կորպորատիվ GPT-ն դանդաղ է աշխատում։

Ի՞նչ է սփեկուլյատիվ դեկոդավորումը և ինչպես է այն արագացնում արտադրությունը։

Ի՞նչ է MLP շերտի ելքի չափը։

Ի՞նչ է MoE (Մասնագետների խառնուրդը) և ինչու է այս ճարտարապետությունը կարող է լինել օգտակար inference-ի համար։

Ի՞նչ է տեղի ունենում հետո Transformer բլոկում, երբ ուշադրությունը տվել է ելքային վեկտորը։

Անցկացրեք առանձին կերպով prefill և decode՝ Q/K/V, մատրիցի ձևեր և փուլերի տարբերություններ։

Ինչու՞ չպետք է վեկտորային RAG-ը օգտագործել որպես հիմնական մեխանիզմ՝ պատասխանների համար տրանզակցիոն SQL-բազաներում։

Ինչպես է ընդհանուր առմամբ կառուցված ML/LLM հավելվածի ճանապարհը Dockerfile-ից և աղբյուրային կոդից մինչև տեղադրված ծառայությունը և օգտվողների երթևեկությունը Kubernetes-ում?

Սխալ փակագծերի ճիշտ հաջորդականություն Ենթադրենք, որ կա փակագծերի հաջորդականություն, որը բաղկացած է կլոր, քառակուսի և ձևավոր փակագծերից '{', '}', '[', ']': Ծրագիրը պետք է որոշի, արդյոք այս փակագծերի հաջորդականությունը ճիշտ է: - Խաղաղ հաջորդականությունը ճիշտ է: - Եթե A ճիշտ հաջորդականություն է, ապա (A), [A], {A} ճիշտ են: - Եթե A և B ճիշտ հաջորդականություններ են, ապա AB ճիշտ է: Մուտքի ձևաչափը: Միայն մեկ տողում մուտքագրվում է փակագծերի հաջորդականությունը, որը չի պարունակում 100000-ից ավելի փակագծեր: Ելքի ձևաչափը: Եթե հաջորդականությունը ճիշտ է, ծրագիրը պետք է տպի 'yes', հակառակ դեպքում 'no'։

Տոկենի ID և embeddings-ներից հետո, ինչ է հենց մուտք գործում decoder-ին՝ ներկայացումների ձևը ինչ է, ինչպես է ավելացվում դիրքային տեղեկատվությունը և հետո ինչ է տեղի ունենում։

Ի՞նչ արեցինք RAG համակարգում համապատասխանության հետ։

Ի՞նչ է կատարվում լոգիտների հետ սեմպլինգից առաջ և ի՞նչ սեմպլինգի պարամետրեր գիտես։

Ինչի հետ է բազմապատկվում Q-վեկտորը decode-ի ժամանակ և ինչ է ստացվում?

Ի՞նչ կարևոր թեմաներ եք ուզում ավելացնել ղեկավարին ձեր մասին կամ ձեր աշխատանքի ոճի մասին։

Ինչ է օգտագործվել փաստաթղթերը մաքուր և նորմալացնելու համար՝ Redis կամ regex?

Ի՞նչ IDE կամ միջավայր եք օգտագործում AI գործիքների հետ աշխատելու համար։

Ինչու՞ քվանտացված LLM-ը կարող է ավելի արագ աշխատել և ինչու՞ երբեմն քվանտացումը, հակառակը, դանդաղեցնում է ինֆերանսը։

import unittest class Solution: def isvalid(self, s:str) -> bool: matching_brackets = { ")": "(", "]": "[", "}": "{", } stack: list[str] = [] for bracket in s: if bracket in "([{": stack.append(bracket) continue if bracket not in matching_brackets: return False if not stack or stack[-1] != matching_brackets[bracket]: return False stack.pop() return not stack class SolutionTest: def __init__(self): self.Solution = Solution() def run(self): test_cases = [ ("", True), ("()", True), ("(){}[]", True), ("(({}))", True), ("(", False), (")", False), ("(((", False), ("{[]}", False), ] for brackets, expected in test_cases: actual = self.Solution.isvalid(brackets) assert actual == expected, ( f"Համապատասխանություն սխալ է {brackets!r}" f"Անկախն է {expected}, բայց ստացվեց {actual}" ) print(f"Բոլոր թեստերը հաջողությամբ անցան: {len(test_cases)}") if __name__ == "__main__": SolutionTest().run()

Ի՞նչ տեսակի ուշադրություններ կան, որոնք թույլ են տալիս խուսափել երկար կոնտեքստում լրիվ ինքնակշռության քառակուսային բարդությունից։