Machine Learning / AI

Kā izstrādāt aģentu, kas atbild lietotājam, balstoties uz transakciju datu bāzes datiem: kāds ir nepieciešams tehnoloģiju klāsts un arhitektūra, un vai ir vērts izmantot multiagentu?

Kādas optimizācijas standartlielā LLM inferencē var ieteikt, ja uzņēmuma GPT darbojas lēni?

Kas ir spekulatīva dekodēšana un kā tā paātrina ģenerēšanu?

Kas ir MoE (Ekspertu Maisījums) un kāpēc šī arhitektūra var būt izdevīga inferencē?

Kas notiek tālāk Transformer blokā, kad uzmanība ir devusi izejas vektoru?

Kāpēc nevajadzētu izmantot vektoru RAG kā galveno mehānismu atbildēm tranzakcijās SQL datu bāzēs?

Kāda ir MLP slāņa izejas dimensija?

Pareiza iekavas secība Apsveriet secību, kas sastāv no apaļajām, kvadrātajām un figūru iekavām '{', '}', '[', ']'. Programmai jānosaka, vai šī iekavu secība ir pareiza. - Tukša secība ir pareiza. - Ja A ir pareiza secība, tad (A), [A], {A} ir pareizi. - Ja A un B ir pareizas secības, tad AB ir pareiza. Ievades formāts: Vienā rindā ievadīta iekavu secība, kas nesasniedz 100000 iekavas. Izvades formāts: Ja secība ir pareiza, programmai jāizvada 'yes', citādi 'no'.

Atsevišķi analizējiet prefill un decode: Q/K/V, matricu formas un fāžu atšķirības.

Kā kopumā ir uzbūvēta ML/LLM lietojumprogrammas ceļš no Dockerfile un avota koda līdz izvietotajai pakalpojumam un lietotāju trafikam Kubernetes?

Pēc token ID un embeddings, kas tieši nonāk dekoderī: kāds ir reprezentāciju formāts, kā tiek pievienota pozicionālā informācija un kas notiek tālāk?

Ko darīja ar atbilstību RAG sistēmā?

Ko dara ar logitām pirms sampling un kādus sampling parametrus pazīsti?

Ar ko tiek daudzina Q-vektors dekodēšanas laikā un ko iegūst?

Kādus svarīgus tematus par sevi vai savu darba stilu jūs vēlētos papildus uzsvērt vadītājam?

Kāpēc kvantizētā LLM var darboties ātrāk un kāpēc dažreiz kvantizācija, gluži pretēji, palēnina inferenci?

Ko tika izmantots dokumentu tīrīšanai un normalizēšanai: Redis vai regex?

Kuru IDE vai vidi izmantojat darbā ar AI rīkiem?

Kādi ir uzmanības veidi, kas ļauj izvairīties no pilnas pašuzmanības kvadrātiskās sarežģītības garos kontekstos?

import unittest class Solution: def isvalid(self, s:str) -> bool: matching_brackets = { ")": "(", "]": "[", "}": "{", } stack: list[str] = [] for bracket in s: if bracket in "([{": stack.append(bracket) continue if bracket not in matching_brackets: return False if not stack or stack[-1] != matching_brackets[bracket]: return False stack.pop() return not stack class SolutionTest: def __init__(self): self.Solution = Solution() def run(self): test_cases = [ ("", True), ("()", True), ("(){}[]", True), ("(({}))", True), ("(", False), (")", False), ("(((", False), ("{[]}", False), ] for brackets, expected in test_cases: actual = self.Solution.isvalid(brackets) assert actual == expected, ( f"Kļūda {brackets!r}" f"Gaidīts {expected}, bet saņemts {actual}" ) print(f"Visi testi veiksmīgi izpildīti: {len(test_cases)}") if __name__ == "__main__": SolutionTest().run()