Machine Learning / AI

Ako navrhnemo agenta, ki odgovarja uporabnikom na podlagi podatkov transakcijske baze: katera tehnologija in arhitektura sta potrebni, in ali je smiselno uporabljati večagentnost?

Aké optimalizácie inferencie štandardného LLM možno navrhnúť, ak firemný GPT funguje pomaly?

Čo je spekulatívne dekódovanie a ako urýchľuje generovanie?

Čo je MoE (Zmes odborníkov) a prečo môže byť táto architektúra výhodná pre inference?

Aká je rozmer výstupu MLP vrstvy?

Čo sa deje ďalej v Transformer bloku po tom, čo pozornosť vydala výstupný vektor?

Prečo by sa vektorový RAG nemal používať ako hlavný mechanizmus pre odpovede v transakčných SQL databázach?

Správna sekvencia zátvoriek Zvážme sekvenciu pozostávajúcu z okrúhlych, hranatých a zložených zátvoriek '{', '}', '[', ']'. Program musí určiť, či je táto sekvencia správna. - Prázdna sekvencia je správna. - Ak A je správna sekvencia, potom (A), [A], {A} sú správne. - Ak A a B sú správne sekvencie, potom AB je správne. Formát vstupu: Na jednom riadku je zadaná sekvencia zátvoriek, ktorá neobsahuje viac ako 100000 zátvoriek. Formát výstupu: Ak je sekvencia správna, program má vypísať 'yes', inak 'no'.

Po ID tokena in vgradnjah, kaj točno pride v dekoder: kakšna je oblika predstavitev, kako se dodaja pozicijska informacija in kaj se zgodi potem?

Samostatne analyzuj prefill a decode: Q/K/V, tvary matíc a rozdiely vo fázach.

Ako všeobecne vyzerá cesta ML/LLM aplikácie od Dockerfile a zdrojového kódu po nasadenú službu a používateľský traffic v Kubernetes?

Čo sa robilo s dodržiavaním v systéme RAG?

Čo sa robí s logitmi pred samplingom a aké parametre samplingu poznáš?

Čím sa násobí Q-vektor pri dekódovaní a čo sa tým získa?

Aké dôležité témy o sebe alebo svojom štýle práce by ste chceli dodatočne zdôrazniť vedúcemu?

Aké IDE alebo prostredie používate na prácu s AI nástrojmi?

Čo bolo použité na čistenie a normalizáciu dokumentov: Redis alebo regex?

Prečo môže kvantizovaný LLM fungovať rýchlejšie a prečo niekedy kvantizácia naopak spomaľuje inferenciu?

import unittest class Solution: def isvalid(self, s:str) -> bool: matching_brackets = { ")": "(", "]": "[", "}": "{", } stack: list[str] = [] for bracket in s: if bracket in "([{": stack.append(bracket) continue if bracket not in matching_brackets: return False if not stack or stack[-1] != matching_brackets[bracket]: return False stack.pop() return not stack class SolutionTest: def __init__(self): self.Solution = Solution() def run(self): test_cases = [ ("", True), ("()", True), ("(){}[]", True), ("(({}))", True), ("(", False), (")", False), ("(((", False), ("{[]}", False), ] for brackets, expected in test_cases: actual = self.Solution.isvalid(brackets) assert actual == expected, ( f"Chyba pre {brackets!r}" f"Oczekvano {expected}, no dostavno {actual}" ) print(f"Vsichki testove uspešno prešli: {len(test_cases)}") if __name__ == "__main__": SolutionTest().run()

Aký druh pozornosti existuje, ktorý umožňuje vyhnúť sa kvadratickej zložitosti úplnej samostatnej pozornosti na dlhom kontexte?