Machine Learning / AI

Jak navrhnout agenta, který odpovídá uživateli na základě dat transakční databáze: jaký stack a architektura jsou potřeba, a stojí za to použít multiagentnost?

Jaké optimalizace inference standardního LLM lze navrhnout, pokud korporátní GPT funguje pomalu?

Co je spekulativní dekódování a jak urychluje generaci?

Co je MoE (Směs odborníků) a proč může být tato architektura výhodná pro inference?

Analyzuj samostatně prefill a decode: Q/K/V, tvary matic a rozdíly fází.

Proč by se vektorový RAG nem měl používat jako hlavní mechanismus pro odpovědi v transakčních SQL databázích?

Správná posloupnost závorek Zvažme posloupnost složenou z kulatých, hranatých a závorek '{', '}', '[', ']'. Program má určit, zda je tato posloupnost správná. - Prázdná posloupnost je správná. - Pokud A je správná posloupnost, pak (A), [A], {A} jsou správné. - Pokud A a B jsou správné posloupnosti, pak AB je správná. Formát vstupu: Na jediném řádku je zadána posloupnost závorek, která obsahuje nejvýše 100000 závorek. Formát výstupu: Pokud je posloupnost správná, program má vypisovat 'yes', jinak 'no'.

Po ID tokenu a vstupech do embeddingů, co přesně přichází do dekodéru: jaký je tvar reprezentací, jak je přidávána poziční informace a co se děje dále?

Co se děje dál v bloku Transformer poté, co pozornost vydala výstupní vektor?

Jaké je rozměry výstupu vrstvy MLP?

Co se dělalo s dodržováním pravidel v systému RAG?

Co se dělá s logitami před samplingem a jaké parametry sampling znáš?

Jak obecně vypadá cesta ML/LLM aplikace od Dockerfile a zdrojového kódu po nasazenou službu a uživatký provoz v Kubernetes?

Čím je násoben vektor Q při dekódování a co z toho vznikne?

Jaká důležitá témata o sobě nebo svém pracovním stylu byste chtěli dále zdůraznit vedoucímu?

import unittest class Solution: def isvalid(self, s:str) -> bool: matching_brackets = { ")": "(", "]": "[", "}": "{", } stack: list[str] = [] for bracket in s: if bracket in "([{": stack.append(bracket) continue if bracket not in matching_brackets: return False if not stack or stack[-1] != matching_brackets[bracket]: return False stack.pop() return not stack class SolutionTest: def __init__(self): self.Solution = Solution() def run(self): test_cases = [ ("", True), ("()", True), ("(){}[]", True), ("(({}))", True), ("(", False), (")", False), ("(((", False), ("{[]}", False), ] for brackets, expected in test_cases: actual = self.Solution.isvalid(brackets) assert actual == expected, ( f"Chyba pro {brackets!r}" f"Očekávali jsme {expected}, ale dostali {actual}" ) print(f"Všechny testy prošly: {len(test_cases)}") if __name__ == "__main__": SolutionTest().run()

Co bylo použito k čištění a normalizaci dokumentů: Redis nebo regex?

Jaké existují typy pozornosti, které umožňují vyhnout se kvadratické složitosti úplné samostatné pozornosti na dlouhých kontextech?

Proč může kvantizovaná LLM fungovat rychleji a proč někdy kvantizace naopak zpomaluje inference?

Jaké nástroje AI používáte denně?