Machine Learning / AI

Kako projektovati agenta koji odgovara korisniku na osnovu podataka transakcione baze: koja tehnologija i arhitektura su potrebni, i da li je vredno primenjivati multiagentnost?

Koje optimizacije inferencije standardnog LLM-a se mogu predložiti ako korporativni GPT radi sporo?

Šta je spekulativno dekodiranje i kako ubrzava generisanje?

Šta je MoE (Mešavina stručnjaka) i zašto bi ova arhitektura mogla biti korisna za inference?

Šta se dešava nakon toga u Transformer-bloku nakon što je pažnja dala izlazni vektor?

Tačna sekvenca zagrada Razmotrimo sekvencu koja se sastoji od okruglih, kvadratnih i uglastih zagrada '{', '}', '[', ']'. Program treba da odredi da li je ova sekvenca zagrada tačna. - Prazna sekvenca je tačna. - Ako je A tačna sekvenca, onda su (A), [A], {A} tačni. - Ako su A i B tačne sekvence, onda je AB tačna. Format unosa: U jednoj liniji unosi se sekvenca zagrada koja sadrži najviše 100000 zagrada. Format izlaza: Ako je sekvenca tačna, program treba da ispiše 'yes', inače 'no'.

Zašto se vektorski RAG ne bi trebao koristiti kao glavni mehanizam za odgovore u transakcionim SQL bazama podataka?

Razdvojeno analiziraj prefill i decode: Q/K/V, oblike matrica i razlike u fazama.

Koje je dimenzije izlaza MLP sloja?

Nakon ID tokena i ugradnji, šta tačno ulazi u dekoder: kakav je oblik prikaza, kako se dodaje pozicijska informacija i šta se dešava dalje?

Šta su radili sa usklađenošću u RAG sistemu?

Kako uopšte izgleda put ML/LLM aplikacije od Dockerfile i izvornog koda do implementirane usluge i korisničkog saobraćaja u Kubernetesu?

Šta se radi sa logitima pre sampling i koje parametre samplinga poznaješ?

Na šta se množi Q-vektor pri dekodiranju i šta se dobija?

Koje važne teme o sebi ili svom stilu rada želite dodatno da istaknete rukovodiocu?

Zašto kvantizovani LLM može raditi brže i zašto ponekad kvantizacija, naprotiv, usporava inferencu?

import unittest class Solution: def isvalid(self, s:str) -> bool: matching_brackets = { ")": "(", "]": "[", "}": "{", } stack: list[str] = [] for bracket in s: if bracket in "([{": stack.append(bracket) continue if bracket not in matching_brackets: return False if not stack or stack[-1] != matching_brackets[bracket]: return False stack.pop() return not stack class SolutionTest: def __init__(self): self.Solution = Solution() def run(self): test_cases = [ ("", True), ("()", True), ("(){}[]", True), ("(({}))", True), ("(", False), (")", False), ("(((", False), ("{[]}", False), ] for brackets, expected in test_cases: actual = self.Solution.isvalid(brackets) assert actual == expected, ( f"Грешка за {brackets!r}" f"Очаквахме {expected}, но получихме {actual}" ) print(f"Всички тестове преминаха успешно: {len(test_cases)}") if __name__ == "__main__": SolutionTest().run()

Koje vrste pažnje postoje koje omogućavaju izbegavanje kvadratne složenosti potpune samostalne pažnje na dužim kontekstima?

Koji IDE ili okruženje koristite za rad sa AI alatima?

Šta je korišćeno za čišćenje i normalizaciju dokumenata: Redis ili regex?