Sobes.tech

Machine Learning / AI

Bir kullanıcının işlem veritabanı verilerine dayanarak yanıt veren bir ajan nasıl tasarlanır: hangi yığın ve mimari gerekir, çok ajanlılığı kullanmak mantıklı mı?

Senior
196

Kurumsal GPT yavaş çalışıyorsa, standart bir LLM'nin çıkarımını optimize etmek için ne önerilebilir?

Senior
181

Spekülatif kodlama nedir ve üretimi nasıl hızlandırır?

Senior
175

MoE (Uzmanların Karışımı) nedir ve bu mimari neden çıkarım için avantajlı olabilir?

Senior
166

Dikkat çıktı vektörünü verdikten sonra Transformer bloğunda sonra ne olur?

Senior
162

Doğru parantez dizisi Daire, kare ve süslü parantezlerden oluşan bir dizi düşünelim '{', '}', '[', ']'. Program, bu parantez dizisinin doğru olup olmadığını belirlemelidir. - Boş bir dizi doğrudur. - Eğer A doğru bir diziyse, o zaman (A), [A], {A} doğru olur. - Eğer A ve B doğru dizilerse, o zaman AB doğru olur. Giriş formatı: Tek satırda, en fazla 100000 parantez içeren bir parantez dizisi girilir. Çıkış formatı: Eğer dizi doğruysa, program 'yes' yazmalı, değilse 'no' yazmalıdır.

Senior
162

İşlemsel SQL veritabanlarında yanıtlar için neden vektör RAG ana mekanizma olarak kullanılmamalıdır?

Senior
161

Prefill ve decode'u ayrı ayrı incele: Q/K/V, matris formları ve faz farkları.

Senior
161

MLP katmanının çıkış boyutu nedir?

Senior
159

Token ID ve gömme vektörlerinden sonra, decoder'a tam olarak ne girer: temsillerin şekli nedir, konum bilgisi nasıl eklenir ve sonra ne olur?

Senior
156

RAG sisteminde uyumla ne yapıldı?

Senior
154

ML/LLM uygulamasının Dockerfile ve kaynak kodundan dağıtılmış hizmet ve Kubernetes'teki kullanıcı trafiğine kadar genel yolculuğu nasıldır?

Senior
149

Örneklemeden önce logitlerle ne yapılır ve hangi örnekleme parametrelerini biliyorsun?

Senior
146

Decode sırasında Q-vektörü ne ile çarpılır ve ne elde edilir?

Senior
143

Kendiniz veya çalışma tarzınız hakkında yöneticinin özellikle vurgulamasını istediğiniz önemli konular nelerdir?

Senior
139

Neden kuantize edilmiş LLM daha hızlı çalışabilir ve bazen kuantizasyon neden tersine, çıkarımı yavaşlatır?

Senior
138

import unittest class Solution: def isvalid(self, s:str) -> bool: matching_brackets = { ")": "(", "]": "[", "}": "{", } stack: list[str] = [] for bracket in s: if bracket in "([{": stack.append(bracket) continue if bracket not in matching_brackets: return False if not stack or stack[-1] != matching_brackets[bracket]: return False stack.pop() return not stack class SolutionTest: def __init__(self): self.Solution = Solution() def run(self): test_cases = [ ("", True), ("()", True), ("(){}[]", True), ("(({}))", True), ("(", False), (")", False), ("(((", False), ("{[]}", False), ] for brackets, expected in test_cases: actual = self.Solution.isvalid(brackets) assert actual == expected, ( f"Hata için {brackets!r}" f"Beklenen {expected}, ama alınan {actual}" ) print(f"Tüm testler geçti: {len(test_cases)}") if __name__ == "__main__": SolutionTest().run()

Senior
137

Uzun bağlamda tam kendi dikkatinin kare karmaşıklığını önlemeye izin veren dikkat türleri nelerdir?

Senior
135

Yapay zeka araçlarıyla çalışmak için hangi IDE veya ortamı kullanıyorsunuz?

Senior
134

Belgeleri temizlemek ve normalize etmek için ne kullanıldı: Redis mi yoksa regex mi?

Senior
133
/2