Machine Learning / AI

Wie verarbeitet man die Tabelle im Dokument bei der Vorbereitung der Daten für RAG?

Senior

2gis

import unittest class Solution: def isvalid(self, s:str) -> bool: matching_brackets = { ")": "(", "]": "[", "}": "{", } stack: list[str] = [] for bracket in s: if bracket in "([{": stack.append(bracket) continue if bracket not in matching_brackets: return False if not stack or stack[-1] != matching_brackets[bracket]: return False stack.pop() return not stack class SolutionTest: def __init__(self): self.Solution = Solution() def run(self): test_cases = [ ("", True), ("()", True), ("(){}[]", True), ("(({}))", True), ("(", False), (")", False), ("(((", False), ("{[]}", False), ] for brackets, expected in test_cases: actual = self.Solution.isvalid(brackets) assert actual == expected, ( f"Fehler für {brackets!r}" f"Wir wollten {expected} bekommen, aber haben {actual}" ) print(f"Alle Tests bestanden: {len(test_cases)}") if __name__ == "__main__": SolutionTest().run()

Geben Sie ein Beispiel, bei dem die falsche Verwendung von BatchNorm im `eval()`-Modus zu Fehlern bei den Vorhersagen führte.

Was ist nach der Retrieval-Phase zu tun, um die Antwort für den Nutzer zu formulieren, und wie wird die Qualität der Generierung im RAG bewertet?

Senior

2gis

Praktische Aufgabe Die KI schlägt vor, LoRA auf allen 2 Millionen unbereinigten Dialogen zu trainieren. Welche Antwort des Kandidaten ist am reifen? - Vertrauen in die KI: Ein großer Korpus wird Fehler ausgleichen. - Zuerst den Prompt ändern, ohne die Daten zu verändern. - LoRA auf den bereinigten Teil trainieren und mit dem Basismodell vergleichen. - Zufällige Stichprobe der Markierungen vor dem Training überprüfen. - Zuerst die Daten und die Qualität nach Themen in einem separaten Satz überprüfen, dann LoRA eingeschränkt trainieren. - Auf dem gesamten Korpus trainieren, aber den Rang von LoRA verringern.

Erzählen Sie, wie der RAG-Pipeline im Allgemeinen aufgebaut ist: Welche Phasen umfasst sie?

Senior

2gis

Erzählen Sie mehr über den KV-Cache: wie er funktioniert und woher er stammt, beginnend mit der Transformer-Architektur.

Senior

2gis

Praktische Aufgabe SQL-Abfrage mit 80 Millionen Nachrichten erzeugt Duplikate nach dem JOIN. Welche Aktion sollte zuerst gestartet werden? - Überprüfen Sie die Kardinalität des JOIN, die Schlüssel und den Ausführungsplan vor der Optimierung. - Erstellen Sie einen Index auf einem Verbindungsschlüssel. - Exportieren Sie das Ergebnis in CSV und entfernen Sie Duplikate in Python. - Fügen Sie immer DISTINCT zu allen Spalten hinzu. - Fügen Sie DISTINCT nach der Überprüfung des Ergebnisses auf der Stichprobe hinzu. - Überprüfen Sie die Verbindungsschlüssel und die Einzigartigkeit beider Tabellen.

Wie überträgt man in LangGraph technisch nur einen Teil des States, anstatt den gesamten State?

Senior

2gis

Praktische Aufgabe Welcher Artefaktensatz ermöglicht eine ehrliche Reproduktion des Vergleichs zweier LoRA-Läufe? - Nur die endgültige Qualitätstabelle. - Commit mit Code und Screenshot der endgültigen Metrik. - Code und Konfigurationsdatei des Experiments. - Code, Daten-Hash, Basismodell, LoRA-Konfiguration, Abhängigkeiten und Startbefehl. - Nur Link zum Git-Branch. - Code, LoRA-Parameter, Version des Basismodells und Abhängigkeiten.

An welchem Projekt haben Sie an der Bereitstellung von Diensten und der Entwicklung von FastAPI-Diensten gearbeitet: Haben Sie das selbst umgesetzt oder nur gewartet und überwacht?

Senior

2gis

Wie wichtig oder kritisch ist die IT-Akkreditierung des Unternehmens für dich?

Senior

Точка

Wie man einen Agenten entwirft, der auf Basis von Transaktionsdaten auf Benutzeranfragen antwortet: Welche Technologie-Stack und Architektur sind erforderlich, und ist der Einsatz von Multi-Agenten sinnvoll?

Warum bietet das Caching genauer Benutzeranfragen in der Regel einen begrenzten geschäftlichen Nutzen und was genau meinen Sie mit Caching von Antworten?

Stell dir vor, du arbeitest mit einem Modell in PyTorch und nach dem Umschalten in den Evaluierungsmodus eval() stellst du fest, dass die Metriken auf einem festen Testset von 10.000 Beispielen bei jedem Lauf variieren. Du fixierst den Anfangszustand der Zufallsgeneratoren für Reproduzierbarkeit: Wo könnte sonst die Quelle der Änderungen verborgen sein? Erkläre die Rolle von Dropout, BatchNorm und torch.no_grad() und nenne Metriken mit Schwellenwerten, anhand derer du die Stabilität der Ergebnisse überprüfst.

Welche weiteren Optimierungsmethoden können verwendet werden, um die Inferenz zu beschleunigen oder zumindest das Modell in 12 GB VRAM auf einer RTX 3090 unterzubringen?

Senior

2gis

Wie kann man erreichen, dass ein Antwortmodell einer strikt vorgegebenen Struktur folgt, zum Beispiel in JSON?

Senior

Точка

Worin unterscheidet sich ChatGPT im Allgemeinen von einem Assistenten innerhalb eines Unternehmens (Chatbot vs Assistent)?

Senior

Точка

Warum kann man externe LLMs nicht direkt in den Produktionsservice im Fintech-Bereich integrieren?

Senior

Точка

In welche Richtung möchten Sie sich in Zukunft entwickeln, welche beruflichen Richtungen heben Sie für sich hervor?

Senior

Точка