Python

Düzgün başa düşürəm ki, əvvəlcə minimal uyğunluğu axtarırdınız (məsələn, paraqraf üzrə uyğunluq), və sonra sadəcə bütün sənədi ixrac edib LLM kontekstinə göndərirdiniz?

Bir dəfə neçə müştəri emal edilməlidir və tələb olunan gücü necə müəyyən etmək olar (məsələn, 5 milyard müştəri bazası ilə)?

Bu model/xidmət necə işə salınacaq və işləyəcək, SMS-in müəyyən vaxtda cədvələ uyğun olaraq göndərilməli olduğu nəzərə alınaraq?

Əgər bu API-dirsə, daxil olan HTTP sorğusunun bədənində nə olacaq və model nə qaytarır?

Daha sadə nümunə: kolbasa almaq üçün SMS göndərmək, amma pravoslav orucu başlayır — bu halda nə dəyişir və nəyə diqqət yetirmək lazımdır?

Yəni, modelin keyfiyyət göstəricilərini yox, həm də bu modelin qurulduğu məlumatları izləmək lazımdır, düzdür?

Bank [ad] yeni ipoteka təklifi haqqında SMS-ləri yalnız hədəf müştərilərə göndərmək istəyir, bütün müştərilərə yox. Burada hansı model lazımdır və biznes baxımından nə vacibdir?

Modeli konteynerə qoyacağıq, yoxsa?

Kubernetes, xidməti başlatmadan əvvəl dəqiq nəyi yoxlayır (hazırlıq)?

Biznes tətbiqi baxımından LLM-dən başqa hansı ML modellərini bilirsiniz?

Kubernetes və Docker ilə bağlı təcrübəniz nədir?

Sənin fikrincə, bütün statistik keyfiyyət göstəriciləri eyni hesab olunur, onların incəlikləri varmı?

Model xidməti davamlı donur və həftədə bir dəfə müştərilər göndərilir — bu səmərəsiz deyilmi və nə edə bilərik?

Modelin digər statistik göstəriciləri varmı — hansılardır?

Model qiymətləndirdikdən sonra məlumatlarla nə baş verir?

Batch işi icra edərkən, son tarixə riayət etməkdən başqa nə yoxlanmalı/monitorinq edilməlidir?

Model üçün tələb olunan infrastruktur gücünü necə müəyyən edirik?

Model dəqiq necə yerləşdiriləcək — məsələn, virtual maşında? Harada dəqiq?

Mərkəzi Bankın faizi dəyişdikcə, kredit şərtləri (məbləğ, faiz dərəcəsi) də dəyişir — bu prosesdə modeldə/kampaniyada nə dəyişə bilər?

Model artıq istehsalda olduqda məlumatlarla necə qarşılıqlı əlaqədə olur?