Machine Learning / AI

Tooge näide, kui BatchNorm vale kasutamine `eval()` režiimis viis ennustustes vigadeni.

Kas on praegu suurte tehnoloogiaettevõtete, näiteks Yandexi või Alfa, intervjuud?

Practical task An SQL query on 80 million messages creates duplicates after JOIN. Which action is best to start first? - Check the cardinality of the JOIN, keys, and execution plan before optimization. - Create an index on one join field. - Export the result to CSV and remove duplicates in Python. - Always add DISTINCT to all columns. - Add DISTINCT after verifying the result on a sample. - Check the join keys and the uniqueness of both tables.

Praktiline ülesanne Milline artefaktide kogum võimaldab ausalt taastada kahe LoRA käivitamise võrdluse? - Ainult lõplik kvaliteetdiagramm. - Commit koos koodiga ja lõpliku metrika ekraanipildiga. - Katse kood ja konfiguratsioonifail. - Kood, andmete hash, põhimudel, LoRA konfiguratsioon, sõltuvused ja käivitamise käsk. - Ainult link Git'i harule. - Kood, LoRA parameetrid, põhimudeli versioon ja sõltuvused.

Kuidas tavaliselt haldate sellistes katsetes andmete ja mudelite versioone?

Kas plaanite jätkata Filipiinidel või kolida teise riiki?

Pärast uue mudeli versiooni suurenes keskmine kvaliteedi hinnang, kuid toimetajad ütlevad, et vastused juriidilistel ja finantsküsimustel on oluliselt halvenenud. Millist visualiseerimist teeksite esimesena, et otsustada, kas peatada väljaandmine?

Kas saaksite üksikasjalikumalt rääkida, mis täpselt tundus teile "survestav" küsimustes ja kuidas see mõjutas teie suhtumist intervjuusse?

Kas teil on kogemusi töötada täielikult inglise keelt kõnelevates meeskondades?

Kas teil on kogemusi tehisintellekti intervjuudega?

Kas teil on pakkumisi käes või lõppfaasid teistes ettevõtetes?

Kuidas hindaksite kvantitatiivselt heitmete mõju mudeli metrikatele, näiteks täpsus või F1-skoor?

Kuidas optimeeriksite ühendusvõtmete indekseid, et vähendada duplikaate ja kiirendada päringut?

Kujutame ette, et töötate PyTorch mudeliga ja pärast selle üleviimist hindamise režiimi eval() näete, et fikseeritud 10 000 näite testkomplekti metrikad muutuvad iga käivitamisega. Te fikseerite juhuslike arvugeneraatorite algseisundi korduvuse tagamiseks: kus veel võib olla muutuste allikas peidetud? Selgitage Dropout, BatchNorm ja torch.no_grad() rolli ning nimetage metrikad, mille abil kontrollite tulemuste stabiilsust, kasutades nende jaoks määratud lävendi väärtusi.

Hinnake oma inglise keelt eraldi lugemise/kirjutamise ja vestluse osas CEFR tasemetel.

Praktiline ülesanne AI soovitab treenida LoRA kõigil 2 miljonil mittepuhtal dialoogil. Milline on kandidaadi kõige küpsem vastus? - Usaldada AI-d: suur korpus kompenseerib vead ise. - Esiteks muuta prompti, mitte andmeid. - Treenida LoRA puhastatud osas ja võrrelda seda põhimudeliga. - Enne treeningut kontrollida juhuslikku märgistamise näidist. - Esiteks kontrollida andmeid ja kvaliteeti teemade kaupa eraldi komplektis, seejärel piiratud ulatuses treenida LoRA. - Treenida kogu korpuse peal, kuid vähendada LoRA järku.

Kuidas te kasutaksite täpselt `EXPLAIN`-i, et tuvastada selle päringuga seotud jõudlusprobleeme?

Milline formaliseerimise vorm on teile kõige mugavam: GPH, IP või TК?

Dialoogide tabelis on 80 miljonit sõnumit, ja analüütiline päring hindamise komplektile kestab 25 minutit ning mõnikord tagastab duplikaatpaarid küsimus-vastus. Mida te kõigepealt parandaksite ja miks?

Küsimuste loomisel on suur keelemudel raskesti säilitama stiili haruldastel teemadel. Tehisintellekti-assistent soovitab kohe käivitada LoRA kogu ajaloolise korpuse 2 miljoni dialoogiga, kuid märgistamine on osaliselt mürarikas. Kus sa ei usaldaks seda nõu ja mida eelistaksid esimesena?