Machine Learning / AI

Ներկայացրեք օրինակ, երբ `eval()` ռեժիմում BatchNorm-ի սխալ օգտագործումը հանգեցրեց կանխատեսումների սխալների։

Практиկային առաջադրանք Ի՞նչ հավաքածու արհեստագործների թույլ է տալիս արդարացիորեն վերարտադրել երկու LoRA գործարկումների համեմատությունը: - Միայն վերջնական որակի աղյուսակը: - Կոմիտ՝ կոդով և վերջնական մետրի պատկերի նկարի հետ: - Կոդ և փորձի կոնֆիգուրացիայի ֆայլ: - Կոդ, տվյալների հեշ, հիմնական մոդել, LoRA կոնֆիգուրացիա, կախվածություններ և գործարկման հրամանի: - Միայն Git ճյուղի հղում: - Կոդ, LoRA պարամետրեր, հիմնական մոդելի տարբերակ և կախվածություններ։

Կա արդյոք ներկայումս հարցազրույցներ մեծ տեխնոլոգիական ընկերություններում, ինչպիսիք են Yandex կամ Alfa?

Практиկային առաջադրանք SQL հարցումը 80 միլիոն հաղորդագրության համար ստեղծում է կրկնօրինակներ JOIN-ից հետո: Որ գործողությունը լավագույնն է սկսել առաջինը: - Ստուգել JOIN-ի կարդինալությունը, բանալիները և կատարման պլանը նախքան օպտիմալացումը: - Ստեղծել ինդեքս մի կապի դաշտում: - Արտահանել արդյունքը CSV- ի և հեռացնել կրկնօրինակները Python- ում: - Ամեն ժամանակ ավելացնել DISTINCT բոլոր սյունակներին: - Ավելացնել DISTINCT արդյունքի ստուգումից հետո օրինակով: - Ստուգել կապի բանալիները և երկու աղյուսակների յուրահատկությունը։

Նոր մոդելի տարբերակից հետո միջին որակի գնահատականը բարձրացել է, բայց խմբագիրները ասում են, որ իրավական և ֆինանսական թեմաներով պատասխանները նկատելիորեն վատացել են: Ինչ վիզուալիզացիա կկատարեք առաջին հերթին՝ որոշելու համար՝ դադարեցնել հրապարակումը կամ ոչ:

Ինչպես սովորաբար կառավարում եք տվյալների և մոդելների տարբերակները նման փորձերում?

Դուք պլանավորում եք մնալ Ֆիլիպիններում կամ տեղափոխվել այլ երկիր?

Կարող եք մանրամասն պատմել, թե ինչն էր ձեզ համար «սրտաճմլիկ» հարցերում և ինչպես դա ազդեց ձեր հարցազրույցի ընկալման վրա?

Դուք ունե՞ք փորձ ամբողջությամբ անգլերեն թիմերում աշխատելու։

Կա՞ք փորձ AI-ով հարցազրույցների հետ:

Կան առաջարկներ ձեր ձեռքում կամ վերջնական փուլերում այլ ընկերություններում?

Ինչպե՞ս կգնահատեիք արտանետումների ազդեցությունը մոդելի մետրիկների վրա, օրինակ՝ accuracy կամ F1-score։

Ինչպե՞ս կօգտագործեիք միացման բանալիների ինդեքսները՝ կրկնօրինակները նվազեցնելու և հարցումը արագացնելու համար։

Նկարագրեք, որ դուք աշխատում եք PyTorch մոդելով և այն eval() ռեժիմում փոխելուց հետո տեսնում եք, որ 10,000 օրինակներից բաղկացած ֆիքսված փորձնական հավաքածուի մետրիկաները փոփոխվում են յուրաքանչյուր գործարկում: Դուք ֆիքսում եք պատահական թվերի գեներատորների սկզբնական վիճակը՝ վերարտադրելիության համար. որտեղ էլ կարող է թաքնված լինել փոփոխությունների աղբյուրը: բացատրեք Dropout, BatchNorm և torch.no_grad() դերերը և անվանեք մետրիկաները, որոնց միջոցով դուք կստուգեք արդյունքների կայունությունը՝ սահմանային արժեքներով:

Նախագծեք ձեր անգլերենը առանձին կերպով ընթերցման/գրելու և խոսելու համար CEFR մակարդակների համաձայն։

Ինչպես եք ճիշտ օգտագործում `EXPLAIN`-ը այս հարցում կատարողական խնդիրները հայտնաբերելու համար։

Практиկային հանձնարարություն AI-ն առաջարկում է բոլոր 2 միլիոն անտաք տեքստային զրույցների վրա LoRA-ն ուսուցանել: Որո՞նք են թեկնածուի առավել հասուն պատասխանները: - Վստահել AI-ին. մեծ կորպուսը ինքն է ուղղելու սխալները: - Նախ փոխել հրահանգը՝ չփոխելով տվյալները: - Ուսուցանել LoRA-ն մաքրված մասում և համեմատել այն հիմնական մոդելին: - Ուսուցումից առաջ ստուգել նշումների պատահական նմուշը: - Նախապես ստուգել տվյալները և որակը թեմաներով առանձին հավաքածուում, ապա սահմանափակ կերպով ուսուցանել LoRA-ն: - Ուսուցանել ամբողջ կորպուսում, բայց նվազեցնել LoRA-ի կարգը։

Որ ձևաչափը ձեզ համար ավելի հարմար է՝ GPH, IP կամ TК?

Խոսակցությունների աղյուսակում կա 80 միլիոն հաղորդագրություն, և գնահատման հավաքածուի համար վերլուծական հարցումը տևում է 25 րոպե և երբեմն կրկնօրինակում է հարց-պատասխան զույգերը: Ինչը առաջին հերթին կշտկեք և ինչու՞:

Ստեղծելու հարցերի համար մեծ լեզվային մոդելը դժվարանում է պահել ոճը հազվագյուտ թեմաներում: AI օգնականը առաջարկում է անմիջապես սկսել LoRA-ն ամբողջ պատմական 2 միլիոն խոսակցությունների վրա, բայց նշագրման մասամբ աղմկոտ է: Որ դեպքերում չեք վստահում այս խորհրդին և առաջինը ինչ կընտրեիք?