Machine Learning / AI

მოყევით მაგალითი, როდესაც `eval()` რეჟიმში BatchNorm-ის არასწორი გამოყენება გამოიწვია პროგნოზებში შეცდომები.

ახალი მოდელის ვერსიიდან შემდეგ საშუალო ხარისხის შეფასება გაიზარდა, მაგრამ რედაქტორები ამბობენ, რომ სამართლებრივ და ფინანსურ თემებზე პასუხები საგრძნობლად გაუარესდა. რა ვიზუალიზაციას გააკეთებთ პირველ რიგში, რათა გადაწყვიტოთ, შეჩერდეს თუ არა გამოშვება?

პრაქტიკული დავალება რომელი არტეფაქტების ნაკრები საშუალებას იძლევა სამართლიანად განახორციელოს ორი LoRA-ის გაშვების შედარება? - მხოლოდ საბოლოო ხარისხის სია. - კოდი და საბოლოო მეტრიკის სქრინშოტი commit-ის სახით. - ექსპერიმენტის კოდი და კონფიგურაციის ფაილი. - კოდი, მონაცემების ჰეში, ძირითადი მოდელი, LoRA კონფიგურაცია, დამოკიდებულებები და გაშვების ბრძანება. - მხოლოდ Git-ის ფილიალის ბმული. - კოდი, LoRA პარამეტრები, ძირითადი მოდელის ვერსია და დამოკიდებულებები.

როგორ მართავთ ჩვეულებრივ მონაცემებისა და მოდელების ვერსიებს ასეთ ექსპერიმენტებში?

არსებობს თუ არა მიმდინარე ინტერვიუები დიდ ტექნოლოგიურ კომპანიებში, როგორიცაა Yandex ან Alfa?

Практиක დავალება 80 მილიონი შეტყობინებისთვის SQL სვეტმა შექმნა დუბლიკატები JOIN-ის შემდეგ. რა მოქმედება უნდა დაიწყოს პირველ რიგში? - შემოწმეთ JOIN-ის კარდინალობა, გასაღებები და შესრულების გეგმა ოპტიმიზაციის წინ. - შექმენით ინდექსი ერთ კავშირის ველზე. - ექსპორტი შედეგი CSV-ში და წაშალეთ დუბლიკატები Python-ში. - ყოველთვის დაამატეთ DISTINCT ყველა სვეტზე. - დაამატეთ DISTINCT შედეგის შემოწმების შემდეგ ნიმუშზე. - შემოწმეთ კავშირის გასაღებები და ორივე ცხრილის უნიკალურობა.

გეგმავთ დარჩეთ ფილიპინებზე ან გადავიდეთ სხვა ქვეყანაში?

შეგიძლიათ დეტალურად მოყევით, რა იყო თქვენთვის "დაწოლილი" კითხვებში და როგორ ეს გავლენა მოახდინა თქვენი ინტერვიუს აღქმაზე?

შეიძლება მუშაობის გამოცდილება სრულად ინგლისურ გუნდებში?

როგორ შეაფასებდით გამონაბოლქვის ზეგავლენას მოდელის მეტრიკებზე, მაგალითად, სიზუსტე ან F1-შკალა?

გქონდათ თუ არა გამოცდილება AI-თან ინტერვიუებში?

გაქვთ შეთავაზებები ხელში ან საბოლოო ეტაპები სხვა კომპანიებში?

როგორ ოპტიმიზირდებოდით კავშირის გასაღებების ინდექსებს, რათა შემცირებოდეთ დუბლიკატები და გაადვილდეს სერვერის პასუხი?

გააზრეთ, რომ თქვენ მუშაობთ PyTorch მოდელთან და მას eval() რეჟიმში გადართვის შემდეგ ხედავთ, რომ 10,000 მაგალითის ფიქსირებულ ტესტ ნაკრებზე მეტრიკები ყოველ გაშვებაზე იცვლება. თქვენ ფიქსირებთ შემთხვევითობის გენერატორების საწყის მდგომარეობას გამეორებადობისთვის: სად შეიძლება იყოს ცვლილებების წყარო დამალული? ახსენით Dropout-ის, BatchNorm-ის და torch.no_grad()-ის როლი და დაასახელეთ მეტრიკები, რომლებიც შედეგების სტაბილურობის შემოწმებისთვის გამოიყენება, მათთან დაკავშირებული ზღვარი ნიშნულები.

Практик დავალება AI სთავაზობს, რომ ყველა 2 მილიონი არასუფთა დიალოგის উপর LoRA-ს სწავლება. რა არის კანდიდატის ყველაზე მწიფე პასუხი? - AI-ზე ნდობა: დიდი კორპუსი თვითონ შეავსებს შეცდომებს. - ჯერ промტი შეცვალე, მონაცემებს არ შეცვლი. - სუფთა ნაწილზე LoRA-ს სწავლება და შედარება ძირითადი მოდელთან. - სწავლების წინ შემთხვევით ნიმუშის მონიშვნა გადაამოწმე. - ჯერ მონაცემები და ხარისხი თემებზე გამოიკვლიე ცალკეულ ნაკვეთზე, შემდეგ შეზღუდული სწავლა LoRA-ს. - მთელი კორპუსზე სწავლა, მაგრამ LoRA-ს რანგი შეამცირე.

შეაფასეთ თქვენი ინგლისური ცალკე კითხვა/წერა და საუბრის დონეებზე CEFR-ის მიხედვით.

რომელი ფორმატი გსურთ: GPH, IP ან TК?

როგორ გამოიყენებდით ზუსტად `EXPLAIN`-ს ამ შეკითხვის შესრულების პრობლემების გამოვლენისათვის?

დიალოგების ცხრილში 80 მილიონი შეტყობინებაა, და შეფასების ნაკრების ანალიტიკური შეკითხვა 25 წუთს გრძელდება და ზოგჯერ კითხვ-პასუხის წყვილებს დუბლიკატებს აბრუნებს. რა გამოასწორებთ პირველ რიგში და რატომ?

საველეების შექმნისთვის დიდი ენობრივი მოდელი უჭირს იშვიათ თემებზე სტილის შენარჩუნებას. AI-დამხმარე სთავაზობს დაუყოვნებლივ დაიწყოს LoRA მთელ ისტორიულ კორპუსზე, რომელიც შედგება 2 მილიონი დიალოგისგან, მაგრამ მონიშვნა ნაწილობრივ ხმაურია. რომელ შემთხვევებში არ ირწმუნებით ამ რჩევას და რა აირჩევთ პირველ რიგში?