Қалайша бірнеше REST API-дан масштабталатын деректер жүктеуді жобалайсыз: деректерді алуынан S3-ке дейін, аналитик үшін интерфейспен?
Data Engineer
Процедуралық SQL дегеніміз не?
Өздеріңіз және деректер инженерлігіндегі тәжірибеңіз туралы айтыңыз.
101 объект бар: 100 нөл жана 1 бир. Бағалар бойынша сұрыпталғаннан кейін, алдымен 50 нөл, содан кейін бир, содан кейін тағы 50 нөл келеді. ROC AUC және ROC қисығының формасы қандай?
Индекстердің орын алудан басқа қандай кемшіліктері бар?
Градиент бустингте, алда N негизги алгоритмдин композициясы курулган. Жаңы, N+1-чи алгоритм үчүн максат эмне болот?
Салғырт бағалау неге пайдалы?
Spark-те маалыматтар spill эмне жана ресурстарды оңой кошо албаса, аны кантип алдын алса болот?
Жоғары жүктемелі деректер түрлендірулерін қалай өңдер едіңіз?
Spark-тің іске қосу режимдері қалай ерекшеленеді: cluster, client және local?
API жүктегішін арнайы Airflow операторы/hook ретінде жүзеге асырудың артықшылықтары мен кемшіліктері қандай, бөлек кітапхана немесе контейнер қызметімен салыстырғанда?
2. Клиенттердин күндөлүк транзакцияларынын суммасын көрсөтүүчү t деген таблица бар: - Ар бир сап үчүн кардардын учурдагы жана алдыңкы күндөгү транзакцияларын көрсөтүүчү суроо жазгыла Акыркы таблица төмөндө:
Салғырт бағалау дегеніміз не және оны қалай түсінуге болады?
Airflow-де қандай типтік тапсырмаларды шештіңіз?
Дата, тапсырыс нөмірі, сомма select date, sum(amount) as sum_amount from t group by date having sum(amount) > 1000000 order by sum_amount desc limit 3
Жұлдыз үлгілері және Data Vault дегеніміз не?
Өзіңіз туралы айтыңыз: соңғы жұмыс орныңыз қайда болды, не істедіңіз, не іздейсіз және не үшін?
Cluster режимінде Driver және Executors қайда орналасқан және неге оны өндірісте пайдаланады?
Градиент бустинг алгоритмінде, негізгі алгоритм қарапайым шешім ағашы болса, градиент дәл қайда пайда болады?
Greenplum және Hadoop HDFS қандай компоненттерден тұрады?