Sobes.tech
Middle

Šta su lazy izračuni u Spark-u?

sobes.tech АИ

Одговор од АИ

У Apache Spark, lenjivi (lazy) računi znače da operacije nad podacima nisu odmah izvršene pri njihovom pozivu. Umesto toga, Spark gradi plan izračuna (DAG — Directed Acyclic Graph), koji će biti izvršen tek kada je rezultat potreban, na primer, pri pozivu akcija kao što su collect(), count(), save().

Ovo omogućava optimizaciju izvršenja, kombinovanjem više transformacija u jedan korak, minimiziranjem čitanja i zapisivanja podataka, kao i efikasnim raspoređivanjem opterećenja po klasterima.

Primer:

val rdd = sc.textFile("data.txt")
val filtered = rdd.filter(line => line.contains("error")) // lenja transformacija
val count = filtered.count() // akcija, koja pokreće izračunavanja

Ovde, filter se ne izvršava odmah, već samo kada se pozove count().