Как настроить автономные конфигурации Spark для локального запуска примеров искр MLlib?

Я хочу запускать примеры Spark MLlib локально на своем компьютере (я думаю, это называется автономным). Я хочу запустить JavaWord2VecExample.java. эта конфигурация файла настроена для сеансов, которые запускают Spark на некоторых рабочих с одним мастером, но я хочу запустить класс только на своем ПК (локально). исходный код исходного класса находится здесь:

package org.apache.spark.examples.ml;

// $example on$
import java.util.Arrays;
import java.util.List;

import org.apache.spark.SparkConf;
import org.apache.spark.ml.feature.Word2Vec;
import org.apache.spark.ml.feature.Word2VecModel;
import org.apache.spark.ml.linalg.Vector;
import org.apache.spark.sql.Dataset;
import org.apache.spark.sql.Row;
import org.apache.spark.sql.RowFactory;
import org.apache.spark.sql.SparkSession;
import org.apache.spark.sql.types.*;
// $example off$

public class JavaWord2VecExample {
  public static void main(String[] args) {

    SparkSession spark = SparkSession
      .builder()
      .appName("JavaWord2VecExample")
      .getOrCreate();

    // $example on$
    // Input data: Each row is a bag of words from a sentence or document.
    List<Row> data = Arrays.asList(
      RowFactory.create(Arrays.asList("Hi I heard about Spark".split(" "))),
      RowFactory.create(Arrays.asList("I wish Java could use case classes".split(" "))),
      RowFactory.create(Arrays.asList("Logistic regression models are neat".split(" ")))
    );
    StructType schema = new StructType(new StructField[]{
      new StructField("text", new ArrayType(DataTypes.StringType, true), false, Metadata.empty())
    });
    Dataset<Row> documentDF = spark.createDataFrame(data, schema);

    // Learn a mapping from words to Vectors.
    Word2Vec word2Vec = new Word2Vec()
      .setInputCol("text")
      .setOutputCol("result")
      .setVectorSize(3)
      .setMinCount(0);

    Word2VecModel model = word2Vec.fit(documentDF);
    Dataset<Row> result = model.transform(documentDF);

    for (Row row : result.collectAsList()) {
      List<String> text = row.getList(0);
      Vector vector = (Vector) row.get(1);
      System.out.println("Text: " + text + " => \nVector: " + vector + "\n");
    }
    // $example off$
    List<String> text = row.getList(0);
      Vector vector = (Vector) row.get(1);
      System.out.println("Text: " + text + " => \nVector: " + vector + "\n");
    spark.stop();
  }
}

Я знаю, что если я хочу запускать примеры на локальном ПК, мне следует заменить SparkConf на SparkSession. Итак, я попробовал, и в настоящее время исходный код:

package org.apache.spark.examples.ml;

// $example on$
import java.util.Arrays;
import java.util.List;

import org.apache.spark.SparkConf;
import org.apache.spark.ml.feature.Word2Vec;
import org.apache.spark.ml.feature.Word2VecModel;
import org.apache.spark.ml.linalg.Vector;
import org.apache.spark.sql.Dataset;
import org.apache.spark.sql.Row;
import org.apache.spark.sql.RowFactory;
import org.apache.spark.sql.SparkSession;
import org.apache.spark.sql.types.*;
// $example off$

public class JavaWord2VecExample {
  public static void main(String[] args) {


    SparkConf spark = new SparkConf()
            .setAppName("JavaWord2VecExample")
            .set("spark.storage.memoryFraction", "1")
            .setMaster("spark://master:7077");

    // $example on$
    // Input data: Each row is a bag of words from a sentence or document.
    List<Row> data = Arrays.asList(
      RowFactory.create(Arrays.asList("Hi I heard about Spark".split(" "))),
      RowFactory.create(Arrays.asList("I wish Java could use case classes".split(" "))),
      RowFactory.create(Arrays.asList("Logistic regression models are neat".split(" ")))
    );
    StructType schema = new StructType(new StructField[]{
      new StructField("text", new ArrayType(DataTypes.StringType, true), false, Metadata.empty())
    });
    Dataset<Row> documentDF = spark.createDataFrame(data, schema);

    // Learn a mapping from words to Vectors.
    Word2Vec word2Vec = new Word2Vec()
      .setInputCol("text")
      .setOutputCol("result")
      .setVectorSize(3)
      .setMinCount(0);

    Word2VecModel model = word2Vec.fit(documentDF);
    Dataset<Row> result = model.transform(documentDF);

    for (Row row : result.collectAsList()) {
      List<String> text = row.getList(0);
      Vector vector = (Vector) row.get(1);
      System.out.println("Text: " + text + " => \nVector: " + vector + "\n");
    }
    // $example off$
    List<String> text = row.getList(0);
      Vector vector = (Vector) row.get(1);
      System.out.println("Text: " + text + " => \nVector: " + vector + "\n");
    spark.stop();
  }
}

Итак, какая-то ошибка отображается:

Ошибка: Java: не удается найти символ

для методов createDataFrame() и stop().

Я новичок в java и Spark. плз, помогите мне исправить эти ошибки. спасибо за все ответы.


person MeirDayan    schedule 15.04.2019    source источник


Ответы (1)


Попробуйте создать SparkSession напрямую и создайте dataframe из SparkSession

SparkSession spark= SparkSession.builder()
                                .appName("JavaWord2VecExample")
                                .master("spark://master:7077")
                                .config("spark.dynamicAllocation.enabled", true)
                                .config("spark.shuffle.service.enabled", true)
                                .config("spark.storage.memoryFraction", "1")
                                .getOrCreate();
person howie    schedule 15.04.2019
comment
Спасибо @howie. Это решило мою проблему. но я заменил spark://master:7077 на local[4]. это означает, что искра работает на локальном ПК с 4 ядрами. - person MeirDayan; 15.04.2019
comment
На самом деле это означает запуск на ядре №4. - person howie; 15.04.2019
comment
local[n] : локальный запуск Spark с n рабочими потоками (в идеале установите это количество ядер на вашем компьютере). @хоуи - person MeirDayan; 17.04.2019
comment
Вы можете найти дополнительные пояснения по следующей ссылке: stackoverflow.com/questions/32356143/ - person MeirDayan; 17.04.2019