Сбой задания Mapreduce внутри IntelliJ

Я пытаюсь запустить работу Map-Reduce из IntelliJ. Это мой код бегуна,

public class ViewCount extends Configured implements Tool{

    @Override
    public int run(String[] args) throws Exception {
        Configuration conf = this.getConf();


        Job job = Job.getInstance(conf);
        job.setJobName("viewCount");
        job.setJarByClass(ViewCount.class);

        job.setOutputKeyClass(Text.class);
        job.setOutputValueClass(IntWritable.class);

        job.setMapperClass(Map.class);
        job.setReducerClass(Reduce.class);

        Path inputFilePath = new Path(args[0]);
        Path outputFilePath = new Path(args[1]);

        FileInputFormat.addInputPath(job, inputFilePath);
        FileOutputFormat.setOutputPath(job, outputFilePath);

        return job.waitForCompletion(true) ? 0:1;

    }

    public static void main(String[] args) throws Exception {

        int exitCode = ToolRunner.run(new ViewCount(), args);
        System.exit(exitCode);
    }

Задача не удается построить со следующим сообщением об ошибке.

error: incompatible types: Job cannot be converted to JobConf
        FileOutputFormat.setOutputPath(job, outputFilePath);

Apached документы предполагают, что метод на самом деле принимает работу, а не JobConf, так что я делаю неправильно?

1 ответ

  1. Взгляните на пакеты, из которых приходят классы. Вы можете смешивать пакеты, и Вам нужно использовать TextInputFormat из правильного пакета в соответствии с вашей версией Hadoop. Если вы используете Hadoop версии 2.x затем необходимо импортировать различные классы (из пакета mapreduce) по сравнению с Hadoop версии 1.x (который имел пакет mapred )