Обработка уведомлений S3 PUT при записи в корзину Amazon S3 с Hive внутри Amazon EMR

У меня есть сценарий Hive, который выглядит следующим образом:

Пропустить заголовок в csv при импорте

SET skip.header.line.count = 1;

создать таблицу CAC

CREATE EXTERNAL TABLE channelAccessCodes (accessCode string,channelCode string,id string,upc string,version bigint)
STORED BY 'org.apache.hadoop.hive.dynamodb.DynamoDBStorageHandler' 
TBLPROPERTIES ("dynamodb.table.name" = "properties.channelAccessCode", 
"dynamodb.column.mapping" = "accessCode:accessCode,channelCode:channelCode,id:id,upc:upc,version:version"); 

CREATE TEMPORARY TABLE if not exists bdc (id STRING,name STRING,address STRING,zip STRING,city_hotel STRING,cc1 STRING,ufi STRING,class STRING,currencycode STRING,minrate STRING,maxrate STRING,preferred STRING,nr_rooms STRING,longitude STRING,latitude STRING,public_ranking STRING,hotel_url STRING,photo_url STRING,desc_en STRING,desc_fr STRING,desc_es STRING,desc_de STRING,desc_nl STRING,desc_it STRING,desc_pt STRING,desc_ja STRING,desc_zh STRING,desc_pl STRING,desc_ru STRING,desc_sv STRING,desc_ar STRING,desc_el STRING,desc_no STRING,city_unique STRING,city_preferred STRING,continent_id STRING,review_score STRING,review_nr STRING)
ROW FORMAT DELIMITED fields terminated by 't' lines terminated by 'n'
stored as textfile
LOCATION 's3://properties-uat-imports/input/BDC'
tblproperties("skip.header.line.count"="1");

CREATE TEMPORARY TABLE TempTableDeletes(ChannelAccessCode STRING)
ROW FORMAT DELIMITED fields terminated by '|' lines terminated by 'n';

INSERT INTO TABLE TempTableDeletes SELECT channelAccessCodes.id FROM channelAccessCodes LEFT JOIN bdc ON channelAccessCodes.id = CONCAT('BDC',bdc.id)  WHERE CONCAT('BDC',bdc.id) IS NULL AND channelAccessCodes.id LIKE 'BDC%';

Раздел-Запись выбранных данных в S3

create external table s3_export_deletes(ChannelAccessCode STRING)
row format delimited lines terminated by 'n'
stored as textfile
LOCATION 's3://properties-uat-imports-emr/';

Пишу

INSERT OVERWRITE TABLE s3_export_deletes SELECT * from TempTableDeletes;

Он в основном считывает данные из динамической таблицы и файла из S3…делает некоторые jiggery pokery в выходную таблицу и записывает эту таблицу в корзину S3.

Когда этот сценарий Hive выполняется на EMR, он записывает один файл в S3. У меня есть уведомление, настроенное на этой корзине, чтобы запустить сообщение в очередь SQS всякий раз, когда уведомление PUT получено на корзине. Я ожидаю, что будет только одно уведомление, но, кажется, есть несколько (6, чтобы быть точным)?

Кто-нибудь знает, почему это? И можно ли заставить Hive сделать только один звонок в корзину S3?

Спасибо,

Крис

1 ответ

  1. Проблема здесь заключается в том, что весь процесс фиксации вывода hive записывает файлы в подкаталоги, затем переименовывает их, все это комбинация вызовов PUT (по одному для каждого каталога), по одному для каждой копии в процессе переименования.

    Я не могу придумать какое-либо простое решение здесь, кроме фильтрации этого уведомления (lambda ?) отбросить все, кроме финального коммита поставить