Как задать несколько путей ввода для gora avrostore в giraph (или) как заставить giraph читать несколько входных файлов
Как заставить giraph читать данные из нескольких входных путей. Я использую это в gora.properties
gora.datastore.default = org.apache.gora.avro.store.Avrostore gora.avrostore.input.path = file: ///path/to/file1.avro,file: ///path/to/file2.avro
Но это выдает эту ошибку. Входной путь не существует: file:/path/to/file1.avro,file:/path/to/file2.avro
1 ответ
Краткий ответ: извините, но кажется невозможным.
Длинный ответ:
Я не использую Giraph, но я знаю, что Gora не поддерживает множественные пути в AvroStore.
По этой причине именно Giraph должен реализовывать эту функцию, создавая 2 соединения с хранилищем данных (по одному на каждый файл), но я полагаю, что это не так (или делает?).
Другой подход заключается в улучшении AvroStore для поддержки нескольких файлов в конфигурации, но, насколько я знаю, вы думаете об этом первыми. Может быть, вы хотели бы сделать это улучшение...:)