Анализ PDF-файла U-SQL + Python в Azure Data Lake Analytics

Question

Мне нужно извлечь данные из файлов PDF и сохранить значения в таблице с помощью аналитики озера данных. Может ли кто-нибудь помочь мне с некоторыми примерами или процедурой достижения этого сценария.

Answer 1

Вот несколько ресурсов для начала работы с U-SQL в Azure Data Lake Analytics:

https://docs.microsoft.com/en-us/u-sql/

https://www.purplefrogsystems.com/paul/category/u-sql/

https://www.mssqltips.com/sqlservertip/5890/azure-data-lake-analytics-using-usql-queries/

Что касается сценария, о котором вы говорили, вам нужно будет написать Custom Extractor для чтения PDF. Вот пример того же C#:

using System.Collections.Generic;
 using iTextSharp.text.pdf;
 using iTextSharp.text.pdf.parser;
 using Microsoft.Analytics.Interfaces;

 namespace PDFExtractor
 {
     [SqlUserDefinedExtractor(AtomicFileProcessing = true)]
     public class PDFExtractor : IExtractor
     {
         public override IEnumerable<IRow> Extract(IUnstructuredReader input, IUpdatableRow output)
         {
             var reader = new PdfReader(input.BaseStream);
             for (var page = 1; page <= reader.NumberOfPages; page++)
             {
                 output.Set(0, page);
                 output.Set(1, ExtractText(reader, page));
                 yield return output.AsReadOnly();
             }
         }

         public string ExtractText(PdfReader pdfReader, int pageNum)
         {
             var text = PdfTextExtractor.GetTextFromPage(pdfReader, pageNum, new LocationTextExtractionStrategy());
             // Encode new lines to prevent from line breaking in text editors,
             // I want nice line after line files
             return text.Replace("\r", "\\r").Replace("\n", "\\n");
         }
     }
 }

Вы можете написать нечто подобное на Python.

Ссылка - https://devblog.xyz/simple-pdf-text-extractor-adla/

Надеюсь это поможет.