Преобразование байтового массива NV21 в читаемый растровый формат

Question

Эй, я создаю маленькое приложение для камеры. Я реализовал все, но у меня есть одна проблема - преобразование байтового массива NV21 в формат JPEG.
Я нашел много способов, но все они даже не работают или работают на некоторых устройствах
во-первых, я попробовал этот фрагмент, и он работает на Xperia z2 5.2, но на galaxy s4 4.4.4

bitmap = BitmapFactory.decodeByteArray(data, 0, data.length);

также этот способ работает на одном устройстве и не работает на другом

 int pich = camera.getParameters().getPreviewSize().height;
        int picw = camera.getParameters().getPreviewSize().width;
        int[] pix = new int[picw * pich];
        bitmap.getPixels(pix, 0, picw, 0, 0, picw, pich);
                    //  int R, G, B, Y;
                    for (int y = 0; y < pich; y++) {
                        for (int x = 0; x < picw; x++) {
                            int index = y * picw + x;
                          int R = (pix[index] >> 16) & 0xff; 
                         int G = (pix[index] >> 8) & 0xff;     
                    int B = pix[index] & 0xff;
                   pix[index] = 0xff000000 | (R << 16) | (G << 8) | B;
                        }
                                  }

во-вторых, я попробовал много решений для преобразования декодирования NV21 первый renderscript код

    public Bitmap convertYUV420_NV21toRGB8888_RenderScript(byte [] data,int W, int H, Fragment fragment) {
    // http://stackru.com/questions/20358803/how-to-use-scriptintrinsicyuvtorgb-converting-byte-yuv-to-byte-rgba
    RenderScript rs;
    ScriptIntrinsicYuvToRGB yuvToRgbIntrinsic;
    rs = RenderScript.create(fragment.getActivity());
    yuvToRgbIntrinsic = ScriptIntrinsicYuvToRGB.create(rs, Element.U8_4(rs)); //Create an intrinsic for converting YUV to RGB.

    Type.Builder yuvType = new Type.Builder(rs, Element.U8(rs)).setX(data.length);
    Allocation in = Allocation.createTyped(rs, yuvType.create(), Allocation.USAGE_SCRIPT); //an Allocation will be populated with empty data when it is first created

    Type.Builder rgbaType = new Type.Builder(rs, Element.RGBA_8888(rs)).setX(W).setY(H);
    Allocation out = Allocation.createTyped(rs, rgbaType.create(), Allocation.USAGE_SCRIPT); //an Allocation will be populated with empty data when it is first created

    in.copyFrom(data);//Populate Allocations with data.

    yuvToRgbIntrinsic.setInput(in); //Set the input yuv allocation, must be U8(RenderScript).
    yuvToRgbIntrinsic.forEach(out); //Launch the appropriate kernels,Convert the image to RGB.


    Bitmap bmpout = Bitmap.createBitmap(W, H, Bitmap.Config.ARGB_8888);
    out.copyTo(bmpout); //Copy data out of Allocation objects.
    return bmpout;

}

а также этот код

 void decodeYUV420SP(int[] rgb, byte[] yuv420sp, int width, int height) {

    final int frameSize = width * height;

    for (int j = 0, yp = 0; j < height; j++) {
        int uvp = frameSize + (j >> 1) * width, u = 0, v = 0;

        for (int i = 0; i < width; i++, yp++) {

            int y = (0xff & ((int) yuv420sp[yp])) - 16;

            if (y < 0)

                y = 0;

            if ((i & 1) == 0) {

                v = (0xff & yuv420sp[uvp++]) - 128;

                u = (0xff & yuv420sp[uvp++]) - 128;

            }

            int y1192 = 1192 * y;

            int r = (y1192 + 1634 * v);
            int g = (y1192 - 833 * v - 400 * u);
            int b = (y1192 + 2066 * u);

            if (r < 0)
                r = 0;
            else if (r > 262143)

                r = 262143;
            if (g < 0)
                g = 0;
            else if (g > 262143)

                g = 262143;

            if (b < 0)

                b = 0;

            else if (b > 262143)

                b = 262143;

            rgb[yp] = 0xff000000 | ((r << 6) & 0xff0000) | ((g >> 2) & 0xff00) | ((b >> 10) & 0xff);
        }

    }
}

и, наконец, я попытался сохранить изображение на SD-карте, а затем снова открыть его, но это также не удалось

File pictureFile = new File(filename);
            int pich = camera.getParameters().getPreviewSize().height;
            int picw = camera.getParameters().getPreviewSize().width;
            Rect rect = new Rect(0, 0,picw, pich);
            YuvImage img = new YuvImage(data, ImageFormat.NV21, picw, picw, null);

            try {
                FileOutputStream fos = new FileOutputStream(pictureFile);
                img.compressToJpeg(rect, 100, fos);
                fos.write(data);
                fos.close();

и это результат с последним подходом, за которым я следовал

Answer 1

Есть несколько способов сохранить кадр NV21, исходящий из камеры, самый простой способ - преобразовать его в YuvImage, а затем сохранить в файл Jpeg:

FileOutputStream fos = new FileOutputStream(Environment.getExternalStorageDirectory() + "/imagename.jpg");
YuvImage yuvImage = new YuvImage(nv21bytearray, ImageFormat.NV21, width, height, null);
yuvImage.compressToJpeg(new Rect(0, 0, width, height), 100, fos);
fos.close();

Кроме того, вы также можете преобразовать его в растровый объект Android и сохранить его в формате PNG или в другом формате:

YuvImage yuvImage = new YuvImage(nv21bytearray, ImageFormat.NV21, width, height, null);
ByteArrayOutputStream os = new ByteArrayOutputStream();
yuvImage.compressToJpeg(new Rect(0, 0, width, height), 100, os);
byte[] jpegByteArray = os.toByteArray();
Bitmap bitmap = BitmapFactory.decodeByteArray(jpegByteArray, 0, jpegByteArray.length);
FileOutputStream fos = new FileOutputStream(Environment.getExternalStorageDirectory() + "/imagename.png");
bitmap.compress(Bitmap.CompressFormat.PNG, 100, fos);
fos.close();

Обратите внимание, что последний вариант делает NV21 -> JPEG -> Bitmap Object -> PNG file Помните, что это не очень эффективный способ сохранения предварительных изображений с камеры, если вам нужна высокая производительность.

ОБНОВЛЕНИЕ: Я устал от того, сколько времени потребуется, чтобы это преобразование заработало, поэтому я написал библиотеку ( easyRS) для RenderScript, чтобы легко сделать это в одной строке кода:

Bitmap outputBitmap = Nv21Image.nv21ToBitmap(rs, nv21ByteArray, width, height);

Это примерно в пять раз быстрее, чем процесс JPEG в изображении 2000x2000 на Moto G 2nd.

Answer 2

Ваша вторая попытка (с ScriptIntrinsicYuvToRGB) выглядит многообещающе. С JellyBean 4.3 (API18) или выше выполните следующие действия (формат предварительного просмотра камеры должен быть NV21):

Во-первых, не создавайте rs, yuvToRgbIntrinsic и выделения в методе или в цикле, где будет выполняться скрипт. Это сильно замедлит работу вашего приложения и может вызвать ошибки нехватки памяти. Поместите их в метод onCreate()..:

rs = RenderScript.create(this);  // create rs object only once and use it as long as possible
yuvToRgbIntrinsic = ScriptIntrinsicYuvToRGB.create(rs, Element.U8_4(rs)); // ditto.

С Api18+ распределения создаются намного проще (вам не нужны объекты Type.Builder!). С помощью cameraPreviewWidth и cameraPreviewHeight создайте выделение в:

int yuvDatalength = cameraPreviewWidth*cameraPreviewHeight*3/2; // this is 12 bit per pixel
aIn = Allocation.createSized(rs, Element.U8(rs), yuvDatalength);  

Вам нужно растровое изображение для вывода:

bmpout = Bitmap.createBitmap(cameraPreviewWidth, cameraPreviewHeight, Bitmap.Config.ARGB_8888);

и просто создайте распределение aOut из этого растрового изображения:

aOut = Allocation.createFromBitmap(rs, bmpout);

Установите распределение скрипта (только один раз, вне цикла):

yuvToRgbIntrinsic.setInput(aIn); //Set the input yuv allocation, must be U8(RenderScript).

В "цикле камеры" делаем с данными byte[]:

aIn.copyFrom(data); // or aIn.copyFromUnchecked(data);  // which is faster and safe with camera data

yuvToRgbIntrinsic.forEach(aOut); //Launch the appropriate kernels,Convert the image to RGB.

aOut.copyTo(bmpout); // copy data from Allocation aOut to Bitmap bmpout

Например, на Nexus 7 (2013, JellyBean 4.3) преобразование предварительного просмотра камеры в формате Full HD (1920x1080 пикселей) занимает около 7 мс.