Чтение фрагментированного двоичного ответа с помощью Fetch API

Как прочитать двоичный фрагментированный ответ с помощью Fetch API. Я использую следующий код, который работает до тех пор, пока он читает фрагментированный ответ с сервера. Однако данные, похоже, каким-то образом кодируются/декодируются, что иногда приводит к сбою getFloat32. Я попытался прочитать ответ с помощью curl, и это отлично работает, что заставляет меня поверить, что мне нужно что-то сделать, чтобы fetch api обрабатывал куски как двоичные файлы. Тип содержимого ответа правильно установлен на «application/octet-stream».

const consume = responseReader => {
    return responseReader.read().then(result => {
        if (result.done) { return; }
        const dv = new DataView(result.value.buffer, 0, result.value.buffer.length);
        dv.getFloat32(i, true);  // <-- sometimes this is garbled up
        return consume(responseReader);
    });
}

fetch('/binary').then(response => {
    return consume(response.body.getReader());
})
.catch(console.error);

Используйте следующий экспресс-сервер, чтобы воспроизвести его. Обратите внимание, что любой код js на стороне клиента, который может обрабатывать указанный ниже сервер, подойдет.

const express = require('express');
const app = express();

app.get('/binary', function (req, res) {
  res.header("Content-Type", "application/octet-stream");
  res.header('Content-Transfer-Encoding', 'binary');
  const repro = new Uint32Array([0x417055b8, 0x4177d16f, 0x4179e9da, 0x418660e1, 0x41770476, 0x4183e05e]);
  setInterval(function () {
    res.write(Buffer.from(repro.buffer), 'binary');
  }, 2000);
});

app.listen(3000, () => console.log('Listening on port 3000!'));

При использовании указанного выше узла server -13614102509256704 будет зарегистрировано в консоли, но оно должно быть просто ~16,48. Как я могу получить исходный двоичный файл с плавающей запятой?


person vidstige    schedule 14.04.2018    source источник
comment
тайна раскрыта. Это я был глуп. Функция getFloat32 принимает смещение byte, четко задокументированное...   -  person vidstige    schedule 17.04.2018


Ответы (1)


Как вы указали, что ваша проблема была

Функция getFloat32 принимает смещение в байтах, четко задокументированное

Но есть и другая сторона вашей работы. Так что я добавлю, что здесь

Потоки выборки по умолчанию не поддерживаются как FF, так и Chrome, и я обновил свой код, чтобы он работал с потоками на обоих концах.

const express = require('express');
const app = express();

app.get('/', function (req, res) {
    res.send(`
    <html>
    <body>
        <h1>Chrome reader</h1>
        <script>
            function dothis() {
var chunkedUrl = '/binary';
fetch(chunkedUrl)
  .then(processChunkedResponse)
  .then(onChunkedResponseComplete)
  .catch(onChunkedResponseError)
  ;

function onChunkedResponseComplete(result) {
  console.log('all done!', result)
}

function onChunkedResponseError(err) {
  console.error(err)
}

function processChunkedResponse(response) {
  var text = '';
  var reader = response.body.getReader()

  return readChunk();

  function readChunk() {
    return reader.read().then(appendChunks);
  }

  function appendChunks(result) {
      if (!result.done){
        var chunk = new Uint32Array(result.value.buffer);      
        console.log('got chunk of', chunk.length, 'bytes')
        console.log(chunk)
      }

    if (result.done) {
      console.log('returning')
      return "done";
    } else {
      console.log('recursing')
      return readChunk();
    }
  }
}            }
        </script>
    </body>
</html>

    `);
});

app.get('/firefox', function (req, res) {
    res.send(`
<html>
<head>
    <script src="./fetch-readablestream.js"></script>
    <script src="./polyfill.js"></script>
</head>
<body>
    <h1>Firefox reader</h1>
    <script>
    function readAllChunks(readableStream) {
                  const reader = readableStream.getReader();
                  const chunks = [];

                  function pump() {
                    return reader.read().then(({ value, done }) => {
                      if (done) {
                          console.log("its completed")
                        return chunks;
                      }
                      try{
                          console.log(new Int32Array(value.buffer))
                      }
                      catch (err) {
                          console.log("error occured - " + err)
                      }
                      return pump();
                    });
                  }

                  return pump();
            }

        function dothis() {


    fetchStream('/binary', {stream: true})
    .then(response => readAllChunks(response.body))
    .then(chunks => console.dir(chunks))
    .catch(err => console.log(err));
}            
        </script>
    </body>
</html>

    `);


});

app.get('/binary', function (req, res) {
    res.header("Content-Type", "application/octet-stream");
    res.header('Content-Transfer-Encoding', 'binary');
    const repro = new Uint32Array([0x417055b8, 0x4177d16f, 0x4179e9da, 0x418660e1, 0x41770476, 0x4183e05e]);
    i = 0;
    setTimeout(function abc() {
        res.write(Buffer.from(repro.buffer), 'binary');
        i++;
        if (i < 100) {
            setTimeout(abc, 100);
        } else {
            res.end();
        }
    }, 100)


    // I'm actually using spawn('command').pipe(res) here... So chunked response is required.
});
app.use(express.static('./node_modules/fetch-readablestream/dist/'))
app.use(express.static('./node_modules/web-streams-polyfill/dist/'))
app.listen(3000, () => console.log('Listening on port 3000!'));

И теперь это работает на FF

ФФ

а также Хром

Хром

Вам нужно использовать

https://www.npmjs.com/package/fetch-readablestream

Также я использовал полифилл для ReadableStream в FF.

https://www.npmjs.com/package/web-streams-polyfill

Но вы можете включить встроенную поддержку того же самого, изменив настройки профиля FF.

Конфигурация FF

Добавлено сюда, так что это может помочь вам или кому-то в будущем

person Tarun Lalwani    schedule 17.04.2018