Срез Mongoose не ограничивает размер массива

На самом деле это может быть больше проблемой в вашей реализации. Вот основные моменты практического использования, показывающие, что это действительно работает:

const { Schema } = mongoose = require('mongoose');

const uri = 'mongodb://localhost:27017/test';
const options = { useNewUrlParser: true, useUnifiedTopology: true };

mongoose.set("debug", true);
mongoose.set("useFindAndModify", false);
mongoose.set("useCreateIndex", true);

const demoSchema = new Schema({
  _id: Number,
  fifo: [Number]
},{ _id: false });

const Demo = mongoose.model('Demo', demoSchema, 'demo');

const log = data => console.log(JSON.stringify(data, undefined, 2));

(async function() {

  try {

    const conn = await mongoose.connect(uri, options);

    await Promise.all(
      Object.values(conn.models).map(m => m.deleteMany())
    );

    let counter = 0;

    await new Promise((resolve, reject) =>
      setInterval(async () => {
        try {
          let result = await Demo.findByIdAndUpdate(
            1,
            { "$push": { "fifo": { "$each": [counter], "$slice": -3 } } },
            { upsert: true, new: true }
          );

          log(result);
        } catch(e) {
          reject(e)
        }
        counter++;
      }, 2000)
    );


  } catch (e) {
    console.error(e);
  } finally {
    mongoose.disconnect();
  }

})()

На нескольких итерациях (здесь для краткости используется -3) вы увидите:

Mongoose: demo.deleteMany({}, {})
Mongoose: demo.findOneAndUpdate({ _id: 1 }, { '$setOnInsert': { __v: 0 }, '$push': { fifo: { '$each': [ 0 ], '$slice': -3 } }}, { upsert: true, remove: false, projection: {}, returnOriginal: false })
{
  "fifo": [
    0
  ],
  "_id": 1,
  "__v": 0
}
Mongoose: demo.findOneAndUpdate({ _id: 1 }, { '$setOnInsert': { __v: 0 }, '$push': { fifo: { '$each': [ 1 ], '$slice': -3 } }}, { upsert: true, remove: false, projection: {}, returnOriginal: false })
{
  "fifo": [
    0,
    1
  ],
  "_id": 1,
  "__v": 0
}
Mongoose: demo.findOneAndUpdate({ _id: 1 }, { '$setOnInsert': { __v: 0 }, '$push': { fifo: { '$each': [ 2 ], '$slice': -3 } }}, { upsert: true, remove: false, projection: {}, returnOriginal: false })
{
  "fifo": [
    0,
    1,
    2
  ],
  "_id": 1,
  "__v": 0
}
Mongoose: demo.findOneAndUpdate({ _id: 1 }, { '$setOnInsert': { __v: 0 }, '$push': { fifo: { '$each': [ 3 ], '$slice': -3 } }}, { upsert: true, remove: false, projection: {}, returnOriginal: false })
{
  "fifo": [
    1,
    2,
    3
  ],
  "_id": 1,
  "__v": 0
}
Mongoose: demo.findOneAndUpdate({ _id: 1 }, { '$setOnInsert': { __v: 0 }, '$push': { fifo: { '$each': [ 4 ], '$slice': -3 } }}, { upsert: true, remove: false, projection: {}, returnOriginal: false })
{
  "fifo": [
    2,
    3,
    4
  ],
  "_id": 1,
  "__v": 0
}
Mongoose: demo.findOneAndUpdate({ _id: 1 }, { '$setOnInsert': { __v: 0 }, '$push': { fifo: { '$each': [ 5 ], '$slice': -3 } }}, { upsert: true, remove: false, projection: {}, returnOriginal: false })
{
  "fifo": [
    3,
    4,
    5
  ],
  "_id": 1,
  "__v": 0
}
Mongoose: demo.findOneAndUpdate({ _id: 1 }, { '$setOnInsert': { __v: 0 }, '$push': { fifo: { '$each': [ 6 ], '$slice': -3 } }}, { upsert: true, remove: false, projection: {}, returnOriginal: false })
{
  "fifo": [
    4,
    5,
    6
  ],
  "_id": 1,
  "__v": 0
}

Таким образом, это действительно сохраняет массив указанной длины $slice и с конца массива, поскольку из-за отрицательного значения, как увеличение массива до установленного размера, так и удаление всех, кроме последних добавленных элементов.