Вот что я получил:

open import Function
open import Data.Nat.Base
open import Data.Vec

grotate : ∀ {n m} {A : Set}
        -> (B : ℕ -> Set)
        -> (∀ {n} -> A -> B n -> B (suc n))
        -> Vec A n
        -> Vec A (suc n + m)
        -> B m
        -> B (suc n + m)
grotate B cons  []      (y ∷ ys) a = cons y a
grotate B cons (x ∷ xs) (y ∷ ys) a = grotate (B ∘ suc) cons xs ys (cons y a)

rotate : ∀ {n m} {A : Set} -> Vec A n -> Vec A (suc n + m) -> Vec A m -> Vec A (suc n + m)
rotate = grotate (Vec _) _∷_

record Queue (A : Set) : Set₁ where
  constructor queue
  field
    {X}      : Set
    {n m}    : ℕ
    front    : Vec A (n + m)
    rear     : Vec A m
    schedule : Vec X n

open import Relation.Binary.PropositionalEquality
open import Data.Nat.Properties.Simple

exec : ∀ {m n A} -> Vec A (n + m) -> Vec A (suc m) -> Vec A n -> Queue A
exec {m} {suc n} f r (_ ∷ s) = queue (subst (Vec _) (sym (+-suc n m)) f) r s
exec {m}         f r  []     = queue (with-zero f') [] f' where
 with-zero    = subst (Vec _ ∘ suc) (sym (+-right-identity m))
 without-zero = subst (Vec _ ∘ suc) (+-right-identity m)

 f' = without-zero (rotate f (with-zero r) [])

rotate определяется через grotate по той же причине reverse определяется в терминах foldl (или enumerate в терминах genumerate): потому что Vec A (suc n + m) не является по определению Vec A (n + suc m), а (B ∘ suc) m по определению является B (suc m).

exec имеет ту же реализацию, что и вы (по модулю этих substs), но я не уверен насчет типов: нормально ли, что r должно быть непустым?

другой ответ очень умный (пожалуйста, найдите время, чтобы проголосовать за него), но как человек, не знакомый с Agda, как это будет реализован на Haskell, для меня не было очевидным. Вот полная версия Haskell. Нам понадобится множество расширений, а также Data.Type.Equality (поскольку нам нужно будет выполнить некоторое ограниченное количество проверок типов).

{-# LANGUAGE GADTs, ScopedTypeVariables,RankNTypes,
             TypeInType, TypeFamilies, TypeOperators #-}

import Data.Type.Equality

Определение Nat, Vec и Queue

Затем мы определяем обычные натуральные числа на уровне типа (это выглядит как обычное определение data, но поскольку у нас включено TypeInType, оно будет автоматически повышаться, когда мы используем его в типе) и функцию типа (type family) для добавление. Обратите внимание, что хотя существует несколько способов определения +, наш выбор здесь повлияет на то, что будет дальше. Мы также определим обычный Vec, который очень похож на список, за исключением того, что он кодирует свою длину в фантомном типе n. С этим мы можем пойти дальше и определить тип нашей очереди.

data Nat = Z | S Nat

type family n + m where
    Z   + m = m
    S n + m = S (n + m)

data Vec a n where
    Nil   :: Vec a Z
    (:::) :: a -> Vec a n -> Vec a (S n)

data Queue a where
    Queue :: { front :: Vec a (n + m)
             , rear :: Vec a m
             , schedule :: Vec x n } -> Queue a

Определение rotate

Теперь все начинает становиться более волосатым. Мы хотим определить функцию rotate, имеющую тип rotate :: Vec a n -> Vec a (S n + m) -> Vec a m -> Vec a (S n + m), но вы быстро столкнетесь с множеством проблем, связанных с доказательствами, просто определяя ее рекурсивно. Решение состоит в том, чтобы вместо этого определить немного более общий grotate, который может быть определен рекурсивно, и для которого rotate является частным случаем.

Смысл Bump в том, чтобы обойти тот факт, что в Haskell нет такой вещи, как композиция на уровне типов. Невозможно записать такие операторы, как (∘), чтобы (S ∘ S) x было S (S x). Обходной путь заключается в постоянном переносе/развертывании с помощью Bump/lower.

newtype Bump p n = Bump { lower :: p (S n) }

grotate :: forall p n m a.
           (forall n. a -> p n -> p (S n)) ->
           Vec a n ->
           Vec a (S n + m) ->
           p m ->
           p (S n + m)
grotate cons Nil        (y ::: _)  zs = cons y zs
grotate cons (x ::: xs) (y ::: ys) zs = lower (grotate consS xs ys (Bump (cons y zs))) 
  where
    consS :: forall n. a -> Bump p n -> Bump p (S n)
    consS = \a -> Bump . cons a . lower 

rotate :: Vec a n -> Vec a (S n + m) -> Vec a m -> Vec a (S n + m)
rotate = grotate (:::)

Здесь нам нужны явные forall, чтобы было ясно, какие переменные типа захватываются, а какие нет, а также для обозначения типов более высокого ранга.

Одноэлементные натуральные числа SNat

Прежде чем мы перейдем к exec, мы настроим некоторый механизм, который позволит нам доказать некоторые арифметические утверждения на уровне типов (которые нам нужны для того, чтобы exec выполнил проверку типов). Начнем с создания типа SNat (который является одноэлементным типом, соответствующим Nat). SNat отражает свое значение в переменной фантомного типа.

data SNat n where
  SZero :: SNat Z
  SSucc :: SNat n -> SNat (S n)

Затем мы можем сделать пару полезных функций для работы с SNat.

sub1 :: SNat (S n) -> SNat n
sub1 (SSucc x) = x

size :: Vec a n -> SNat n
size Nil = SZero
size (_ ::: xs) = SSucc (size xs)

Наконец, мы готовы доказать некоторую арифметику, а именно, что n + S m ~ S (n + m) и n + Z ~ n.

plusSucc :: (SNat n) -> (SNat m) -> (n + S m) :~: S (n + m)
plusSucc SZero _ = Refl
plusSucc (SSucc n) m = gcastWith (plusSucc n m) Refl

plusZero :: SNat n -> (n + Z) :~: n
plusZero SZero = Refl
plusZero (SSucc n) = gcastWith (plusZero n) Refl 

Определение exec

Теперь, когда у нас есть rotate, мы можем определить exec. Это определение выглядит почти так же, как и в вопросе (со списками), за исключением аннотации gcastWith <some-proof>.

exec :: Vec a (n + m) -> Vec a (S m) -> Vec a n -> Queue a
exec f r (_ ::: s) = gcastWith (plusSucc (size s) (sub1 (size r))) $ Queue f r s
exec f r Nil       = gcastWith (plusZero (sub1 (size r))) $
  let f' = rotate f r Nil in (Queue f' Nil f')

Вероятно, стоит отметить, что мы можем получить кое-что бесплатно, используя singletons. С включенными правильными расширениями следующий более читаемый код

import Data.Singletons.TH 

singletons [d|
    data Nat = Z | S Nat

    (+) :: Nat -> Nat -> Nat
    Z   + n = n
    S m + n = S (m + n)
  |]

определяет Nat, семейство типов :+ (эквивалентное моему +) и одноэлементный тип SNat (с конструкторами SZ и SS эквивалентными моим SZero и SSucc) все в одном.