Можно ли изменить строки (содержание и размер) в байт-коде Lua, чтобы он оставался правильным?

Да, если вы знаете, что делаете. Строки имеют префикс их размера, хранящийся как int. Размер и порядок байтов этого int зависят от платформы. Но зачем вам редактировать байт-код? Вы потеряли исходники?

После некоторого погружения в исходный код Lua я нашел такое решение:

#include "lua.h"
#include "lauxlib.h"

#include "lopcodes.h"
#include "lobject.h"
#include "lundump.h"

/* Definition from luac.c: */
#define toproto(L,i) (clvalue(L->top+(i))->l.p)

writer_function(lua_State* L, const void* p, size_t size, void* u)
{
    UNUSED(L);
    return (fwrite(p,size,1,(FILE*)u)!=1) && (size!=0);
}

static void
lua_bytecode_change_const(lua_State *l, Proto *f_proto,
                   int const_index, const char *new_const)
{
    TValue *tmp_tv = NULL;
    const TString *tmp_ts = NULL;

    tmp_ts = luaS_newlstr(l, new_const, strlen(new_const));
    tmp_tv = &f_proto->k[INDEXK(const_index)];
    setsvalue(l, tmp_tv, tmp_ts);

    return;
}

int main(void)
{
    lua_State *l = NULL;
    Proto *lua_function_prototype = NULL;
    FILE *output_file_hnd = NULL;

    l = lua_open();
    luaL_loadfile(l, "some_input_file.lua");
    lua_proto = toproto(l, -1);
    output_file_hnd = fopen("some_output_file.luac", "w");

    lua_bytecode_change_const(l, lua_function_prototype, some_const_index, "some_new_const");
    lua_lock(l);
    luaU_dump(l, lua_function_prototype, writer_function, output_file_hnd, 0);
    lua_unlock(l);

    return 0;
}

Во-первых, мы запускаем Lua VM и загружаем скрипт, который хотим изменить. Скомпилировано или нет, не имеет значения. Затем создайте прототип функции Lua, проанализируйте и измените его таблицу констант. Дамп прототипа в файл.

Надеюсь, вы поняли основную идею.

Вы можете попробовать использовать декомпилятор LuaDec. Декомпилятор позволит изменять строки в сгенерированном коде Lua, аналогичном исходному коду.

ChunkSpy имеет Введение без излишеств в инструкции по использованию виртуальной машины Lua 5.1, которые могут помочь вам понять формат скомпилированного фрагмента и при необходимости внести изменения непосредственно в байт-код.