Что означает yytext [0]?

yytext содержит текст, соответствующий текущему токену. Итак, yytext [0] содержит первый символ текста, совпадающий с текущим токеном. Иногда у вас есть правило, которое может сопоставлять разные тексты, поэтому вам нужно сопоставить реальный текст, например, для имен переменных, или у вас есть правило для сопоставления всех арифметических операций.

Хорошим источником является руководство по Flex.

Для новичков лучше всего начать с пробных проектов.