A condição \operatorname{sec} x\neq 0 significa \cos x\neq 0. Em particular, em x=0 temos \cos 0=1, então a definição por fração é a que vale arbitrariamente perto de 0 (exceto no próprio x=0 onde a fração dá forma 0/0).
Portanto, a função no ponto x=0 não está definida explicitamente pelo enunciado (a fração é indeterminada em 0). O número L é o valor que devemos atribuir a f(0) para que f fique contínua em 0.
Explico a estratégia: para calcular \lim_{x\to 0} de uma expressão trigonométrica que dá indeterminação 0/0, uma técnica eficiente é usar as séries de Taylor (Maclaurin) de \operatorname{sen} x, \cos x e \operatorname{tg} x até termos suficientes em potência de x para que a indeterminação seja eliminada por cancelamento. Vou lembrar e justificar as séries que precisamos.
Passo 3
Séries de Taylor (Maclaurin) que usamos (explicação rápida):
A série de \operatorname{sen} x em torno de 0 é
\operatorname{sen} x = x - \frac{x^{3}}{3!} + \frac{x^{5}}{5!} + O(x^{7}) = x - \frac{x^{3}}{6} + \frac{x^{5}}{120} + O(x^{7}).
Aqui O(x^{7}) significa termos de ordem x^{7} ou maiores, que tendem a 0 mais rápido quando x\to0.
A série de \cos x em torno de 0 é
\cos x = 1 - \frac{x^{2}}{2} + \frac{x^{4}}{24} + O(x^{6}).
Essas séries são clássicas e decorrem das derivadas em 0 ou podem ser memorizadas — se quiser eu mostro a derivação, mas aqui basta aceitar essas formas.
Passo 4
Agora precisamos da série de \operatorname{tg} x=\dfrac{\operatorname{sen} x}{\cos x}. Para isso dividimos as séries (ou usamos a série conhecida). Faço a divisão truncada para obter termos até x^{5}:
Para dividir, procuramos uma série a_1 x + a_3 x^3 + a_5 x^5 + \cdots tal que, ao multiplicar por \cos x, recupere \operatorname{sen} x. O resultado conhecido (ou obtido pela divisão) é:
\operatorname{tg} x = x + \frac{x^{3}}{3} + \frac{2x^{5}}{15} + O(x^{7}).
Se você quiser, dá para verificar multiplicando \left(x + \frac{x^{3}}{3} + \frac{2x^{5}}{15}\right) por \cos x e confirmando que dá \operatorname{sen} x até ordem x^{5}.
Agora tomamos o limite x\to 0. Os termos com x^{2} e superiores vão para 0, então:
\lim_{x\to 0}\frac{\operatorname{tg} x - \operatorname{sen} x}{x^{5}+4x^{3}} = \frac{\tfrac{1}{2}}{4} = \frac{1}{8}.
Passo 7
Conclusão lógica: para que f seja contínua em 0 precisamos definir f(0)=L igual ao limite calculado. Logo L deve ser \dfrac{1}{8}. Força aí — pronto, o valor que deixa f contínua em 0 é simples e bonito!