(a) Calcule a derivada da função f(x)=[[x]], onde o símbolo [[. ]] denota o maior inteiro menor ou igual a x.
(b) Calcule \lim _{x \rightarrow 0^{+}} \frac{f(x)-f(0)}{x} e \lim _{x \rightarrow 0^{-}} \frac{f(x)-f(0)}{x}. O que significam estes limites?
(c) Qual o domínio de f^{\prime}.

Passo 1

O enunciado define a função f\colon\mathbb{R}\to\mathbb{Z} dada por
f(x)=\bigl\lfloor x\bigr\rfloor,
isto é, o maior inteiro menor ou igual a x. Pede-se
(a) determinar f'(x),
(b) calcular
\displaystyle \lim_{x\to0^+}\frac{f(x)-f(0)}{x} e
\displaystyle \lim_{x\to0^-}\frac{f(x)-f(0)}{x} e interpretar esses limites,
(c) indicar o domínio de f'.
Vamos usar definição de derivada e propriedades de função degrau (constante em intervalos).

Passo 2

Para x que não é inteiro, existe um k\in\mathbb{Z} tal que
k<x<k+1,
e então em todo esse intervalo \lfloor x\rfloor=k é constante. Pela definição de derivada,
f'(x)=\lim_{h\to0}\frac{f(x+h)-f(x)}{h} =\lim_{h\to0}\frac{k-k}{h}=0.
Logo, para x\notin\mathbb{Z} temos f'(x)=0.
Em x=n\in\mathbb{Z} a função tem descontinuidade de salto:
\lim_{x\to n^-}f(x)=n-1,\quad f(n)=n,\quad \lim_{x\to n^+}f(x)=n.
O quociente de diferenças pela esquerda é
\lim_{x\to n^-}\frac{f(x)-f(n)}{x-n} =\lim_{x\to n^-}\frac{(n-1)-n}{x-n} =\lim_{x\to n^-}\frac{-1}{x-n}=+\infty,
enquanto pela direita dá
\lim_{x\to n^+}\frac{f(x)-f(n)}{x-n} =\lim_{x\to n^+}\frac{n-n}{x-n}=0.
Como as duas derivadas laterais não coincidem (e a da esquerda é infinita), f não é diferenciável em x=n.

Passo 3

Em particular para n=0 temos f(0)=0. Então
\lim_{x\to0^+}\frac{f(x)-f(0)}{x} =\lim_{x\to0^+}\frac{0-0}{x}=0,
\lim_{x\to0^-}\frac{f(x)-f(0)}{x} =\lim_{x\to0^-}\frac{-1-0}{x} =\lim_{x\to0^-}\frac{-1}{x}=+\infty.
Esses limites são as derivadas laterais direita e esquerda em 0.
A interpretação é que a derivada pela direita em 0 vale 0, mas pela esquerda não é finita (vai a +\infty), logo a derivada em 0 não existe.
Juntando tudo, f é diferenciável exatamente nos pontos onde não há salto, ou seja, em todos os x\in\mathbb{R} que não sejam inteiros.

Resposta

(a) f'(x)=0 para x\notin\mathbb{Z} e f'(x) não existe para x\in\mathbb{Z}.
(b)
\displaystyle \lim_{x\to0^+}\frac{f(x)-f(0)}{x}=0,
\displaystyle \lim_{x\to0^-}\frac{f(x)-f(0)}{x}=+\infty.
São as derivadas laterais em 0, que não coincidem, mostrando que f' não existe em 0.
(c) \dom(f')=\mathbb{R}\setminus\mathbb{Z}.