Há uma região D\subset\mathbb{R}^2 com fronteira \partial D suficientemente regular (peças suaves), e as hipóteses do Teorema de Green são satisfeitas.
\vec{F} é um campo vetorial adequado (componentes com derivadas parciais contínuas) definido em D.
A igualdade propositalmente troca o termo usual do Teorema de Green pelo valor absoluto (norma) de \operatorname{rot}\vec{F}.
Passo 2
O que diz (na prática) o Teorema de Green que vamos usar aqui?
Para um campo planar \vec{F}=(P,Q) com P,Q de classe C^1 em uma região D com fronteira \partial D orientada positivamente (no sentido anti-horário), o Teorema de Green afirma:
A quantidade \dfrac{\partial Q}{\partial x}-\dfrac{\partial P}{\partial y} é o “rotacional escalar” em 2D; se escrevermos \operatorname{rot}\vec{F} como um vetor 3D com componente k, então
Portanto, o Teorema de Green relaciona a integral de linha com a integral dupla do escalar \dfrac{\partial Q}{\partial x}-\dfrac{\partial P}{\partial y}, isto é, sem valor absoluto.
Passo 3
O que significa \|\operatorname{rot}\vec{F}\| no enunciado?
Como \operatorname{rot}\vec{F}=(0,0,\omega) com \omega=\dfrac{\partial Q}{\partial x}-\dfrac{\partial P}{\partial y}, a norma é
Compare com o Teorema de Green: lá aparece a integral dupla do escalar \omega (com sinal), não do seu valor absoluto. Em geral \iint_D \omega\neq \iint_D |\omega| salvo em casos especiais.
Passo 4
Conclusão teórica rápida: por que a igualdade geral é suspeita?
O valor \iint_D \omega pode ser negativo, positivo ou zero, dependendo do sinal de \omega na região; já \iint_D |\omega| é sempre não negativo.
Portanto, a igualdade só poderia ser válida em todos os casos se sempre valesse \iint_D \omega=\iint_D |\omega|, o que exige \omega\ge 0 em D (ou, se a orientação da curva fosse invertida, \omega\le 0 em D). Em geral isso NÃO é garantido pelas hipóteses do Teorema de Green.
Passo 5
Contraexemplo concreto (passo a passo) que mostra que a afirmação é falsa.
Escolher um domínio simples: D=\{(x,y)\mid x^2+y^2\le 1\} (o disco unitário). Essa região satisfaz as hipóteses do Teorema de Green.
Resultado: o lado esquerdo vale -\pi e o lado direito vale \pi. São diferentes, logo a igualdade proposta falha neste caso concreto.
Passo 6
Resumo didático do que aprender com isso (como usar na prova)
O Teorema de Green relaciona a integral de linha a \iint_D \omega onde \omega=\dfrac{\partial Q}{\partial x}-\dfrac{\partial P}{\partial y}. Atenção ao sinal: a orientação positiva da curva (anti-horário) e o sinal de \omega são essenciais.
Não se pode substituir \omega por |\omega| dentro da integral dupla, exceto quando se tem informação adicional que garante \omega\ge0 (ou \omega\le0 se a orientação for invertida) em toda a região.
Na prova, quando aparecerem igualdades deste tipo, verifique o papel do sinal e, para refutar, pense em campos com rotacional de sinal negativo constante (ou positivo) e em domínios simples (disco, retângulo) para construir um contraexemplo rápido.