Ax+By \;=\;\frac{\sin(xy)}{xy} \quad\text{para todo }(x,y)\text{ com }x^2+y^2=1.
Substituindo A=1, isso exige
x+By=\frac{\sin(xy)}{xy} \quad\forall\,(x,y)\text{ tais que }x^2+y^2=1.
Passo 4
A igualdade
x+By=\frac{\sin(xy)}{xy}
deveria valer para todos os pontos da circunferência x^2+y^2=1. O lado esquerdo é uma função linear em (x,y), enquanto \sin(xy)/(xy) é não linear e varia de ponto a ponto. Não existe nenhum número real B que torne essas duas expressões idênticas em toda a circunferência.
Resposta
A única escolha viável para a continuidade em (0,0) é
A=1,
porém não existe valor de B que satisfaça a continuidade na fronteira x^2+y^2=1. Portanto, não há par (A,B)\in\mathbb R^2 que torne f contínua em todo \mathbb R^2.