Sejam G um grupo, H, K subgrupos de G e a, b \in G.
(a) Mostre que H a K=H b K ou H a K \cap H b K=\emptyset.
(b) Mostre que
G=\bigcup_{a \in G} H a K
(c) Mostre que
\begin{gathered} {[H a K: H]=[K: H a \cap K]} \\\ \mathrm{e} \\\ {[H a K: K]=[H: H \cap K a] .} \end{gathered}
Passo 1
O enunciado dá:
G é um grupo;
H e K são subgrupos de G;
a,b\in G.
O que se pede:
(a) Mostrar que, para quaisquer a,b\in G, ou H a K = H b K ou H a K \cap H b K = \emptyset.
(b) Mostrar que \displaystyle G=\bigcup_{a\in G} H a K.
(c) Mostrar as igualdades de índices (explicitar o que cada índice significa):
[H a K : H] = [K : K\cap a^{-1} H a] \qquad\text{e}\qquad [H a K : K] = [H : H\cap a K a^{-1}].
Observações úteis (não resoluções ainda): a notação H a K significa o subconjunto \{h a k\mid h\in H,\\ k\in K\} de G. A expressão [X:Y] será entendida como o número de classes (esquerda ou direita, conforme o caso) de Y contidas em X — isto é, o número de cosets de Y que ficam dentro do conjunto X.
Passo 2
Definição e ideia geral sobre H a K.
Pelo enunciado, para a\in G define-se o conjunto (chamado de “double coset”)
H a K=\{h a k \mid h\in H,\\ k\in K\}.
É claramente um subconjunto de G. Não é, em geral, um subgrupo; contudo, é uma união de cosets (como vamos usar adiante).
Intuição para (a): dois double cosets são ou idênticos ou disjuntos — se tiverem interseção não vazia então um está contido no outro, e pela simetria são iguais. Vamos provar isso com cálculo direto.
Passo 3
Prova de (a): se os dois double cosets se intersectam então são iguais.
Suponha que H a K \cap H b K \neq \emptyset. Então existe x\in G tal que
x\in H a K\quad\text{e}\quad x\in H b K.
Logo existem h_1,h_2\in H e k_1,k_2\in K tais que
x=h_1 a k_1 = h_2 b k_2.
A partir disso vamos mostrar H b K \subseteq H a K; a inclusão oposta segue trocando a e b.
Tomemos um elemento arbitrário de H b K, da forma h b k com h\in H,\\ k\in K. Usando a igualdade acima, substituimos b por uma expressão em a:
b = h_2^{-1} h_1 a k_1 k_2^{-1}.
Então
h b k = h\bigl(h_2^{-1} h_1 a k_1 k_2^{-1}\bigr) k = (h h_2^{-1} h_1)\, a \, (k_1 k_2^{-1} k).
Como h h_2^{-1} h_1 \in H e k_1 k_2^{-1} k\in K, segue que h b k\in H a K. Assim todo elemento de H b K pertence a H a K, ou seja H b K \subseteq H a K. Pelo mesmo raciocínio (simétrico) obtemos H a K \subseteq H b K. Portanto
H a K = H b K.
Conclusão do passo: se a interseção é não vazia então os dois double cosets coincidem; caso contrário, são disjuntos. Isso prova (a).
Passo 4
Prova de (b): a união sobre todos a\in G dá G.
Tomemos g\in G arbitrário. Observa-se que e\in H e e\in K (onde e é o elemento neutro de G). Então
g = e\cdot g\cdot e \in H g K.
Portanto todo g\in G pertence ao conjunto H g K. Assim
G \subseteq \bigcup_{a\in G} H a K,
e a outra inclusão é trivial (cada H a K é subconjunto de G), logo
G = \bigcup_{a\in G} H a K.
Isto mostra (b). Comentário prático: os conjuntos H a K particionam G em double cosets (pela parte (a)).
Passo 5
Preparação para (c): visão do que vamos construir.
Queremos relacionar o número de cosets de H que aparecem dentro de H a K com o número de cosets de um subgrupo de K. A ideia padrão é construir uma aplicação natural de K sobre o conjunto das classes à esquerda H\backslash (H a K) (isto é, o conjunto das classes laterais de H que estão contidas em H a K), e mostrar que essa aplicação tem núcleo exatamente K\cap a^{-1} H a. Feito isso obtemos uma bijeção entre o conjunto quociente K/(K\cap a^{-1} H a) e as classes de H contidas em H a K, daí a igualdade dos índices.
Antes de aplicar, explico cuidadosamente o que é cada conjunto e por que as definições fazem sentido:
H\backslash (H a K) é o conjunto das classes da forma H x com x\in H a K. Como H a K é união de algumas classes à esquerda de H, esse conjunto é bem definido.
K/(K\cap a^{-1} H a) é o conjunto de classes à direita (ou à esquerda, dá no mesmo para índices) de K módulo o subgrupo K\cap a^{-1} H a.
Passo 6
Prova da primeira igualdade de (c):
Construir a aplicação
\varphi : K \to H\backslash (H a K),\qquad \varphi(k)=H a k.
Primeiro verifique que a imagem está realmente em H\backslash(H a K): para k\in K tem-se a k\in a K\subseteq H a K, então a classe H a k é uma das classes à esquerda contidas em H a K.
Mostre que \varphi é sobrejetora: seja uma classe arbitrária H x com x\in H a K. Então x=h a k para alguns h\in H,\\ k\in K. Mas então H x = H h a k = H a k = \varphi(k). Assim qualquer classe em H\backslash(H a K) tem a forma \varphi(k) para algum k\in K. Logo \varphi é sobrejetora.
Agora determine o núcleo da aplicação (relacionando elementos de K que vão para a mesma classe):
\ker\varphi=\{k\in K \mid \varphi(k)=H a\}=\{k\in K \mid H a k = H a\}.
A igualdade H a k = H a ocorre exatamente quando existe h\in H tal que h a = a k. Isto é,
a^{-1} h a = k \in a^{-1} H a.
Como também k\in K por hipótese, obtemos
\ker\varphi = K\cap a^{-1} H a.
Pelo Teorema do Isomorfismo (ou mais elementar: fazendo a relação de equivalência dada pelo núcleo) há uma bijeção entre o conjunto quociente K/(K\cap a^{-1} H a) e a imagem de \varphi, que é exatamente H\backslash (H a K). Portanto há bijeção entre classes, e consequentemente os números de classes coincidem:
[H a K : H] \;=\; \big|H\backslash(H a K)\big| \;=\; \big|K/(K\cap a^{-1} H a)\big| \;=\; [K : K\cap a^{-1} H a].
Isto é a primeira igualdade pedida em (c). (Aqui, novamente, [H a K : H] significa "número de classes à esquerda de H contidas em H a K".)
Passo 7
Prova da segunda igualdade de (c) (argumento simétrico):
Agora consideramos as classes à direita de K contidas em H a K. Definimos a aplicação
\psi : H \to (H a K)/K,\qquad \psi(h)=h a K,
onde (H a K)/K é o conjunto das classes à direita de K que ficam dentro de H a K. A verificação é análoga:
\psi é sobrejetora porque toda classe à direita xK com x\in H a K pode ser escrita x=h a k e então xK = h a k K = h a K = \psi(h).
O núcleo é
\ker\psi=\{h\in H\mid h a K = a K\}=\{h\in H\mid a^{-1} h a \in K\}.
Reescrevendo, isso é
\ker\psi = H\cap a K a^{-1}.
Aplicando o mesmo raciocínio de bijeção entre H/(H\cap a K a^{-1}) e (H a K)/K obtemos
[H a K : K] \;=\; \big|(H a K)/K\big| \;=\; \big|H/(H\cap a K a^{-1})\big| \;=\; [H : H\cap a K a^{-1}].
Isto prova a segunda igualdade pedida em (c).
Passo 8
Resumo final das conclusões (já demonstradas):
(a) Dois double cosets H a K e H b K ou são iguais ou disjuntos.
(b) A coleção \{H a K\}_{a\in G} cobre G, isto é, G=\bigcup_{a\in G} H a K.
(c) As igualdades de índices (interpretando os índices como número de classes correspondentes) são
[H a K : H] = [K : K\cap a^{-1} H a] \qquad\text{e}\qquad [H a K : K] = [H : H\cap a K a^{-1}].
Resposta
(a) H a K=H b K ou H a K\cap H b K=\emptyset.\n
(b) \displaystyle G=\bigcup_{a\in G} H a K.\n
(c) \displaystyle [H a K : H] = [K : K\cap a^{-1} H a] \n \displaystyle [H a K : K] = [H : H\cap a K a^{-1}].