SOBRE O EXPERIMENTO
Um teste, sinal por sinal.
Este protótipo ajuda a experimentar o reconhecimento de Libras pela câmera. Ele trabalha com um vocabulário limitado e ainda precisa ser avaliado com pessoas diferentes.
O reconhecimento é experimental. O modelo pode errar mesmo quando apresenta uma confiança alta. Os resultados servem para testar a tecnologia.
O que este teste reconhece
O modelo base escolhe entre 55 classes, que incluem letras do alfabeto manual e alguns sinais. Faça um sinal por vez e consulte o vocabulário disponível.
O modelo pessoal e as versões compartilhadas usam características aprendidas pelo modelo base e treinam uma nova camada classificadora com exemplos rotulados. Cada versão reconhece apenas os sinais cadastrados e exige pelo menos cinco exemplos de cada um de dois sinais, em capturas distintas. Correções adicionam exemplos; o aprendizado acontece ao treinar novamente, ou ao habilitar o treinamento automático.
As palavras aceitas aparecem na ordem dos sinais. O teste ainda não interpreta conversas completas, expressões faciais, contexto ou a gramática de Libras para produzir uma tradução em português.
Movimentos fora do vocabulário podem ser confundidos com um sinal conhecido. A pontuação de confiança mostra a preferência do modelo entre as classes disponíveis; ela não representa uma garantia de acerto.
A câmera fica no seu navegador
Você escolhe quando permitir e iniciar a câmera. A análise das mãos e o reconhecimento são feitos no próprio aparelho, sem enviar o vídeo ou imagens a um servidor.
Este protótipo não grava vídeo nem salva imagens. Ao gravar exemplos ou corrigir resultados, ele salva os pontos numéricos das mãos, o sinal esperado e suas observações no armazenamento local do navegador (IndexedDB). O treinamento gera um modelo pessoal, também salvo localmente. O texto reconhecido fica na página durante a sessão. Ao parar a câmera, o acesso ao vídeo é encerrado.
O treinamento pessoal permanece no navegador. Ao autorizar a contribuição compartilhada, os pontos numéricos das mãos, os nomes dos sinais e os feedbacks são enviados ao servidor do projeto e armazenados em banco de dados. Vídeo, imagens e observações livres não são enviados. Os exemplos recebidos ficam pendentes de revisão; somente dados aprovados entram em candidatos de treinamento. Uma versão compartilhada só é publicada após revisão e avaliação.
Se você clicar em Copiar texto, o texto vai para a área de transferência do seu aparelho. Você pode interromper novos envios desmarcando a contribuição. Exemplos já recebidos continuam no conjunto de revisão. O reconhecimento funciona com os arquivos carregados; o armazenamento e o treinamento compartilhados exigem internet. A abertura do site e o carregamento inicial dos modelos precisam de conexão; o reconhecimento utiliza os arquivos carregados no navegador.
Como avaliar o resultado
- Mantenha as mãos inteiras no quadro, com boa iluminação.
- Experimente apenas os sinais da lista, um por vez.
- Para repetir o mesmo sinal, retire as mãos do quadro por um instante.
- Confira o texto e corrija os erros antes de utilizá-lo.
O botão Testar referência usa três sequências do próprio repositório do autor: A, Ajuda e Banheiro. Elas ajudam a conferir se o modelo está executando. Não são uma avaliação independente e não demonstram a precisão com pessoas novas.
A avaliação compartilhada reserva identificadores de colaboradores, associados a navegadores. Sem cadastro pessoal, esses identificadores não garantem que sejam pessoas distintas. Os resultados continuam sendo avaliações limitadas à coleta.
O desempenho e os acertos podem variar conforme o aparelho, a câmera, a iluminação, o enquadramento e a forma de sinalizar. Ainda não foi atribuída uma taxa de precisão a este protótipo com usuários reais.
Origem e componentes
O reconhecimento utiliza o modelo bilstm_attn_combined do projeto CTIC-CSBC-Libras, de Tulio-CS e colaboradores. Seus pesos foram adaptados para execução no navegador, preservando os valores usados no cálculo.
A detecção das mãos utiliza MediaPipe, e o cálculo do classificador utiliza TensorFlow.js. Esses componentes são disponibilizados sob Apache License 2.0.
Não foi encontrada uma licença explícita para os materiais CTIC na revisão consultada. A atribuição de autoria não altera essa situação nem atribui uma licença aos pesos. Consulte os créditos e avisos de terceiros para os detalhes de procedência.