Libras Lab ← Voltar ao teste

SOBRE O EXPERIMENTO

Um teste, sinal por sinal.

Este protótipo ajuda a experimentar o reconhecimento de Libras pela câmera. Ele trabalha com um vocabulário limitado e ainda precisa ser avaliado com pessoas diferentes.

O reconhecimento é experimental. O modelo pode errar mesmo quando apresenta uma confiança alta. Os resultados servem para testar a tecnologia.

O que este teste reconhece

O modelo base escolhe entre 55 classes, que incluem letras do alfabeto manual e alguns sinais. Faça um sinal por vez e consulte o vocabulário disponível.

O modelo pessoal e as versões compartilhadas usam características aprendidas pelo modelo base e treinam uma nova camada classificadora com exemplos rotulados. Cada versão reconhece apenas os sinais cadastrados e exige pelo menos cinco exemplos de cada um de dois sinais, em capturas distintas. Correções adicionam exemplos; o aprendizado acontece ao treinar novamente, ou ao habilitar o treinamento automático.

As palavras aceitas aparecem na ordem dos sinais. O teste ainda não interpreta conversas completas, expressões faciais, contexto ou a gramática de Libras para produzir uma tradução em português.

Movimentos fora do vocabulário podem ser confundidos com um sinal conhecido. A pontuação de confiança mostra a preferência do modelo entre as classes disponíveis; ela não representa uma garantia de acerto.

A câmera fica no seu navegador

Você escolhe quando permitir e iniciar a câmera. A análise das mãos e o reconhecimento são feitos no próprio aparelho, sem enviar o vídeo ou imagens a um servidor.

Este protótipo não grava vídeo nem salva imagens. Ao gravar exemplos ou corrigir resultados, ele salva os pontos numéricos das mãos, o sinal esperado e suas observações no armazenamento local do navegador (IndexedDB). O treinamento gera um modelo pessoal, também salvo localmente. O texto reconhecido fica na página durante a sessão. Ao parar a câmera, o acesso ao vídeo é encerrado.

O treinamento pessoal permanece no navegador. Ao autorizar a contribuição compartilhada, os pontos numéricos das mãos, os nomes dos sinais e os feedbacks são enviados ao servidor do projeto e armazenados em banco de dados. Vídeo, imagens e observações livres não são enviados. Os exemplos recebidos ficam pendentes de revisão; somente dados aprovados entram em candidatos de treinamento. Uma versão compartilhada só é publicada após revisão e avaliação.

Se você clicar em Copiar texto, o texto vai para a área de transferência do seu aparelho. Você pode interromper novos envios desmarcando a contribuição. Exemplos já recebidos continuam no conjunto de revisão. O reconhecimento funciona com os arquivos carregados; o armazenamento e o treinamento compartilhados exigem internet. A abertura do site e o carregamento inicial dos modelos precisam de conexão; o reconhecimento utiliza os arquivos carregados no navegador.

Como avaliar o resultado

  • Mantenha as mãos inteiras no quadro, com boa iluminação.
  • Experimente apenas os sinais da lista, um por vez.
  • Para repetir o mesmo sinal, retire as mãos do quadro por um instante.
  • Confira o texto e corrija os erros antes de utilizá-lo.

O botão Testar referência usa três sequências do próprio repositório do autor: A, Ajuda e Banheiro. Elas ajudam a conferir se o modelo está executando. Não são uma avaliação independente e não demonstram a precisão com pessoas novas.

A avaliação compartilhada reserva identificadores de colaboradores, associados a navegadores. Sem cadastro pessoal, esses identificadores não garantem que sejam pessoas distintas. Os resultados continuam sendo avaliações limitadas à coleta.

O desempenho e os acertos podem variar conforme o aparelho, a câmera, a iluminação, o enquadramento e a forma de sinalizar. Ainda não foi atribuída uma taxa de precisão a este protótipo com usuários reais.

Origem e componentes

O reconhecimento utiliza o modelo bilstm_attn_combined do projeto CTIC-CSBC-Libras, de Tulio-CS e colaboradores. Seus pesos foram adaptados para execução no navegador, preservando os valores usados no cálculo.

A detecção das mãos utiliza MediaPipe, e o cálculo do classificador utiliza TensorFlow.js. Esses componentes são disponibilizados sob Apache License 2.0.

Não foi encontrada uma licença explícita para os materiais CTIC na revisão consultada. A atribuição de autoria não altera essa situação nem atribui uma licença aos pesos. Consulte os créditos e avisos de terceiros para os detalhes de procedência.

Voltar e experimentar