Lilt Labs | Conexión entre investigación y práctica en la traducción

Herramientas de traducción automática: evaluación integral con BLEU

Escrito por Han Mai | 10-ene-2017 8:00:00

El sector de los servicios lingüísticos ofrece una variedad de opciones de traducción automática demasiado amplia. Para ayudarte a distinguir qué es lo verdaderamente innovador de todas las opciones, tus compañeros de Lilt se proponen evaluar de forma reproducible e imparcial estas opciones con conjuntos de datos públicos y una metodología rigurosa.

Con esto, queremos evaluar la traducción automática no solo en cuanto a la calidad de la traducción de referencia, sino también en cuanto a la calidad de los sistemas adaptados al dominio si están disponibles. La adaptación al dominio y las redes neuronales son los dos desarrollos recientes más emocionantes de la traducción automática disponible en el mercado. Evaluamos el impacto relativo de ambas tecnologías para los siguientes sistemas comerciales:

  • La API basada en frases de Google
  • Google Neural (GNMT)
  • API de Microsoft Translator/Microsoft adaptado
  • Pure Neural MT  de Systran
  • Sistema AdaptativeTM de SDL
  • SDL adaptado

También incluimos tres resultados de nuestros propios sistemas:

  • Lilt: traducciones de Lilt antes de que se cargue alguna memoria de traducción o se use el sistema.
  • Lilt adaptado: traducciones de Lilt con una memoria de traducción pertinente para la adaptación al dominio.
  • Lilt interactivo: traducciones de Lilt con una memoria de traducción pertinente para la adaptación al dominio y traducciones corregidas para cada segmento confirmado.

La calidad de la traducción se mide con el indicador BLEU, el sistema de evaluación más común en la investigación de la traducción automática, que mide la similitud entre las traducciones propuestas y las traducciones de referencia. Los números más altos corresponden a las mejores traducciones. 

Nuestra evaluación de más de 1000 segmentos, elegidos cuidadosamente para representar el trabajo de la traducción profesional, muestra claramente que las nuevas tecnologías de traducción neuronal y adaptativa no son pura publicidad, sino que logran mejoras significativas en la calidad de la traducción automática. 

Para ver la evaluación completa, más información sobre cada sistema en cuestión y más datos sobre cómo interpretar los resultados, haz clic en el botón de abajo y accede al informe completo.