Serie de conversaciones sobre IA, episodio 2: los pros y los contras de la IA
Bienvenido de nuevo a nuestra serie de conversaciones sobre IA, donde compartiremos ideas y predicciones sobre IA de los cofundadores y expertos de LILT. Si no tuviste la oportunidad de ver el episodio 1, aquí hay un enlace al artículo. Esta semana, discutimos los pros y los contras de la IA para las empresas y la industria de la localización.
Un poco de historia sobre nuestros expertos: los fundadores de LILT, Spence Green y John DeNero se conocieron en Google, mientras trabajaban en el programa de Google Translate. Como investigadores de Stanford y Berkeley, ambos tienen experiencia trabajando con tecnología de lenguaje natural para que la información sea accesible para todos. Les sorprendió saber que Google Translate no se usaba para productos y servicios empresariales dentro de la empresa y se fueron para comenzar su propia empresa con el fin de abordar esta necesidad: LILT.
La base de la tecnología de IA de LILT es similar a la de ChatGPT y Google Translate, antes de nuestra IA contextual patentada, el enfoque que prioriza el uso de conectores y la retroalimentación adaptada a los humanos. Hablamos con Spence y John para aprender más sobre los modelos de lenguaje de gran tamaño y sus opiniones sobre la IA.
¿Cuáles son los beneficios y las desventajas principales de la IA generativa?
John: Comencemos con la definición de IA generativa. La IA generativa es cuando una computadora crea algo, a menudo desde cero o desde una solicitud. Por lo tanto, crear una traducción es IA generativa, pero también puede crear imágenes, videos y otros formatos multimedia. Es difícil porque estas cosas que se generan tienen una estructura compleja. No solo están tomando una sola decisión.
Spence: algunos de los sistemas de aprendizaje automático con los que las personas podrían estar familiarizadas son para etiquetar imágenes u oraciones, donde solo estás categorizando cosas. Aquí, estás generando objetos estructurados desde cero en función de alguna entrada, y la traducción es obviamente un ejemplo de eso.
John: Y los humanos somos tan buenos generando lenguaje que no necesariamente nos damos cuenta de cuántas maneras puede salir mal. Cuando tienes una oración larga, solo hay una larga lista de maneras en las que puede haber algo mal con ella. Y eso es lo que dificulta la IA generativa, y por qué tomó un tiempo obtener los avances que vemos hoy. Hay mil factores diferentes que debes tener en cuenta con cada oración: elección de palabras, acuerdo, orden y si tienes el nivel adecuado de especificidad o ambigüedad. Y ahora tenemos sistemas que pueden manejar todo esto a la vez, lo cual es algo increíble.
El beneficio principal es que hay mucho más trabajo de generación que se debe hacer en el mundo de lo que las personas realmente pueden hacer. La traducción es un buen ejemplo, donde hay tanto contenido que debería traducirse a tantos idiomas con calidad de publicación, por lo que no hay degradación en la experiencia que las personas tienen cuando lo leen en otro idioma, pero no todo se traduce porque solo hay tantos traductores en el mundo para hacer el trabajo. Y los costos son tales que simplemente no sucede. Eso
es realmente una pena. Por lo tanto, creo que la promesa de la IA generativa es hacer más cosas en el mundo y asegurarse de que todo el trabajo importante que permite la vida moderna suceda al aumentar las personas con las habilidades profesionales para hacer ese trabajo con IA.
¿Cuáles son las promesas y oportunidades de la IA que pueden afectar las operaciones diarias de las empresas?
Spence: para la traducción, hemos estado construyendo estos sistemas en los que usas IA para aumentar lo que las personas generan, y ayuda a resolver el problema de que, cuando estás haciendo trabajo de traducción, obtienes un nuevo documento para traducir y solo tienes una página en blanco, y ahí es donde comienzas. En comparación con ahora, puedes comenzar con la mejor predicción de la máquina sobre qué es esa traducción. Y luego refina sus predicciones a medida que trabajan juntos. Creo que la ampliación de esta tecnología de IA generativa se ampliará a otros tipos de trabajo, ya sea para escribir artículos de marketing o crear documentación de capacitación.
Así que creo que hay muchas oportunidades para la creación de información que normalmente comenzaron con un cursor en blanco o, ya sabes, un lienzo en blanco en Photoshop, donde ahora puedes comenzar con una predicción de máquina que te ponga en marcha. Eso solo te hace más eficiente en el trabajo que haces.
John: Sí, exactamente. Creo que cualquier persona en un entorno empresarial sabe que hay cosas importantes que se retrasan una y otra vez porque simplemente no existe la capacidad de hacer todo lo que se debe hacer. Lo que sucede con la IA generativa, que es interesante, es que a veces le pides que genere un documento y lo hace realmente bien, y luego, a veces, se pierde algo importante. A veces se trata de un tema ligeramente equivocado o no captura la idea principal que querías transmitir. Por lo
tanto, las personas tienen un papel que desempeñar para determinar si hizo lo correcto. Y eso podría ser muy rápido. En algunos casos, lees las primeras oraciones y ves que una sección completa es perfecta. Pero luego bajas y dices: «Oh, en realidad, quería algo más para esta otra parte».
Y tienes que entrar y reescribirlo. Eso es solo parte de trabajar con un sistema de IA generativa y tener un plan para averiguar cómo validar y revisar su resultado. Ese es el tipo de cosas que puedes resolver con el proceso adecuado. En LILT, tenemos un proceso bastante extenso para asegurarnos de que no haya problemas con las traducciones finales reales, incluso si hubo resultados de IA generativa originales.
Ese proceso de validación es realmente crítico y es cierto para otras cosas. Ya sabes, especialmente Spence, cuando hablamos de generar contenido de marketing o contenido de capacitación, las personas tienen que ser parte del proceso de supervisión de la IA y corregir su trabajo al igual que lo harías con un empleado junior.
Spence: Totalmente. Es el mismo concepto que tienes de un editor en la sala de redacción o un socio senior que revisa o comprueba el trabajo de un socio junior en un bufete de abogados. La misma idea. Solo que ahora el socio menor es un sistema de IA y no un ser humano.
¿Cuáles son algunos de los problemas con GenAI de los que deberíamos tener cuidado?
John: El mayor riesgo que veo es que tienes que saber cómo usarlo. Creo que no es como un empleado junior en el sentido de que puedes darles instrucciones amplias y ellos lo descubrirán porque es un sistema de IA, no una persona. Por lo tanto, es muy sensible a las indicaciones y las entradas que le proporcionas. Realmente hay bastante cuidado en la ingeniería y el diseño que se necesita para solicitar al sistema para que puedas obtener resultados útiles, con los que puedas trabajar.
Esa es una nueva rama de la inteligencia artificial aplicada: descubrir cómo tomar un gran sistema generativo y realmente lograr que produzca los resultados más útiles para que pueda permitir una mayor eficiencia. Así que la idea de que puedes hacerle cualquier pregunta que quieras y siempre va a hacer lo correcto es la mentalidad equivocada. En cambio, necesitas realmente tener mucho cuidado para solicitar al sistema para generar los resultados correctos.
Spence: Sí. Una de las cosas en las que he estado pensando es que ahora hay algunos productos que resumirán las cadenas de correo electrónico o una reunión, y ese tipo de productos de trabajo se usan para informar las decisiones.
Y creo que cada vez habrá más texto, memorandos, presentaciones y resúmenes generados por la IA que informarán la toma de decisiones. Las personas tienen este sesgo bien conocido como aversión a los algoritmos, que es que tienden a tener un estándar más alto para las máquinas que para las personas.
Entonces, si una persona comete un error, lo entiende. Pero si las máquinas cometen errores, las personas tienen un estándar mucho más alto. Así que este ha sido uno de los desafíos con los autos sin conductor, por ejemplo. Hay muchos accidentes automovilísticos en la carretera todo el tiempo. Y todo el mundo sabe que los humanos cometen errores de conducción y tienen accidentes, pero tan pronto como una máquina tiene un accidente, está en las noticias de primera plana.
Me pregunto a medida que estos sistemas entran en la toma de decisiones y los negocios diarios (y ciertamente serán casos extremos) si estos errores se magnificarán de alguna manera porque es una decisión impulsada por la máquina. Me pregunto cómo las empresas gestionarán eso.
John: Este es un gran punto. Creo que las personas serán muy críticas con estos sistemas si causan problemas, incluso si esos problemas podrían haber existido con personas y sin la tecnología. Y, de hecho, creo que eso es genial. Creo que donde deberíamos terminar con la IA es tomar mejores decisiones que las que tomamos sin ella.
Del mismo modo, con los autos que se conducen solos, creo que la aspiración debería ser que en el futuro haya muchos menos accidentes en la carretera de los que hay hoy. Lo mismo con la traducción. Los resultados deberían ser que, con la asistencia a la IA, la calidad de la traducción sea más consistente y mejor, algo que observamos en LILT.
Lo que sucede cuando asesoras a las personas para que hagan mejor su trabajo con el tiempo, cada persona solo puede escribir tantos resúmenes o tomar tantas decisiones. Por lo tanto, realmente no puedes invertir 50 años entrenando a alguien solo para que haga un trabajo durante un año. Pero con la IA, debido a que es tan escalable, una vez que la hayas construido, puedes hacer que conduzca muchos autos o traduzca muchas oraciones. Tiene sentido invertir una enorme cantidad de inversión en la calidad de lo que genera. Por
eso, es por eso que LILT existe. Podemos invertir y concentrar nuestra experiencia en cómo hacer que las traducciones funcionen bien. Tenemos un gran equipo de investigación aquí para hacer eso, que es mucho más de lo que invertirías si solo entrenaras a un pequeño grupo de traductores.
Porque una vez que construimos el sistema, podemos usarlo para mucho contenido. Está bien justificado. Y así que creo que esa es la misma historia que va con el resumen. Ha habido un número increíble de investigadores y artículos que han trabajado para encontrar la manera de resumir un documento en una breve descripción.
Pero todo eso tiene sentido porque una vez que la tecnología funciona, Se puede usar de manera tan amplia una y otra vez que justifica la inversión de esfuerzo.
Así que, sí, creo que está bien mantener estos sistemas a un estándar realmente alto. Creo que eso es lo que deberíamos esperar de ellos, pero ahora no estamos allí en todos los casos. Las personas solo deben ser conscientes de que requiere cierta cantidad de experiencia para que el sistema haga lo que quieren que haga.
* * *
¡Gracias por la conversación, Spence y John! A medida que las empresas continúan adoptando el cambio y las oportunidades que se avecinan, será cada vez más importante que los equipos y líderes globales inviertan en tecnologías de IA para seguir siendo competitivos. Sintoniza el próximo episodio de nuestra serie de IA para explorar más a fondo la IA, los modelos de lenguaje de gran tamaño y su impacto en la industria de la traducción.
