Un chatbot con IA para mejorar la gestión del conocimiento en Audi

Audi ha mejorado su gestión interna del conocimiento utilizando un chatbot basado en IA generativa. El sistema fue desarrollado por Storm Reply, un socio de AWS. Para desarrollar este bot, la empresa utilizó Amazon Sagemaker. Esta plataforma en la nube permite a los usuarios crear, entrenar e implementar modelos de aprendizaje automático.

Los empleados de Audi utilizan el chatbot para encontrar información en segundos, por ejemplo, datos de la documentación del proyecto y evaluaciones de riesgos. "El chatbot es capaz de integrar datos de fuentes como Confluence, Notion, PDF y sitios web específicos para mantener la base de datos actualizada", explica Filippo Rizzante, director de tecnología de Reply.

También se tuvo en cuenta el aspecto de la seguridad: “La arquitectura del chatbot se desarrolló en una nube privada virtual (VPC) para garantizar la seguridad de los datos y la confidencialidad del usuario”, continúa el CTO.

Sólo se ponen a disposición datos relevantes

El chatbot sólo pone a disposición de los usuarios datos relevantes. Esto quiere decir que no inventa respuestas (las famosas alucinaciones) cuando la información que tiene es insuficiente. En cambio, el bot informa al usuario que no puede responder la pregunta con certeza debido a que faltan datos.

Uno de los elementos clave del sistema es la generación aumentada de recuperación (RAG). Este enfoque combina componentes dedicados a la creación de texto asistida por IA con funciones para extraer información de diferentes fuentes, como bases de datos, publicaciones de blogs y bases de documentos.

Una de las ventajas de RAG es que la base de conocimientos se puede modificar y perfeccionar sin necesidad de volver a entrenar el modelo de lenguaje. Además, el GAR proporciona respuestas más relacionadas con el contexto de las consultas (ver recuadro).

Extensiones para reducir el esfuerzo

El chatbot permite a Audi acabar con los silos de conocimiento, optimizar los procesos y, en última instancia, reducir los costes. "Reduce las barreras al descubrimiento de conocimientos para nuestras diversas partes interesadas internas y probablemente requerirá poco esfuerzo adicional para expandirse a otros casos de uso", dice Michael Pawelke, propietario de producto de AWS Foundation Services en Audi AG.

A esto se suma otro factor: “El chatbot de IA generativa desarrollado por Storm Reply acelera nuestra transición a la nube. Este es un gran ejemplo de cómo se puede utilizar tecnología innovadora para resolver casos de uso prácticos con un tiempo de implementación corto”, añade Michael Pawelke.