La IA está empezando a remodelar la industria de viajes a medida que las organizaciones pasan de la experimentación a la implementación a gran escala. escribe Melissa Stonehouse, directora de agencias de viajes del Reino Unido e Irlanda, Escandinavia y Benelux, Amadeus. Si bien la tecnología ofrece importantes oportunidades para mejorar la eficiencia, la personalización y la experiencia del cliente, también conlleva riesgos reales que deben gestionarse cuidadosamente. Muchos sistemas de IA siguen siendo probabilísticos, lo que significa que pueden producir diferentes resultados para la misma entrada, lo cual es problemático en un sector que depende de la precisión, la seguridad y la confiabilidad.
Los viajes están altamente regulados, con una tolerancia casi nula a los errores en áreas como precios, emisión de boletos, identidad y operaciones aeroportuarias. Los riesgos incluyen amenazas a la ciberseguridad, recomendaciones sesgadas, problemas de privacidad de datos y resultados inexactos.
Por lo tanto, son esenciales una gobernanza sólida, marcos de cumplimiento y salvaguardias éticas. Las organizaciones deben equilibrar la innovación con la responsabilidad, garantizando que la transparencia, la rendición de cuentas y la supervisión estén integradas en los sistemas de IA para que se pueda entregar valor de forma segura y a escala.
¿Los riesgos de la IA en el sector de viajes superarán las recompensas?
Muchos de nosotros ya habremos dado los primeros pasos hacia la implementación de la IA en nuestras organizaciones. Esta tecnología transformadora está presente desde la sala de juntas hasta el mostrador de facturación, y se hacen preguntas sobre cómo maximizar la oportunidad.
Si bien no tengo dudas de que las perspectivas de la IA en los viajes son brillantes, también hay que hacer una nota de precaución. Muchas herramientas de IA siguen siendo probabilísticas y dan respuestas variables a preguntas idénticas, lo que significa que debemos tener cuidado en cómo se implementan en una industria que depende de la certeza.
La nuestra es una industria altamente regulada y tiene una tolerancia casi nula al error. La disponibilidad, los precios, la emisión de billetes, la identidad de los pasajeros y las operaciones aeroportuarias exigen precisión, seguridad y resiliencia. La IA está avanzando hacia este nivel de escala y, aunque ese futuro está llegando, hoy operamos en un mundo que exige una confiabilidad totalmente probada.
La tecnología puede avanzar rápido, pero la confianza no. La gobernanza, el cumplimiento y la seguridad tardan años en construirse y momentos que perder. El siguiente paso es comprender los riesgos a medida que la IA crece y cómo aprovechar su valor sin introducir otros nuevos.
Prevenido está prevenido
¿Qué desafíos podríamos encontrar mientras trabajamos para implementar la IA? La ciberseguridad es una de las más graves. La IA integrada en las plataformas de reservas puede ser vulnerable a inyecciones rápidas o entradas adversas, lo que podría exponer el comportamiento del sistema o eludir las salvaguardas en los flujos de reservas y pagos, por ejemplo.
También existe el riesgo de sesgo y discriminación. Un motor de recomendaciones puede mostrar tarifas más altas para ciertas regiones basándose en patrones históricos en lugar de precios justos en tiempo real. En otros lugares, la privacidad de los datos es un motivo de preocupación. Los asistentes de inteligencia artificial que atienden las consultas de los clientes podrían exponer involuntariamente los detalles de la reserva o la información del pasaporte si no se aplican estrictamente los controles.
De manera similar, al resumir documentos internos, la IA puede revelar inadvertidamente modelos de precios patentados o planes de rutas futuras. Y luego están las alucinaciones. Un chatbot podría proporcionar con seguridad información incorrecta sobre retrasos o acceso a salas VIP.
En un sector como el de los viajes, estos riesgos no pueden ignorarse. Deben gestionarse de manera proactiva a través de una gobernanza sólida, cumplimiento y marcos de políticas claros.
El uso de la IA debe estar respaldado por una gobernanza sólida
La gobernanza eficaz es esencial para imponer el control, la responsabilidad y la confiabilidad en los sistemas autónomos, lo que nos ayuda a gestionar los riesgos descritos anteriormente. En Amadeus llevamos a cabo un Programa de Cumplimiento de IA, una iniciativa para toda la empresa diseñada para garantizar la alineación con la Ley de Inteligencia Artificial de la UE y otras regulaciones emergentes. Somos uno de los primeros signatarios del Pacto de IA, una iniciativa que promueve la adopción temprana de los principios de la Ley de IA de la UE y fomenta el desarrollo ético de la IA, la preparación regulatoria y la participación activa en todo el ecosistema de IA.
Este tipo de cumplimiento es fundamental para el uso seguro de la IA. Permite la innovación al tiempo que salvaguarda la seguridad pública, los derechos fundamentales y la confianza de la sociedad. Hemos creado e implementado un marco integral de cumplimiento responsable de la IA que sirve como base para garantizar el uso ético, seguro y legalmente compatible de la IA en todas las funciones en todo el mundo.
Para las organizaciones, en particular aquellas que operan a escala empresarial, que buscan implementar IA de manera efectiva y responsable, establecer este tipo de gobernanza no es opcional. La supervisión centralizada, facultada para comprender y gestionar los riesgos de la IA de extremo a extremo, es fundamental para lograr tanto el cumplimiento normativo como la innovación sostenible.
Permitir la innovación con barandillas
Por supuesto, la gestión de riesgos debe equilibrarse cuidadosamente con la necesidad de innovar y responder a las expectativas en constante evolución de los viajeros. Permitir una adopción rápida sin comprometer el rigor requiere procesos de cumplimiento de IA diseñados para escalar, respaldados por tecnología intuitiva, flujos de trabajo estandarizados y una responsabilidad clara. El marco de IA responsable de Amadeus aplica un enfoque ágil y basado en riesgos para respaldar la rápida ampliación del uso de la IA, manteniendo al mismo tiempo altos estándares de seguridad, privacidad y ética.
Al brindar a los propietarios de casos de uso orientación clara, aportes guiados y captura de evidencia optimizada, este enfoque ayuda a los equipos a completar evaluaciones de cumplimiento sólidas de manera eficiente y consistente. Esto garantiza que se puedan tomar rápidamente decisiones informadas y basadas en riesgos, incluso cuando crecen el volumen y la complejidad de los casos de uso de la IA.
Para garantizar que estas barreras de seguridad se traduzcan en una ejecución coherente en toda la empresa, este marco de gobernanza se complementa con una Oficina de IA. La oficina de IA es un equipo multifuncional responsable de impulsar la ejecución de la estrategia de IA, alinear las iniciativas de IA con los objetivos comerciales y hacer operativa la IA responsable a escala, impulsando la adopción segura, escalable e impactante de la IA en todo nuestro negocio. Al proporcionar supervisión y coordinación central, permite la adopción segura, escalable e impactante de la IA en toda la organización.
Cambio transformador
La promesa de la IA y los beneficios tangibles que ya están surgiendo son importantes, pero también lo son las responsabilidades que conlleva. En una industria compleja y regulada como la de los viajes, escalar la IA de manera segura requiere más que capacidad técnica y experimentación; exige confianza, gobernanza y pensamiento a largo plazo.
En toda la industria de viajes, estos principios están dando forma cada vez más a la forma en que se diseña, implementa y gestiona la IA. Al incorporar la responsabilidad en la innovación desde el principio, las organizaciones pueden garantizar que la IA ofrezca valor real a escala.
Así es como la industria apoyará a los clientes de manera más efectiva, mejorará la experiencia del viajero y ayudará a construir un ecosistema de viajes más resiliente y sostenible.
Como directora de agencias de viajes para el Reino Unido e Irlanda, Escandinavia y Benelux de Amadeus, Melissa Stonehouse lidera las relaciones comerciales con agencias de viajes en tres de las regiones más dinámicas de Europa.
Melissa aporta al puesto más de dos décadas de experiencia en Amadeus, tras haber pasado 20 años como directora de cuentas globales antes de asumir su actual puesto de liderazgo. Su profundo conocimiento del panorama de la tecnología de viajes y sus relaciones de larga data con los clientes la convierten en un socio confiable para las agencias de viajes y los vendedores en sus mercados.
Melissa, una apasionada defensora de la industria de viajes, combina su dedicación profesional con un amor personal por los viajes, apreciando de primera mano las experiencias que sus clientes se esfuerzan por brindar todos los días.
