Programación Diferenciable

La programación diferenciable es el descendiente del deep learning, y representa la convergencia de dos campos algorítmicos: machine learning y optimización numérica. La programación diferenciable desbloquea una serie de escenarios de supply chain que se consideraban en gran medida intratables: optimización conjunta de precios y stocks, optimización de surtido impulsada por la lealtad, pronóstico de demanda para productos no estándar (por ejemplo, piedras preciosas, obras de arte), optimización de flujo multinivel a gran escala, optimización conjunta de múltiples canales, optimización de stock bajo valores de stock electrónico parcialmente incorrectos, maximización de flujo a gran escala bajo muchas restricciones, etc. Para muchos otros escenarios que ya eran abordables con métodos alternativos, la programación diferenciable ofrece resultados numéricos superiores con solo una fracción de los costos, tanto en términos de esfuerzos de los científicos de datos como de recursos computacionales.

Programación Diferenciable en Movimiento

Modelado predictivo estructurado para Supply Chain

Resolviendo Problemas Insolubles 1/3

El Origen De Un Nuevo Buzzword 2/3

Aprendizaje Automático Expresivo 3/3

Aplicación a las Cadenas de Suministro

En su núcleo, la Programación Diferenciable (DP) ofrece un camino para unificar problemas que han permanecido desconectados durante demasiado tiempo y resolverlos conjuntamente: surtido, precios, pronósticos, planificación, merchandising. Si bien tal unificación puede parecer ambiciosamente irreal, la realidad es que las empresas ya están aplicando una cantidad insana de cinta adhesiva a sus propios procesos para hacer frente a los problemas interminables generados por el hecho de que esos desafíos han estado aislados dentro de la organización en primer lugar. Por ejemplo, los precios obviamente impactan en la demanda y, sin embargo, tanto la planificación como el pronóstico se realizan casi siempre sin tener en cuenta los precios en absoluto.

DP desbloquea la enorme oportunidad de tomar decisiones aproximadamente correctas desde una perspectiva holística del negocio, en lugar de estar exactamente equivocado mientras desplaza problemas dentro de la organización en lugar de resolverlos.

Anecdóticamente, buscar la corrección aproximada teniendo en cuenta el negocio en su conjunto es exactamente de lo que se tratan la mayoría de las organizaciones impulsadas por hojas de cálculo; y por falta de una tecnología - como DP - capaz de abarcar una perspectiva de negocio completa, las hojas de cálculo siguen siendo la opción menos terrible.

Ecommerce

Poder asociar el 100% de las unidades vendidas a clientes conocidos representa una cantidad masiva de información latente sobre el mercado; sin embargo, cuando se trata de precios y optimización de inventario, la información de lealtad generalmente ni siquiera se utiliza en la actualidad. DP ofrece la posibilidad de pasar de pronósticos de series temporales a pronósticos de gráficos temporales donde cada par cliente-producto observado importa; lo que lleva a decisiones más inteligentes tanto para stocks como para precios.

Marcas de lujo

La optimización de precios y surtidos - hasta el nivel de la tienda - ha sido considerada durante mucho tiempo como en gran medida intratable debido a la escasez de datos, es decir, el volumen de ventas muy bajo por artículo por tienda - tan bajo como una unidad vendida por producto por tienda por año. DP proporciona ángulos para ofrecer clases de soluciones que funcionan en tales ultra-esparso, porque están diseñadas para ofrecer una eficiencia de datos mucho mayor que los métodos regulares de deep learning.

Marcas de moda

La optimización conjunta de stocks y precios es un requisito claro - ya que la demanda de muchos artículos puede ser altamente sensible al precio - sin embargo, la optimización conjunta de compras y precios no se pudo lograr debido a la falta de una herramienta capaz de siquiera aprehender este acoplamiento - es decir, la capacidad de comprar más a un precio más bajo genera más demanda (y viceversa). DP proporciona la expresividad para abordar este desafío.

Manufactura

La optimización numérica de redes multinivel considerablemente se desmorona cuando se intenta con solucionadores numéricos clásicos (ver “Más allá de la optimización de branch-and-cut” a continuación). De hecho, esos solucionadores se vuelven en gran medida imprácticos cuando se trata de millones de variables o comportamientos estocásticos. Desafortunadamente, la manufactura exhibe ambos con muchas variables y comportamientos estocásticos. DP ofrece un ángulo práctico para hacer frente a multinivel sin traicionar la complejidad de los patrones de flujo reales dentro de la red.

MRO (mantenimiento, reparación, revisión)

Si falta una pieza necesaria para la reparación de un sistema, entonces todo el sistema - que podría ser una aeronave - se detiene. Los pronósticos probabilísticos son el primer paso para lidiar con patrones de demanda erráticos e intermitentes, pero descifrar los detalles de las co-ocurrencias de las piezas requeridas y convertir este análisis en recomendaciones de inventario accionables era demasiado complejo para ser de uso práctico. DP simplifica la resolución de tales problemas.

Redes minoristas

Las canibalizaciones dentro de las redes minoristas - generalmente entre productos pero a veces entre tiendas - han sido reconocidas como de importancia primordial durante mucho tiempo. Este problema se ve amplificado por las promociones, precisamente destinadas a dirigir a los clientes de una marca a otra. DP ofrece la posibilidad de abordar la canibalización en presencia de promociones. En lugar de simplemente “pronosticar promociones”, DP ofrece la posibilidad de optimizar las promociones por lo que son: acuerdos rentables operados conjuntamente por el canal de distribución y la marca.

Más allá de la exageración de la Inteligencia Artificial

La Inteligencia Artificial (IA) ciertamente ha sido la palabra de moda tecnológica de 2018 y el entusiasmo sigue siendo fuerte en 2019. Sin embargo, si bien Lokad está utilizando extensamente técnicas que generalmente califican para la palabra de moda de la IA - por ejemplo, deep learning - hemos sido reacios a poner énfasis en la parte “IA” de la tecnología de Lokad. De hecho, en lo que respecta a la optimización cuantitativa de la cadena de suministro, el IA empaquetada simplemente no funciona. Las cadenas de suministro no son nada parecidas, digamos, a la visión por computadora: los datos, métricas y tareas son todos extremadamente heterogéneos. Como resultado, las empresas que compraron supuestas soluciones de IA “llave en mano” están empezando a darse cuenta de que esas soluciones simplemente nunca funcionarán, excepto tal vez en las situaciones más simples donde los sistemas basados en reglas “tontas” también habrían funcionado perfectamente de todos modos. En su núcleo, las cadenas de suministro son sistemas complejos hechos por el hombre, y generalmente es irrazonable esperar que el sistema de IA - basado únicamente en datos - redescubra por sí mismo ideas fundamentales sobre el dominio como:

• hacer promociones para una marca de lujo es un gran error.
• los pedidos de ventas negativos en el ERP son en realidad devoluciones de productos.
• los productos alimenticios frescos deben transportarse dentro de rangos de temperatura especificados.
• las variantes en colores pueden ser buenos sustitutos de ropa, pero no las variantes en tallas.
• el mantenimiento de aeronaves está impulsado por horas de vuelo y ciclos de vuelo.
• las ventas en el Reino Unido son en realidad en GBP aunque el ERP muestra EUR como la moneda.
• las personas compran piezas de automóviles para sus vehículos, no para ellos mismos.
• cada diamante es único, pero los precios dependen principalmente de quilates, claridad, color y corte.
• cualquier pieza NOGO faltante en una aeronave hace que la aeronave quede en tierra.
• muchas plantas químicas tardan semanas en reiniciarse después de apagarse.

En un futuro lejano, podría haber un momento en el que el aprendizaje automático tenga éxito en emular la inteligencia humana y obtenga resultados al enfrentarse a problemas complejos, sin embargo, hasta ahora, los resultados solo se han obtenido en problemas relativamente estrechos. Las tecnologías de aprendizaje automático están empujando constantemente cada año los límites de lo que constituye un problema "estrecho", y después de décadas de esfuerzos, problemas importantes como la conducción autónoma segura y las traducciones automatizadas decentes están resueltos, o muy cerca de resolverse. Sin embargo, como se ilustra en la lista anterior, las cadenas de suministro siguen siendo desesperadamente demasiado heterogéneas para una aplicación directa de algoritmos de aprendizaje automático empaquetados. Incluso si el aprendizaje profundo proporciona las capacidades de generalización más sólidas hasta la fecha, aún se necesita la intervención de un Supply Chain Scientist para enmarcar el desafío de una manera lo suficientemente estrecha para que los algoritmos funcionen en absoluto.

En este sentido, el aprendizaje profundo ha tenido un gran éxito porque, a diferencia de muchos enfoques anteriores en el aprendizaje automático, el aprendizaje profundo es profundamente compositivo: es posible adaptar extensamente la estructura del modelo para aprender mejor en una situación específica. Adaptar la estructura del modelo es diferente de adaptar la entrada del modelo, una tarea conocida como ingeniería de características, que era típicamente la única opción disponible para la mayoría de los algoritmos de aprendizaje automático no profundos como los bosques aleatorios.

Sin embargo, a medida que los marcos de aprendizaje profundo surgieron de los “Grandes Problemas” del aprendizaje automático, es decir, visión por computadora, reconocimiento de voz, síntesis de voz, traducción automatizada. Esos marcos han sido diseñados y ajustados en profundidad para escenarios que son literalmente nada parecidos a los problemas enfrentados en las cadenas de suministro. Por lo tanto, si bien es posible aprovechar esos marcos para fines de optimización de la cadena de suministro, no fue una tarea fácil ni ligera. En conclusión, con los marcos de aprendizaje profundo, se puede lograr mucho para las cadenas de suministro, pero la falta de coincidencia de impedancia entre las cadenas de suministro y los marcos de aprendizaje profundo existentes es fuerte; aumentando los costos, retrasos y limitando la aplicabilidad del mundo real de esas tecnologías.

Más allá de la optimización de branch-and-cut

La mayoría de los problemas en las cadenas de suministro tienen tanto un ángulo de aprendizaje, causado por un conocimiento imperfecto del futuro, un conocimiento imperfecto del estado presente del mercado, y a veces incluso un conocimiento imperfecto del propio sistema de la cadena de suministro (por ejemplo, inexactitudes en el inventario), como un ángulo de optimización numérica. Las decisiones deben optimizarse contra los impulsores económicos mientras se satisfacen muchas restricciones no lineales (por ejemplo, MOQs al comprar o tamaños de lote al producir).

En el frente de la optimización numérica, la programación entera y sus técnicas relacionadas como branch-and-cut han dominado el campo durante décadas. Sin embargo, estos algoritmos branch-and-cut y sus soluciones de software asociadas en su mayoría no lograron ofrecer la flexibilidad y escalabilidad necesarias para proporcionar soluciones operativas para muchos, si no la mayoría, de los desafíos de la cadena de suministro. La programación entera es una herramienta fantásticamente capaz cuando se trata de resolver problemas ajustados con pocas variables (por ejemplo, la colocación de componentes dentro de un dispositivo electrónico de consumo) pero muestra limitaciones drásticas cuando se trata de problemas a gran escala en los que interviene la aleatoriedad (por ejemplo, reequilibrar stocks entre 10 millones de SKU cuando se enfrenta tanto a la demanda probabilística como a los tiempos de transporte probabilísticos).

Una de las aspectos más subestimados del deep learning es que su éxito se debe tanto a los avances en el aprendizaje como a los avances en la optimización. Esto se debe a que la comunidad científica ha descubierto algoritmos tremendamente eficientes que realizan optimizaciones a gran escala. No solo son estos algoritmos de optimización de “deep learning” - todos basados en el descenso de gradiente estocástico - mucho más eficientes que sus contrapartes de branch-and-cut, sino que se adaptan mucho mejor al hardware informático que tenemos, es decir, CPU SIMD y (GP)GPU que en la práctica proporcionan dos o tres órdenes de magnitud de velocidad adicional. Estos avances en la optimización numérica pura son de gran relevancia para las cadenas de suministro con el fin de optimizar decisiones. Sin embargo, si los marcos de deep learning ya eran algo inadecuados para abordar problemas de aprendizaje en las cadenas de suministro, son aún menos adecuados para abordar los problemas de optimización en las cadenas de suministro. De hecho, estos problemas de optimización dependen aún más de la expresividad del marco para permitir que los científicos de la cadena de suministro implementen las restricciones y métricas que deben ser respectivamente aplicadas y optimizadas.

Hacia la Programación Diferenciable

En teoría, no hay diferencia entre la teoría y la práctica. Pero, en la práctica, sí la hay. Walter J. Savitch, Pascal: Una Introducción al Arte y la Ciencia de la Programación (1984)

La Programación Diferenciable (DP) es la respuesta para llevar a las cadenas de suministro lo mejor de lo que el deep learning tiene para ofrecer tanto en el aprendizaje como en la optimización numérica. A través de DP, los científicos de la cadena de suministro pueden aprovechar al máximo sus ideas para crear recetas numéricas alineadas, en profundidad, con los objetivos comerciales. No hay una delimitación absoluta entre el deep learning y la programación diferenciable: es más un continuo desde los sistemas más escalables (deep learning) hasta los sistemas más expresivos (programación diferenciable) con muchos constructos de programación que gradualmente están disponibles - a expensas de la escalabilidad bruta - al moverse hacia la programación diferenciable. Sin embargo, nuestra experiencia en Lokad indica que la transición de herramientas predominantemente diseñadas para la visión por computadora a herramientas diseñadas para los desafíos de la cadena de suministro marca precisamente la diferencia entre un prototipo “interesante” que nunca llega a producción, y un sistema de grado industrial implementado a gran escala.

El uso típico es un punto sutil pero importante. Desde la perspectiva de la “Gran IA”, el tiempo de entrenamiento puede ser (casi) arbitrariamente largo: está bien tener una red computacional siendo entrenada durante semanas, si no meses. Más tarde, la red computacional resultante generalmente necesita ser evaluada en tiempo real (por ejemplo, reconocimiento de patrones para la conducción autónoma). Este enfoque es completamente diferente al de las cadenas de suministro, donde los mejores resultados se obtienen volviendo a entrenar la red cada vez. Además, desde una perspectiva de DP, los parámetros entrenados son frecuentemente los mismos resultados que buscamos obtener; lo que hace que la restricción de evaluación en tiempo real sea irrelevante. Las expectativas en torno a las entradas de datos, tanto en granularidad, variedad y volumen, también son muy diferentes. Típicamente, la perspectiva de la “Gran IA” enfatiza cantidades casi infinitas de datos de entrenamiento (por ejemplo, todas las páginas de texto de la web) donde el principal desafío es encontrar métodos tremendamente escalables que puedan aprovechar efectivamente esos conjuntos de datos masivos. En contraste, los problemas de la cadena de suministro deben abordarse con una cantidad limitada de datos altamente estructurados pero diversos. Esto lleva al aprendizaje profundo hacia marcos basados en tensores, que pueden ser acelerados masivamente a través de hardware informático dedicado, inicialmente GPUs y ahora cada vez más TPUs. La Programación Diferenciable, al basarse en el descenso de gradiente estocástico, también exhibe muchas propiedades buenas para la aceleración de hardware, pero en menor grado en comparación con los gráficos estáticos de operaciones tensoriales. La importancia de las recetas numéricas estocásticas es doble. En primer lugar, estas recetas juegan un papel importante desde una perspectiva de aprendizaje. Los autoencoders variacionales o los dropouts son ejemplos de tales recetas numéricas. En segundo lugar, estas recetas también juegan un papel importante desde una perspectiva de modelado para factorizar adecuadamente comportamientos probabilísticos dentro de los sistemas de cadena de suministro (por ejemplo, tiempos de espera variables). Por el contrario, hay una gran brecha entre la programación diferenciable y la programación entera mixta: el enfoque dominante en las últimas décadas ha sido realizar optimizaciones numéricas complejas.

En defensa de las herramientas de programación entera mixta, esas herramientas, cuando logran abordar un problema, a veces pueden demostrar - en el sentido matemático - que han obtenido la solución óptima. Ni el aprendizaje profundo ni la programación diferenciable proporcionan ninguna prueba formal en este sentido.

Conclusiones

La Programación Diferenciable es un gran avance para las cadenas de suministro. Está construida sobre el aprendizaje profundo, que ha demostrado ser tremendamente exitoso en resolver muchos problemas de “Big AI” como la visión por computadora, pero reingeniado en su núcleo para ser adecuado para los desafíos del mundo real enfrentados por las cadenas de suministro del mundo real. Lokad ha estado construyendo sobre su tecnología de pronóstico de aprendizaje profundo para hacer la transición hacia la Programación Diferenciable, que es la próxima generación de nuestra tecnología predictiva. Sin embargo, la PD es más que ser predictiva, unifica optimización y aprendizaje desbloqueando soluciones para una gran cantidad de problemas que antes no tenían soluciones viables.