Von CRPS zu Kreuzentropie
Unsere Deep-Learning-Technologie ist ein wichtiger Meilenstein sowohl für uns als auch für unsere Kunden. Einige der mit Deep Learning verbundenen Veränderungen sind offensichtlich und greifbar, selbst für Nicht-Experten. Zum Beispiel sind die Büros von Lokad jetzt mit Nvidia-Boxen übersät, die mit relativ hochwertigen Gaming-Produkten verbunden sind. Als ich Lokad 2008 gründete, hätte ich sicherlich nicht erwartet, dass wir bei der Lösung von Supply-Chain-Herausforderungen so viel High-End-Gaming-Hardware einsetzen würden.
Dann gibt es noch andere Veränderungen, die viel subtiler sind und dennoch von entscheidender Bedeutung sind: Der Übergang von CRPS (Continuous Ranked Probability Score) zu Kreuzentropie ist eine dieser Veränderungen.
Der systematische Einsatz der CRPS-Metrik bei Lokad wurde zur gleichen Zeit wie unser Prognose-Engine der 4. Generation eingeführt; unser erster nativer probabilistischer Motor. CRPS wurde als Verallgemeinerung der Pinball-Loss-Funktion eingeführt und erfüllte seinen Zweck gut. Zu dieser Zeit hätte Lokad seine Herausforderungen in der Luft- und Modebranche - in Bezug auf die Supply Chain - ohne diese Metrik niemals gemeistert. Doch CRPS, das grob gesagt den mittleren absoluten Fehler auf probabilistische Prognosen verallgemeinert, ist nicht ohne Fehler.
Zum Beispiel ist es aus der Sicht von CRPS in Ordnung, einer geschätzten Ergebnis eine Null-Wahrscheinlichkeit zuzuweisen, wenn der Großteil der Wahrscheinlichkeitsmasse nicht weit vom tatsächlichen beobachteten Ergebnis entfernt ist. Dies ist genau das, was man von einer Verallgemeinerung des mittleren absoluten Fehlers erwarten würde. Doch dies bedeutet auch, dass die probabilistischen Modelle mit absoluter Sicherheit behaupten können, dass bestimmte Ereignisse nicht eintreten werden, während diese Ereignisse tatsächlich eintreten. Diese Art von stark falschen statistischen Aussagen über die Zukunft geht mit einem strukturell unterschätzten Kosten einher, die von CPRS verursacht wird.
Die Kreuzentropie hingegen weist einem Modell, das nach Zuweisung einer Nullwahrscheinlichkeit zu einem Ergebnis, das dennoch eintritt, nachweislich falsch ist, eine unendliche Strafe zu. Daher müssen Modelle aus der Sicht der Kreuzentropie die Perspektive annehmen, dass alle zukünftigen Ereignisse möglich sind, aber nicht gleich wahrscheinlich. Eine gleichmäßige Nullwahrscheinlichkeit zuzuweisen, wenn nicht genügend Daten für eine genaue Wahrscheinlichkeitsschätzung vorliegen, ist keine gültige Antwort mehr.
Allerdings ist die Kreuzentropie nicht nur aus rein theoretischer Sicht überlegen. In der Praxis führt die Verwendung der Kreuzentropie zur Steuerung des statistischen Lernprozesses letztendlich zu Modellen, die sowohl gegenüber der Kreuzentropie als auch gegenüber CRPS überlegen sind, selbst wenn CRPS überhaupt nicht in den Optimierungsprozess einbezogen wird.
Die Kreuzentropie ist die grundlegende Metrik, die unseren Prognose-Engine der 5. Generation antreibt. Diese Metrik weicht erheblich von der Intuition ab, die unsere älteren Prognose-Engines unterstützte. Zum ersten Mal nimmt Lokad eine vollständig bayesianische Perspektive auf das statistische Lernen ein, während unsere früheren Iterationen stärker in die frequentistische Perspektive eingebunden waren.
Schauen Sie sich unseren neuesten Wissensdatenbankeintrag zur Kreuzentropie an.
