Jahr: 2019

Am 19.11.2019 durften wir an der Predictive Maintenance Expert Group der Swiss Alliance for Data Intensive Services unsere Projekterfahrungen weitergeben. Einige dieser Erfahrungen möchten wir sehr gerne in diesem Blog teilen.

Wenn wir bei unseren Industriekunden das Thema Predictive Maintenance besprechen, ist häufig das Hauptthema die ungenügende Datenlage. «Unsere Maschinen sind so gut und produzieren kaum Fehler». Unsere Kunden sind dann voreilig der Meinung, dass Predictive Maintenance innerhalb Aufwände und Zeiten nicht umzusetzen ist. Wir wollen in diesem Blog erklären, wie wir mit diesem Thema umgehen.

Nehmen wir als Beispiel unser Predictive Maintenance Projekt in den Verteilzentren der Schweizerischen Post. In den verschiedenen Verteilzentren laufen kontinuierlich 8 Sorteranlagen mit ungefähr je 700 Kippschalen. An jedem dieser Wagen können verschiedene Defekte auftreten, was natürlich nur sehr selten passiert. Das nächste Bild zeigt hier die mögliche Defekte:

Abb. 1: Wartungsthemen am Fahrgestell eines Kippschalen- Wagens

Die folgenden Ausführungen zeigen, dass maschinelles Lernen auch dann gute Ergebnisse erzielen kann, wenn nur sehr wenige Defekte für das Training zur Verfügung stehen. Um zu erklären, wie wir das machen, einige Grundlagen:

In der Abb. 2 sehen Sie das Prinzip der Klassifikation, welches zum Gebiet des Supervised Learning gehört. Wir erkennen in den 3 Bildern, dass bei ungenügender Datenlage eine ausreichende Klassifikation nicht möglich ist. Neue Messungen (im Bild mit «unknown» bezeichnet) werden im Bild ganz rechts als «normal wagon» klassifiziert, auch wenn ein Defekt am Wagen aufgetreten ist. Das Klassifikationsmodell gibt bei ungenügener Trainings-Grundlage falsche Resultate. Das passiert, wenn im Modelltraining die Datenlage nicht genügend die vorkommenden Defekte repräsentieren. In solchen Fällen wird die Lösung unbrauchbar.

Abb. 2: Falsche Klassifikation, wenn dem Modell nur wenige Schadensfälle vorliegen

Anders sieht es bei der Anomalieerkennung aus, einer ML-Modellierung aus dem Gebiet des Unsupervised Learning. Siehe dazu das zweite Bild in Abb. 3. Während der Trainingsphase der Anomalieerkennung modellieren wir im Wesentlichen das „normale“ Verhalten der Wagen, und wir benötigen nur sehr wenige Fehlerfälle, um die Modellparameter anzupassen. Das Modell kann dann einen neuen Defekt im Feld sehr gut erkennen, da es nur die Abweichung vom Normalzustand erkennen muss, was für das Modell entsprechend einfacher ist.

Abb. 3 Unterschied von Klassifikation und Anomalie-Erkennung

Anomalie Detektion kann noch viel mehr, was sich im Post Case anschaulich darstellen lässt. Wir messen mit einer stationären Lasertriangulation Verbiegungen an verschiedenen Teilen des Fahrgestells aus. Wir vermessen im submillimeter Bereich verschiedene Punkte und Flächen des Wagens, während dieses am Messgerät vorbeifährt. Die Auswertung deser Vermessungen geschieht innerhalb weniger Sekunden , sodass wir im Betrieb die Vermessungen an jedem Wagen online in unsere LeanBI Cloud spielen. Damit lassen sich Veränderungen über die Zeit erkennen und so mehr als nur Zustandsaussagen machen. Man sieht also frühzeitig, ob zukünftig ein Problem auftreten könnte, eine solche Information geht dann an das Wartungspersonal. Das ist Predictive Maintenance.

Die herkömmliche Meinung, dass mit der Anomalieerkennung nur eine Anomalie, aber nicht das einzelne Problem erkannt wird, stimmt nicht immer. Über das geeignete Feature Extraction, also die Auswahl der Vermessungspunkte, können wir genaue Hinweise zur Anomalie weitergeben. Also zum Beispiel die Chassis Koordinate x,y,z hat sich in der Richtung y um 0.4 mm verschoben. Das ist in diesem Fall bereits eine sehr genaue Lokalisierung des Problems.

Ein Haken muss aber noch dran sein? Ja, es ist richtig, dass die Modelle auf der Grundlage weniger Schadensbilder noch nicht sehr genau sind. Diese sind aber so genau, dass wir innterhalb einer 10% Grenze alle mögliche Schäden mitbekommen, also kein Schaden uns versehentlich durchrutscht. Es kann passieren, dass irrtümlich ein Schaden gemeldet wird, wo gar keiner ist (genannt “false positive”). Aber: Das Wartungspersonal wird 10 mal schneller als bisher, da es nur 10% der Wagen untersuchen muss. Und wir erkennen Fehler schneller (da online) und besser als das Wartungspersonal. Zum Beispiel haben bei den Testmessungen Schäden an den Wagen festgestellt, die bei den periodischen Wartungsarbeiten übersehen wurden.

In Zukunft werden wir die Modelle periodisch nachtrainieren. Damit wird dann auch diese 10%- Schwelle sinken, das Modell wird immer genauer werden.

Mit dieser Predictive Maintenance Lösung verhindern wir ungeplante Stillstände, was der Hauptnutzen eines solchen Systems ist. Denn zu Weihnachten möchten die Postkunden die Pakete rechtzeitig im Haus haben. Ungeplante Stillstände können auch sehr teuer werden, wenn ein Wagen stark beschädigt wird. Gleichzeitig reduzieren wir die Arbeit des Wartungspersonals und weisen Sie auf die konkreten Problemfelder hin. Das hilft auch bei weniger geschulten Personal.

Summa Summarum: Der Business Case für die Post Schweiz lohnt sich.

Im Bereich des Predictive Maintenance gibt es Problemfelder, die einiges komplexer als dieses Fallbeispiel sind. Kann dann die Anomalie-Erkennung scheitern? In solchen Fällen reicht zumindest die Anomalie-Erkennung alleine nicht aus. Ziel ist es, bei komplexeren Themenfelder, noch stärker das Know How der Spezialisten kontinuierlich im System einzubeziehen. Das Modell wird damit «self learning». An diesem Thema sind wir in anderen Projekten dran und werden dazu in den nächsten Blogs berichten.

“People underestimate the capability of AI. They think it is a smart human. It will be much more than that.” Elan Musk, 29.8.2019

In diesem Blog möchten wir Ihnen die heutigen Grenzen der künstlichen Intelligenz aufzeigen. Wir schlagen hier einen Bogen von der Definition über die Geschichte bis zu den heutigen Einsatzgrenzen der künstlichen Intelligenz.

AI Definition

Künstliche Intelligenz (KI), im englischen Artificial Intelligence (AI). befasst sich mit der Automatisierung von intelligentem Verhalten und ist eng mit dem Begriff Machine Learning (ML) verbunden. Inhalt von AI ist es, mit Algorithmen intelligentes Verhalten nachzubilden oder zumindest zu simulieren.

Besonders relevant heute ist AI in seinen Teilgebieten der wissensbasierten Systeme (Expertensysteme), der Mustererkennung und Vorhersage (Prediction) und Robotik.
Auch Data Science ist mit AI stark verbunden. Data Science bezeichnet die Extraktion von Wissen aus Daten, die Mittel hierfür sind Methoden, Prozesse und Algorithmen, wie statistische Verfahren und Verfahren des Machine Learning. Deep Learning ist ein Teilgebiet von Machine Learning.

AI Geschichte

AI hat sich aus vielen theoretischen Überlegungen ab den 20-iger Jahren des 20. Jahrhunderts entwickelt und sich Anfang der 50-iger Jahre erstmals konkret manifestiert. Ab dann hat AI und deren Teilbereiche mehrere Hype-Zyklen durchlaufen. Schon in den 50-iger bestand eine fast grenzenlose Erwartungshaltung bezüglich der Fähigkeit der Computer intelligent zu werden, bspw. zum Schachweltmeister aufzusteigen. Das mit dem Schachweltmeister gelang dann aber erst sehr viel später dem IBM Computer Deep Blue im Jahre 1997. Auch Expertensysteme gab es seit Beginn der 70- Jahre, die schon damals Diagnose Entscheidungen der Ärzte unterstützten, aber in sehr engen Teilbereichen der Medizin. Das Problem damals war, das die Grenzen der Kompetenzen unscharf waren, was teilweise zu Fehldiagnosen führte. Auch die gehypte Fuzzy Logic war eine Errungenschaft, die sich besonders in verschiedenen Maschinensteuerungen etabliert hat, nicht aber einen breiten Durchbruch erreichte. Deshalb sind nach jedem AI-Hype die sogenannten KI- Winter charakteristisch.

Der AI Hype der heutigen Zeit wurde gesellschaftlich durch zwei Events getriggert: IBM Watson, der 2011 den Jeopardy Champion besiegte und AlphaGo, welches den weltbesten Go Spieler 2018 besiegte. Letzteres geschah auf der Grundlage von Deep Learning, welches auf neuronalen Netzen ähnlich eines Gehirns aufbaut. Deep Learning ist so auch die Basis vieler in den letzten Jahren durchgreifender Entwicklungen im Bereich der Bilderkennung, sowie der Sprach- und Textanalyse.

Abb 1: Neurales Netzwerk mit mehreren Lagen (Layers, Lit. Towards Data Science, Training Deep Learning Networks, Rawindra Parmar, 11.9.2018)

AI Durchbrüche heute

Vernetzung und Cloud Services haben die weltweite Datenmenge enorm ansteigen lassen. Big Data wurde zum Mode- und Fluchwort zugleich. Big Data half AI vor wenigen Jahren zum grossen Aufstieg (denn grosse Datenmengen sind häufig die Grundlage von AI), heute scheint es so, als wäre Big Data durch AI abgelöst. Das Thema Big Data ist weiterhin genauso aktuell, aber niemand spricht mehr davon. Genau so wird es AI in wenigen Jahren ergehen. Interessant ist jedoch, dass bei AI ein starker Lawineneffekt ausgelöst wurde. Viele neue Studiengänge sind entstanden und die Politik stopft weiterhin enorme Geldmengen in die Forschung und Entwicklung. AI wurde im Gegensatz zu Big Data politisch, und die heutigen politischen Meinungen gehen soweit, dass einzelne Staaten den Glauben vertreten, mit AI sich und die Welt regieren zu können. Das alles hilft der grossen Popularität.

Vieles ist masslos übertrieben, aber es gab einige erstaunliche technologische Durchbrüche der letzten Jahre, die an eine Allmacht von AI glauben lassen. Und so vertreten zu viele, sogar AI Experten, den Glauben, dass die künstliche Intelligenz die menschliche Intelligenz in weniger als 20 Jahren überholen wird. Glücklicherweise lehrt uns die Geschichte, dass es, wenn überhaupt, sehr viel länger dauern wird.

Wahrhaftig gab es einige beachtliche technologische Durchbrüche in den letzten Jahren wie:

• Sprach-Übersetzungsmaschinen (Deepl, Skype, Google Translate, usw.), die wirklich etwas taugen. Auch «speech to text» und umgekehrt funktioniert zwischenzeitlich
  sehr gut auf der Grundlage von AI.
• Persönliche Assistenten auf der Grundlage des Internets (Google Alexa, Amazon Echo, usw.), die sich besonders in Amerika sehr schnell durchgesetzt haben.
• Empfehlungssysteme auf Internetplattformen, die immer stärker zur Normalität werden.
• Automatisierte Verhaltensanalysen wie bspw. Sentiment Analysis für das Marketing.
• AI Security: AI hilft uns in vielen Fällen gegen die Kriminalität vorzugehen. Fraud Detection, Cyber Security und besseres Verständnis der Kriminalität mit Data
  Science.
• Und sehr viele Applikationen auf der Grundlage von Bild und Video Analysen, darauf basiert schliesslich auch das autonome Fahren. Darunter fällt zum Beispiel auch
  unser Projekt der Fehlstellenerkennung (Risse, Nassstellen, usw.) in Tunnels.
• Man schätzt den Predictive Maintenance (Vorausschauende Wartung) Markt, aufbauend auf Machine Learning, bis in das Jahre 2022 bei 11 Milliarden $ (Market Research
  Future Roland Berger, 2018), also auch eine sehr starke Entwicklung in den nächsten Jahren.

Die Intelligenz von AI

Abb.2 zeigt, wo sich die Intelligenz von AI sich im Vergleich zur Tierwelt befindet.
Ein Vergleich kann am ehesten anhand von Deep Learning angestellt werden, da hier das Konzept der neuronalen Netze ja eine Ähnlichkeit zu Gehirnen aufweist.

Das Gehirn eines Menschen hat um die 100 Milliarden Neuronen (Nervenzellen) und 100 Billionen Synapsen. Der Vergleich der AI Neuronen zu organischen Neuronen ist etwas vage, aber wir liegen in der Tendenz irgendwo in der Nähe einer Honigbiene, einige behaupten in der Nähe eines Frosches. Damit liegt mindestens ein Faktor von 10’000 noch zwischen AI und der Intelligenz eines Menschen.

Abb.2: Die Intelligenz von Deep Learning im Vergleich zur Tierwelt

Die Biene kann spezifische Verhaltensmuster sehr gut, zum Beispiel den Weg finden, vielleicht sogar besser als Menschen. Genauso verhält es sich bei AI. AI kann einen spezifischen Tumor auf einem Röntgenbild besser erkennen als ein Arzt (auch wenn nicht alle Ärzte das bejahen). Aber das Modell kann nicht gleichzeitig das Bild einer anderen Krankheit im Gehirn erkennen, wenn es nicht speziell darauf trainiert wurde

Und leider hat man herausgefunden, dass die Genauigkeit der Mustererkennung abnimmt, wenn mehrere Probleme gleichzeitig gelöst werden sollen. Zumindest aktuell noch hat die Intelligenz von Deep Learning eine Grenze, die möglicherweise nicht durchbrochen werden kann. Ein Deep Learning Modell wird nie die Intelligenz eines Menschen aufweisen, um in die Richtung zu kommen, werden ganz andere Konzepte benötigt.

Die fehlende Intelligenz von AI

• AI hat nicht das was man als «Common sense» bezeichnet. AI kann nur Schlussfolgerungen auf einem spezifischen Gebiet ziehen, auf welchem es trainiert wurde. Über diese Grenzen
  hinaus funktioniert AI nicht.
• Deep Learning funktioniert nur über Wahrscheinlichkeiten. Es gibt keine direkte Verdrahtung von Input und Output, deshalb wird Deep Learning nie 100% genaue Resultate
  erbringen.
• Deep Learning ist nur so gut, wie das Netzwerk trainiert wurde. Das kann auch zu grossen Fehlern oder sogenannten «Bias» führen. Zum Beispiel, dass ein Afro- Amerikaner es viel
  schwerer hat, eine Hypothek zu erhalten, weil das Modell einen «racial -» oder «gender bias» aufweist.
• Deep Learning funktioniert nur mit vielen Trainingsdaten. Wenn das Problemfeld sich zeitlich laufend ändert, läuft das Deep Learning nicht mehr optimal.
• Die menschliche Intelligenz funktioniert über den Informationsaustausch und Domänen-übergreifende Anwendung des Wissens. Deep Learning kann das nicht. Deep Learning kann damit auch
  nicht als kreativ bezeichnet werden (auch wenn eine spezielle Art von Netzwerken – die GANs – mit den richtigen Trainingsdaten spezifische „kreative“ Aufgaben lösen kann).

Wo macht AI (noch) wenig Sinn

Hier nur einige Beispiele, die vor einer übereilten Euphorie warnen sollen:

AI für das HR

Vor wenigen Jahren kamen AI Applikationen auf den Markt, die den Bewerbungsprozess von neuen Mitarbeitern unterstützen. Aufgrund der Gesichtsmimik der Bewerber beim Bewerbungsgespräch wurde auf die Eignung geschlossen. Was mich selber belustigt hat, wurde interessanterweise von etlichen Firmen (zumindest anfänglich) positiv aufgenommen.
Die Eignung für eine Stelle ist meistens äusserst individuell. Die Person muss neben den Fähigkeiten für die ausgeschriebene Rolle in ein ganz spezifisches Team passen. Es ist kaum möglich, dass ein Deep Learning Algorithmus für einen derart individuellen Entscheidungsprozess einer Anstellung eine entscheidende Hilfe leisten kann.

Deep Learning für die Börse

AI soll den Aktienkurs vorhersagen. Das ist weder für ganze Aktienmärkte und erst recht nicht für einzelne Firma auch zukünftig nicht möglich. Der Aktienmarkt reagiert auf wirtschaftliche und politische Einflüsse wie Instabilitäten, die nicht vorhersagbar sind und ist dazu noch stark emotional aufgeladen. In der Vergangenheit hat AI Börsen sogar destabilisiert. Tendenz aber ist, dass mit AI die Aktienmärkte weniger emotional werden, also damit die Ausschläge weniger dramatisch sein werden.

AI als Arzt

Expertensysteme im HealthCare werden den Arzt unterstützen und mit der Zeit immer besser werden, je mehr Datengrundlage diese Systeme aufweisen (historische Daten und online Daten der Patienten). Expertensysteme werden aus der Arztpraxis in wenigen Jahren nicht mehr wegzudenken sein. Aber es wird noch viele Jahre dauern, bis die Funktion eines Arztes überdacht werden muss.

Autonomes Fahren

Das autonome Fahren besonders in den Städten wird sich leider herauszögern. Auch wenn viele Prototypen seit Jahren im Einsatz sind. Leider werden die Prognosen einer Einführung laufend nach hinten korrigiert.

Abb. 3: Bestandsdurchdringung bis 2050: Gesamtbestand; ADAC Studien von Prognos, Aug 2018

Man geht jetzt von einer Einführung des City Piloten ab 2030 aus (ADAC Studie, 2018), mit einer Durchdringung von 10% bis 20% im Jahr 2050 in den Städten. Das ist wenig und ich hoffe, dass dies in Tat und Wahrheit etwas schneller gehen wird. Die Hoffnung stirbst zuletzt.

Fazit
Elan Musk ist ein Visionär. Aber er wird es früher auf den Mars schaffen, als das AI intelligenter als der Mensch wird. Viele Hoffnungen, aber auch Ängste sind (glücklicherweise) masslos übertrieben.

Seit 2005 findet das Internationale Forum Mechatronik (IFM) in Rotation zwischen Deutschland, Österreich, der Schweiz und Südtirol statt. Die LeanBI ist mit einem Vortrag dieses Jahr dabei:

Das IFM ist eine branchenübergreifende Informations- und Technologie-Plattform, die über aktuelle Entwicklungen und Trends in der Mechatronik informiert und so Impulse zur strategischen Weiterentwicklung von Unternehmen gibt. Das 13. internationale Forum Mechatronik kommt 2019 nach Cham in Ostbayern. Der etablierte Jahreskongress ist der europäische Marktplatz zur technologischen Präsentation und Fachdiskussion für Wirtschaft und Wissenschaft, für neue Kontakte und Kooperationen und zur Vernetzung etablierter Unternehmen mit der mechatronischen Startup-Szene.

Hier finden Sie die das Programm und den Link zur Anmeldung: https://www.mechatronikforum.net/

Die LeanBI ist dabei mit dem Vortrag «Von den Rohdaten zu Smart Data». Anhand von konkreten Fallbeispielen wird die Umsetzung von Predictive Maintenance (Vorausschauende Wartung) an Maschinen und intralogistischen Systemen besprochen. Um Predictive Maintenance an Maschinen gekonnt ausführen zu können, muss zuerst die richtige Sensorik bzw. Datengrundlage gewählt werden. Die Sensordaten durchlaufen einen sogenannten Feature Extraction Prozess, bei der die Daten für die Machine Learning (ML) Modelle aufbereitet werden. Die Wahl der geeigneten ML Modelle ist ein wichtiger Erfolgsfaktor für Predictive Maintenance. Der Vortrag zeigt ein Framework auf, durch welches die Komplexität von Predictive Maintenance reduziert wird, sodass auch kleine und mittlere Industrien Predictive Maintenance anwenden können.

Wir freuen uns, bei dieser internationalen Konferenz unseren Beitrag beisteuern zu dürfen.

Machine Learning wird oft als Black Box verwendet, aber dieser Ansatz begrenzt die Bandbreite der Probleme, die der Datenwissenschaftler lösen kann. Nach unserer Erfahrung braucht mindestens die Hälfte der Projekte mehr als das. Die beste Lösung für das Kundenproblem ist oft nicht lösbar mit Modellen, die von jeder maschinellen Lernbibliothek sofort einsatzbereit sind. In diesen Fällen müssen wir entweder bekannte maschinelle Lerntechniken anpassen oder ganz individuelle Lösungen auf der Grundlage der Mathematik des maschinellen Lernens entwickeln.

LeanBI freut sich, in diesem Jahr an der weltweit wichtigsten Deep Learning Konferenz, der International Conference on Representation Learning (ICLR), teilzunehmen.

Die ICLR ist eine relativ neue Konferenz, ebenso wie der Bereich des Deep Learning. Es läuft erst seit 7 Jahren, hat sich aber einen Platz unter den wichtigsten Konferenzen zum maschinellen Lernen der Welt erobert. In diesem Jahr werden sich vom 6. bis 9. Mai mehr als 4000 Teilnehmer in New Orleans treffen.

Grossartig ist, dass die ICLR akademische und industrielle Forschung kombiniert. Dies ist etwas sehr Notwendiges in der ML-Community, da wir oft sehen, wie die besten Professoren die Akademie verlassen, um in die Forschungslabore von Google, Facebook und anderen Unternehmen mit maschineller Lernfähigkeit einzusteigen.

Während die Gelegenheit für uns darin besteht, einige der akademischen Arbeiten aus der Doktorarbeit von unserem Kollegen Vassilis Kalofolias (Large Scale Graph Learning) zu präsentieren, werden wir die Gelegenheit haben, die neuesten Wege zur Lösung von Problemen des maschinellen Lernens von Spitzenuniversitäten und ML-basierten Unternehmen der Welt zu sehen und zu diskutieren.

In einem späteren Beitrag werden wir einige der Highlights der Konferenz zusammenfassen. Bis dahin finden Sie weitere Informationen und das Programm der ICLR 2019 unter: https://iclr.cc/