Smart and Healthy Living

Dem Computer beim Denken zuschauen

20.3.2017

Früher war es mühsam, im Computer Fotos zu sortieren. Heute klickt man auf die Gesichtserkennung – und flugs erscheint die gewünschte Bildauswahl. Computer sind dank neuronaler Netzwerke gut darin, große Datenmengen zu analysieren. Besonders interessant dabei ist, herauszufinden, wie diese Netze arbeiten. Ein Forschungsteam des Fraunhofer HHI hat nun eine Software entwickelt, die genau das möglich macht.

© Foto fotolia.com / SSilver / edit: Fraunhofer HHI
© Foto Fraunhofer HHI

Bisher ist nicht bekannt, wie neuronale Netze arbeiten und wieso sie zu diesem oder jenem Ergebnis kommen. Sie sind gewissermaßen Black Boxes, Computerprogramme, in die man Werte einspeist und die zuverlässig Ergebnisse liefern. Will man einem neuronalen Netz etwa beibringen, Katzen zu erkennen, dann lernt man das System an, indem es mit Tausenden von Katzenbildern gefüttert wird. »In vielen Fällen aber interessieren sich Forscher weniger für das Ergebnis, sondern vielmehr dafür, was das neuronale Netz eigentlich tut«, sagt Dr. Wojciech Samek, Leiter der Forschungsgruppe für Maschinelles Lernen am Fraunhofer-Institut für Nachrichtentechnik, Heinrich-Hertz-Institut, HHI. Samek und seine Forschungsgruppe haben deshalb zusammen mit einem Team der Technischen Universität Berlin eine Methode entwickelt, mit der man einem neuronalen Netz beim Denken zuschauen kann.

Maschinelles Lernen liefert maßgeschneiderte Diagnostik

Das ist beispielsweise für die Erkennung von Krankheiten wichtig. Es ist bereits möglich, Computer bzw. neuronale Netze mit den Erbgut-Daten von Patienten zu füttern. Das Netzwerk analysiert dann, mit welcher Wahrscheinlichkeit der Patient eine bestimmte genetische Erkrankung hat. »Viel interessanter wäre es aber, wenn wir genau wüssten, an welchen Merkmalen das Programm seine Entscheidungen fest macht«, sagt Samek. Dies könnte Ausgangspunkt für individuell zugeschnittene Therapien sein.

Neuronale Netze im Rückwärtsgang

Mit ihrer Methode können die Forscher die Arbeit der neuronalen Netze rückwärts ablaufen lassen. Sie arbeiten sich damit vom Ergebniswert in umgekehrter Richtung durch das Programm. »Wir können genau sehen, an welcher Stelle eine bestimmte Gruppe von Neuronen eine bestimmte Entscheidung getroffen und wie stark diese zum Ergebnis beigetragen hat«, sagt Samek.  Dass das Verfahren funktioniert, konnten die Forscher schon mehrfach beweisen. So haben sie zwei im Internet öffentlich verfügbare Programme verglichen, die beide in der Lage sind, Pferde auf Bildern zu erkennen. Das Ergebnis war verblüffend. Das erste Programm erkannte tatsächlich den Körper der Pferde. Das zweite aber orientierte sich an den Copyright-Zeichen der Fotos, welche Hinweise auf Foren für Pferdeliebhaber oder Reit- und Zuchtvereine gaben, sodass das Programm eine hohe Trefferquote erreichte, obwohl es gar nicht gelernt hatte, wie Pferde aussehen.

Anwendungsfeld Big Data

Die Erkenntnisse können beispielsweise bei der Optimierung von Produktionsprozessen genutzt werden. »So ist es denkbar, aus den Betriebsdaten einer komplexen Produktionsanlage herauszulesen, welche Parameter die Qualität eines Produktes beeinflussen oder zu Schwankungen bei derselben führen«, sagt Samek. Während der Messe CeBIT in Hannover wird das Forschungsteam zeigen, wie sie mit ihrer Software die Black Boxes neuronaler Netze analysieren.