Suchen

Congatec Weniger ist mehr: Künstliche Intelligenz auf Embedded-Plattformen

| Autor/ Redakteur: Zeljko Loncaric / Peter Reinhardt

Klassische KI ist kein Allheilmittel für bildgebende Verfahren, da umfangreiche Trainingsdaten benötigt werden. Nicht immer stehen jedoch große Datensätze zur Verfügung. „Sparse Modeling“-basierte KI benötigt nur einen kleinen Satz von Daten und kann damit selbst auf Embedded-Plattformen sowohl KI-Trainingsaufgaben als auch Inferenzalgorithmen ausführen.

Firmen zum Thema

Sparse Modeling verbraucht bei gleicher Genauigkeit nur 1% der Energie einer herkömmlichen Deep Learning Plattform. Sie ist damit die perfekte KI-Technologie für Embedded Systeme.
Sparse Modeling verbraucht bei gleicher Genauigkeit nur 1% der Energie einer herkömmlichen Deep Learning Plattform. Sie ist damit die perfekte KI-Technologie für Embedded Systeme.
(Bild: Zeljco Loncaric)
  • Ansatz zur Datenerfassung und Identifizierung einzigartiger Merkmale
  • Vorteil des Sparse Modeling durch ressourcenschonende- und energieeffiziente Arbeitsweise
  • Anwendung in der Medizintechnik zur Erkennung seltener Erkrankungen

Künstliche Intelligenz besitzt großes Potenzial, die Leistungsfähigkeit und Genauigkeit der bildgebenden Diagnostik zu verbessern. Herkömmliche KI-Ansätze bergen jedoch einige Nachteile:

  • Bildbasiertes Deep Learning muss jedes Detail eines Bildes verarbeiten, um zuverlässige Ergebnisse liefern zu können. Dies ist leistungs- und rechenintensiv.
  • Ein weiteres Problem der klassischen KI liegt darin, dass sie sehr viele klassifizierte Bilder benötigt, um zuverlässige Vorhersagen zu treffen. Und auch das verbraucht viel Zeit und Energie.
  • In der Praxis sind die erforderlichen Trainingsdaten nicht innerhalb weniger Tage oder Wochen verfügbar. Es dauert häufig Jahre oder sogar noch länger, um Bilder von tausenden Patienten zu sammeln.
  • Klassische KI benötigt immer ein Server-Grade-Training mittels Deep Learning, bevor sich ein Inferenzalgorithmus entwickeln lässt, der in der Lage ist, Entscheidungen im Medical-Edge-Bereich zu treffen.
  • Die Integration von KI mittels Inferenzlogik in Embedded-Systeme in den Medizingeräten führt zu höheren Leistungsanforderungen. Embedded Systeme, die keinen zusätzlichen Spielraum in ihrer thermischen Auslegung besitzen, riskieren durch die KI den Verlust ihrer Robustheit für den 24/7-Langzeitbetrieb.

Sparse Modeling vereinfacht das Re-Training am Edge

Sparse Modeling bietet einen anderen Ansatz und mehr Spielraum, um diese neue Art von KI in medizinische Low-Power-Applikationen zu integrieren. Im Wesentlichen ist Sparse Modeling ein Ansatz zur Datenerfassung, der sich auf die Identifizierung einzigartiger Merkmale konzentriert. Einfach ausgedrückt interpretiert Sparse Modeling Daten ähnlich dem menschlichen Verstand, anstatt jedes einzelne Haar und jeden Millimeter einer Person zu betrachten. Der Mensch ist in der Lage, Freunde und Familie anhand von Schlüsselmerkmalen – wie Augen oder Ohren – zu erkennen. Sparse Modeling integriert eine vergleichbare Logik in intelligente Bildverarbeitungssysteme.

Wenn neue Daten erfasst werden, scannt Sparse Modeling also nicht den gesamten Inhalt, sondern sucht für die Vorhersagen nach bestimmten, zuvor festgelegten Schlüsselmerkmalen. Ein zusätzlicher Vorteil dieses Verfahrens besteht darin, dass die isolierten Merkmale für den Menschen verständlich sind. Sparse Modeling erzeugt somit eine erklärbare White Box KI, was ein weiteres wesentliches Unterscheidungsmerkmal im Vergleich zu konventioneller KI ist. Um ein neues Standard-Inferenzmodell zu entwickeln, benötigt Sparse Modeling zudem für die erste Modellerstellung nur etwa 50 Bilder. Das ist erheblich weniger als die 1.000 oder mehr Bilder, die für eine herkömmliche KI erforderlich sind.

Sparse Modeling ist auf allen wichtigen Embedded Edge-Geräten lauffähig

Hardware-technisch präsentiert sich eine Sparse-Modeling-Plattform ebenso schlank wie ressourcensparend und kann in praktisch jedes Edge-Gerät integriert werden. Sie kann auf eingebetteten x86-Computerplattformen ausgeführt werden und ist sogar für die Implementierung auf Plattformen wie Xilinx und ARM oder Altera und RISC-V vorbereitet. Da der endgültige Footprint letztlich ganz entscheidend von der Aufgabenstellung und Komplexität des benötigten Modells abhängt, empfiehlt sich bei der Einführung von Sparse Modeling folglich eine modulare Hardwareplattform auf Basis von Closed-Loop-Engineering-fähigen Computer-on-Modules, die beide Prozessorvarianten bedienen kann.

Erste Anwendungen von Sparse Modeling finden sich in der Medizintechnik beispielsweise in der Erkennung seltener Erkrankungen, die eben nicht genügend Big Data produzieren, wie sie für die Ausbildung eines Deep-Learning-basierten KI-Modells erforderlich wären. Medical-Applikationen profitieren zudem von dieser neuen Technologie, weil selbst Edge Devices dank Sparse Modeling nun genügend Rechenleistung bieten, um Inferenz und Training parallel durchzuführen. Dadurch wird auch das Versenden von Daten in die Cloud umgangen, was aus Gründen der Diskretion und/oder eingeschränkter Konnektivität häufig gefordert ist.

Sparse Modeling ist energieeffizient

Die bisher erzielten Erfolge mit Sparse Modeling sind sehr überzeugend: In einer Beispielstudie wurde ein Datensatz bestehend aus 1.000 Bildern verwendet, um Vorhersagen zu erstellen. Die akzeptierte Modellvorhersagewahrscheinlichkeit war mit 90% definiert. Sowohl die klassische KI als auch Sparse Modeling lieferten vergleichbare Ergebnisse, aber der Aufwand unterschied sich ganz erheblich: Das auf Sparse Modeling basierende Modell wurde fünfmal schneller trainiert und der Sparse-Modeling-basierte Ansatz verbrauchte nur 1% der Energie, die der Deep-Learning-basierte Ansatz benötigt. Er erzielte dabei allerdings die gleiche Genauigkeit.

Nur 50 Bilder erforderlich

Der geringe Speicher- und Performancebedarf macht es den OEMs von Bildverarbeitungssystemen leicht, KI zu implementieren. Bestehende Plattformlösungen können meist wiederverwendet werden und die Systemintegration ist relativ einfach, da sich die Logik des Hacarus+ SDK (Software Development Kit) an die existierenden Bildverarbeitungssysteme anpasst, ohne dazu viel am Setup ändern zu müssen. So können OEMs ihre Devices mit einer bereits trainierten KI ausstatten, die dank Sparse Modeling selbst beim Einsatz in der Praxis vor Ort ständig lernen kann. Zusätzlich können OEMs über den Einsatz in Universitätskliniken und Forschungseinrichtungen die KI ständig weiter trainieren und die Inferenzlogik kontinuierlich verbessern. Dank des geringen benötigten Datenstamms lassen sich selbst sehr seltene Krankheiten trainieren. Sobald ein solches neues Modell von Experten validiert wurde, kann es vom OEM auf die Kundensysteme aufgespielt werden und damit überall bereitgestellt werden, was die Erkennung und in Folge auch Behandlung seltener Krankheiten deutlich vereinfachen und damit beschleunigen könnte. Lassen es OEMs zu, dass die Systeme dezentral trainiert werden, und können sie dann diese Ergebnisse sammeln und nutzen, können sie über die Schwarmintelligenz die Präzision und universelle Anwendbarkeit der KI-Logik weiter verbessern. Dank Sparse Modeling sind dabei die zusätzlichen Performanceanforderungen so gering, dass existierende Hardwarelösungen zumeist weiter genutzt werden können; selbst FPGA-basierte Implementierungen für mobile und verfahrbare Befundungssysteme sind mit applikationsspezifischen Carrierboards möglich, um die erforderliche Leistungsaufnahme der KI-Logik noch weiter zu reduzieren. Die optimale Ausbalancierung der Performance lässt sich dabei am besten mit Computer-on-Modules umsetzen, wie sie congatec beispielsweise für die Sparse-Modeling-Eval-Plattform anbietet.

Lesen Sie auch

Weitere Artikel zu Themen wie E-Health und Telemedizin finden Sie in unserem Themenkanal E-Health.

Dieser Beitrag ist urheberrechtlich geschützt. Sie wollen ihn für Ihre Zwecke verwenden? Kontaktieren Sie uns über: support.vogel.de (ID: 46368632)