Patrick Upmann

AI Governance. Built it. Written it. Defending it.

Schlagwort: Fraunhofer Institut

  • Datensouveränität im Umgang mit Sprachassistenten

    Datensouveränität im Umgang mit Sprachassistenten

    Sprachassistenten wie Amazon Alexa oder Google Assistent sind praktisch, doch Daten- und Verbraucherschützer kritisieren die Alltagshelfer

    Sie sollen Benutzerdaten sammeln und in Clouds weiterleiten, die von Dritten transkribiert und ausgewertet werden können. Diese Problematik adressieren Forschende des Fraunhofer-Instituts für Angewandte Informationstechnik FIT: In einer Living Lab-Studie, an der 33 Haushalte teilnehmen, gehen sie der Frage nach, was ein Sprachassistent über einen Haushalt weiß und speichert. Mit einer neuen Plattform wollen sie die Studienteilnehmenden bei der Nutzung ihrer personenbezogenen Datenschutzrechte unterstützen.

    Gesamtübersicht des Dashboards.
    © Fraunhofer FITGesamtübersicht des Dashboards.
    In der Zeitleiste werden alle gespeicherten Interaktionen mit dem Sprachassistenten seit Beginn der Nutzung dargestellt.
    © Fraunhofer FITIn der Zeitleiste werden alle gespeicherten Interaktionen mit dem Sprachassistenten seit Beginn der Nutzung dargestellt. Die User haben die Möglichkeit, Kategorien zu bilden (siehe Legende unten), sodass Sprachbefehle besser voneinander unterschieden werden können und erste Verhaltensmuster sich erkennen lassen.
    Die User können einen bestimmten Zeitabschnitt innerhalb der Zeitleiste auswählen und zu einem bestimmen  Sprachbefehl weitere Informationen erhalten (siehe Sprechblase mittig).
    © Fraunhofer FIT
    Die User können einen bestimmten Zeitabschnitt innerhalb der Zeitleiste auswählen und zu einem bestimmen Sprachbefehl weitere Informationen erhalten (siehe Sprechblase mittig).

    Beim Einsatz von Alexa, Google Assistent und Co. scheiden sich die Geister – die einen sind von ihren Anwendungsmöglichkeiten im Smart Home begeistert, die anderen sehen in Sprachassistenten moderne Abhörgeräte. Denn die in Smart Speakern und Smartphones eingebauten Voice Assistants (VA) sammeln Daten über das tägliche Leben der Anwender, einschließlich Interaktionen mit anderen verbundenen Geräten, Musikpräferenzen und unbeabsichtigten Interaktionen. Im häuslichen Bereich werden die Lautsprecher mit den eingebauten Sprachassistenten an schützenswerten Orten aufgestellt, sie sind immer betriebsbereit und können potenziell alle Gespräche mithören – auch die Unterhaltungen von Kindern und des Besuchs. Dabei werden alle Interaktionen mit dem Gerät auf den Cloud-Systemen der Hersteller sowie den Servern von weiteren Diensteanbietern gespeichert. Zwar haben Verbraucherinnen und Verbraucher durch die Datenschutz-Grundverordnung (DSGVO) das Recht, Auskunft über ihre gesammelten Daten zu erhalten, diese zu ändern oder zu löschen. Der dazu notwendige Prozess ist den meisten jedoch nicht bekannt und nicht sofort ersichtlich – zumal die Auskunft, wenn überhaupt, nur eine Sammlung von für Laien unverständlichen Rohdaten zurückliefert. Im Projekt CheckMyVA will ein Forscherteam des Fraunhofer FIT daher die Datensouveränität von Nutzerinnen und Nutzern solcher Helfer stärken und sie dabei unterstützen, ihre Privatsphäre besser zu schützen. Dabei arbeiten die Forschenden eng mit der Universität Siegen und dem Start-up open.INC zusammen. Die Förderung des Vorhabens erfolgt aus Mitteln des Bundesministeriums für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) aufgrund eines Beschlusses des deutschen Bundestages. Die Projektträgerschaft erfolgt über die Bundesanstalt für Landwirtschaft und Ernährung (BLE) im Rahmen des Programms zur Innovationsförderung. Das Projekt fällt in den noch jungen Bereich der Verbraucherinformatik.

    Am Projekt nehmen 33 Haushalte aus ganz Deutschland teil, darunter sowohl Familien als auch Paare und Singles. Knapp drei Jahre lang begleiten die Forscherinnen und Forscher die Teilnehmenden in einem Living Lab, einem experimentellen Lernumfeld, und tauschen sich regelmäßig mit ihnen über die Nutzung von Sprachassistenten und die dabei aufkommenden Bedenken aus. Wie wird der VA – im Fokus stehen Amazon Alexa und Google Assistant – verwendet? Werden Smart Home-Funktionen genutzt? Ist der Sprachassistent permanent im Betrieb oder wird er nur bei Bedarf aktiviert? Verändert sich die Nutzung über den Projektzeitraum? Sind sich die Haushalte bewusst darüber, was mit den Aufnahmen passiert? Welche Praktiken zum Datenschutz wenden die User an? Welche Probleme sind dabei aufgetaucht? All diese Fragen werden diskutiert, um auf dieser Grundlage nutzerzentriert Lösungen zu entwickeln.

    Datenkompetenz durch Datenvisualisierung

    Konkret entsteht eine nach dem Design for All-Prinzip gestaltete Plattform, die Menschen bei der Nutzung ihrer DSGVO-Rechte unterstützt. Mithilfe gängiger Data-Science- und KI-Methoden werden die Daten aufbereitet und nutzerzentriert visualisiert, um Verbraucherinnen und Verbraucher dafür zu sensibilisieren, welche Verhaltensmuster aus den Daten herausgelesen werden und für welche Zwecke diese Informationen durch Dritte genutzt werden können. Zudem sollen sie so ein einfaches Werkzeug erhalten, mit dem sie ihre DSGVO-Rechte umsetzen und einfordern können, beispielsweise Daten löschen zu lassen oder das Einverständnis zur Datennutzung zu widerrufen. »Bei der Plattform handelt es sich um ein Dashboard, das als Plug-in im Browser läuft. Die User haben hier auf unkomplizierte Weise die Möglichkeit, eine Kopie ihrer Daten zu beantragen. Der Link zu Datenschutzeinstellungen ist schnell auffindbar«, sagt Dominik Pins, Projektkoordinator und Wissenschaftler am Fraunhofer FIT, Abteilung Human-Centered Engineering and Design. Das Dashboard visualisiert die Gespräche mit den VAs auf einer Zeitleiste und macht die Transkriptionen transparent. So wird etwa dargestellt, welche Befehle gegeben wurden und wie häufig unbeabsichtigte Befehle ausgeführt wurden. Auch die Antworten des VA sind erkennbar. Zudem bietet das Dashboard Funktionen wie Filterung und Kategorisierung, um mit Daten umzugehen. »Die Nutzer können mithilfe der Plattform ihre Datenspuren reflektieren und somit ihre Datenkompetenz verbessern«, resümiert Pins.

    Das Dashboard für Google Chrome und Mozilla Firefox lässt sich kostenfrei über die jeweiligen Browser-Einstellungen oder die Projektwebseite herunterladen.

    Quelle: © Fraunhofer FIT

  • Mobility – Künstliche Intelligenz steuert Ampelanlage

    Mobility – Künstliche Intelligenz steuert Ampelanlage

    Intelligente Ampelsteuerung durch künstliche Intelligenz

    Die Straßen sind chronisch überfüllt, an den Kreuzungen stauen sich die Fahrzeuge. Vor allem in der Rushhour bilden sich lange Warteschlangen. In den Projekten »KI4LSA« und »KI4PED« realisieren Forschende am Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB, Institutsteil für industrielle Automation INA in Lemgo eine intelligente Ampelsteuerung mithilfe von Künstlicher Intelligenz. Selbstlernende Algorithmen sollen in Kombination mit neuer Sensorik künftig für einen besseren Verkehrsfluss sowie kürzere Wartezeiten sorgen und Fußgängern mehr Sicherheit an Ampelkreuzungen bieten.

    Die trainierten Algorithmen ermitteln das beste Ampel-Schaltverhalten, um den Verkehrsfluss zu optimieren, den durch Staus entstehenden Lärm und die CO2-Belastung zu senken.
    © Fraunhofer IOSB-INADie trainierten Algorithmen ermitteln das beste Ampel-Schaltverhalten, um den Verkehrsfluss zu optimieren, den durch Staus
    entstehenden Lärm und die CO2-Belastung zu senken.
    Im Projekt »KI4PED« stehen nicht die Fahrzeuge, sondern Fußgänger im Fokus. Die Personenerkennung und das Tracking wird auf Basis von LiDAR-Daten mittels KI erzielt.
    © Fraunhofer IOSB-INAIm Projekt »KI4PED« stehen nicht die Fahrzeuge, sondern Fußgänger im Fokus. Die Personenerkennung und das Tracking wird auf Basis von LiDAR-Daten mittels KI erzielt.

    Die Fahrt zur Arbeit und nach Hause kann zur Tortur werden. Im Stop-and-go-Modus rollen die Autos von einer überfüllten Ampelkreuzung zur nächsten, vor allem zu Stoßzeiten ist die grüne Welle eine Utopie. Dies wollen Forscherteams am Institutsteil für industrielle Automation INA des Fraunhofer-Instituts für Optronik, Systemtechnik und Bildauswertung IOSB im Projekt »KI4LSA« ändern. Künstliche Intelligenz soll eine intelligente, vorausschauende Ampelschaltung ermöglichen. Projektpartner sind die Stührenberg GmbH, die Cichon Automatisierungstechnik GmbH, die Stadtwerke Lemgo GmbH sowie die Alte Hansestadt Lemgo (assoziiert) und Straßen.NRW (assoziiert). Das Bundesministerium für Verkehr und digitale Infrastruktur BMVI fördert das Vorhaben, das im Sommer 2022 endet.

    Aktuelle Ampelsteuerungen sind regelbasiert, die starren Regeln passen nicht auf alle Verkehrssituationen. Zudem bilden die vorhandenen Sensoren – in den Asphalt eingelassene Induktionsschleifen – die Verkehrssituation nur grob ab. Diese Probleme adressieren die Forschenden am Fraunhofer IOSB-INA. Anstelle der herkömmlichen Sensoren implementieren sie hochauflösende Kamera- und Radarsensorik, die das Verkehrsgeschehen präziser erfasst. Die Anzahl der wartenden Fahrzeuge an der Kreuzung kann so spurgetreu in Echtzeit aufgenommen werden. Auch die durchschnittliche Geschwindigkeit der Autos und die Wartezeit werden detektiert. Die Echtzeit-Sensorik wird mit Künstlicher Intelligenz kombiniert, die die starren Steuerungsregeln ersetzt. Die KI verwendet Algorithmen des Deep Reinforcement Learning. Diese Methode des maschinellen Lernens konzentriert sich darauf, intelligente Lösungen für komplexe Steuerungsprobleme zu finden. »Wir haben von der Lemgoer Kreuzung, an der unsere Tests stattfinden, ein realitätsgetreues Simulationsmodell gebaut und die KI in diesem Modell unzählige von Iterationen trainieren lassen. Zuvor haben wir das gemessene Verkehrsaufkommen zur Rushhour in das Simulationsmodell übertragen, sodass die KI mit realen Daten arbeiten kann. Das Ergebnis ist ein per Deep Reinforcement Learning trainierter Agent, ein Neuronales Netz, das die Ampelsteuerung darstellt«, erläutert Arthur Müller, Projektleiter und Wissenschaftler am Fraunhofer IOSB-INA den Ansatz des DRL. Die so trainierten Algorithmen ermitteln das beste Ampel-Schaltverhalten und die beste Phasenfolge, um die Wartezeiten an der Kreuzung zu verkürzen, Fahrzeiten zu senken und den durch Staus entstehenden Lärm und die CO2-Belastung zu senken. Die KI-Algorithmen laufen auf einem Edge-Computer im Schaltkasten an der Kreu-zung. Ein Vorteil: Die Algorithmen lassen sich auf Verbundschaltungen testen, anwenden und skalieren, also auf benachbarten Ampeln, die sich in einem Verbund befinden.

    Große Skalierungseffekte

    Um 10 bis 15 Prozent könnte der Verkehrsfluss durch Künstliche Intelligenz verbessert werden. Zu diesem Ergebnis kamen die Simulationsphasen an der überlasteten Lemgoer Kreuzung, die mit intelligenten Ampeln ausgerüstet wurde. Der trainierte Agent wird in den kommenden Monaten für die weitere Evaluation auf die Straße gebracht, sprich ins Reallabor überführt. Auch der Einfluss der Verkehrsmetriken auf Parameter wie Lärmbelästigung und Abgasemissionen wird berücksichtigt. Eine Hürde stellt dabei die unvermeidbare »Simulation-to-reality-gap« dar. »Die Annahmen zum Verkehrsverhalten in der Simulation stimmen nicht 1:1 mit der Realität überein. Dementsprechend muss der Agent angepasst werden«, sagt Müller. »Gelingt dies, ist der Skalierungseffekt enorm, bedenkt man die große Anzahl an Ampeln allein in einer Stadt wie Lemgo.«

    Die EU beziffert den durch Staus verursachten wirtschaftlichen Schaden auf 100 Milliarden Euro jährlich für die Mitgliedsstaaten. KI-Ampeln sind laut Müller eine Möglichkeit, die vorhandene Infrastruktur effizienter zu nutzen. »Weltweit sind wir die ersten, die die Ampelsteuerung per Deep Reinforcement Learning unter realen Bedingungen testen. Wir setzen auf den Vorbildcharakter unseres Projekts«.

    Intelligente Lichtsignalanlagen (LSA) für Fußgänger

    Im Projekt »KI4PED« stehen nicht die Fahrzeuge, sondern Fußgänger im Fokus: Gemeinsam mit der Stührenberg GmbH und den assoziierten Partnern Straßen.NRW, Stadt Lemgo und Stadt Bielefeld entwickelt das Fraunhofer IOSB-INA bis Ende Juli 2022 einen innovativen Ansatz zur bedarfsgerechten Steuerung von Fußgängerampeln. Besonders vulnerable Personen wie Ältere oder Menschen mit Handicap sollen davon profitieren. Ziel ist es, Wartezeiten zu verkürzen und die Sicherheit an Ampelkreuzungen durch längere Überquerungszeiten zu erhöhen. Denn aktuellen Studien zufolge sind die Grünphasen für diese Personengruppen zu kurz. Die derzeit installierten Taster, meist kleine gelbe Kästchen, liefern weder Informationen über die Anzahl noch das Alter oder gar das Gebrechen der Passantinnen und Passanten. Durch die Implementierung von KI in Kombination mit hochauflösenden LiDAR-Sensoren wollen die Projektpartner den Prozess automatisieren und die Überquerungszeiten automatisch an die Bedarfe der jeweiligen Fußgänger anpassen und abstufen. Die Personenerkennung und das Tracking wird auf Basis von LiDAR-Daten mittels KI erzielt und in einem eingebetteten System in Echtzeit umgesetzt.

    »Aus Gründen des Datenschutzes verwenden wir anstelle von kamerabasierten Systemen LiDAR-Sensoren, da sie Fußgänger als 3D-Punktwolken darstellen und diese somit nicht identifiziert werden können«, erklärt Dr. Dennis Sprute, Projektleiter und Wissenschaftler am Fraunhofer IOSB-INA. LiDAR-Sensoren (Light Detection and Ranging) senden Laserstrahlen zur Abstandsmessung aus und detektieren das zurückgestreute Licht. Aus der Laufzeit des Lichts wird die Entfernung zum Objekt, also zur Person, ermittelt. Diese Sensoren sind darüber hinaus robust gegenüber Beleuchtungs-, Spiegelungs- und Witterungseinflüssen. Ihre optimale Positionierung und Ausrichtung an der Ampelkreuzung wird im Rahmen einer Machbarkeitsstudie geprüft. Zudem werden die KI-Algorithmen zunächst an zwei Ampelkreuzungen in Lemgo und Bielefeld eine Woche lang trainiert. Ebenfalls geplant sind Sensortests auf dem Gelände des Fraunhofer IOSB-INA bei verschiedenen simulierten Beleuchtungsbedingungen, um die Erkennungsleistung zu bestimmen.

    Mit einem bedarfs- und situationsgerechten Steuerungskonzept erhoffen sich die Forschungspartner, die Wartezeit bei hohem Personenaufkommen um 30 Prozent und die Anzahl gefährlicher verkehrswidriger Überquerungen um etwa 25 Prozent reduzieren zu können.

    Quelle: Fraunhofer Institut