Prof. Dr. Gunnar Stevens
Viele Menschen sind sich der Sicherheitsrisiken des Internets nicht bewusst. Wie sich insbesondere Jugendliche und ältere Menschen im Alltag vor den Gefahren und vor Datenmissbrauch schützen können, erforscht Prof. Dr. Gunnar Stevens und sein Team in mehreren Projekten.
Prof. Dr. Gunnar Stevens, Bereichsleiter IT-Sicherheit und Verbraucherinformatik beschäftigt sich zusammen mit vielen andere Kolleginnen und Kollegen an der Uni Siegen mit der Frage, wie man Menschen ein Gefühl für die Gefahren im Internet vermittelt und wie man sie medienkompetent macht. Er erforscht unter anderem, wie sich Smart-Speaker und andere Geräte für das intelligente Haus sicherer machen lassen.
Datenschutzrisiken bei Smart-Speakern
Das Problem: In der Regel nutzt man solche Geräte, ohne lange über das Thema Sicherheit nachzudenken. »Tatsächlich aber sammelt ein Smart-Speaker viele Informationen über die Nutzerinnen und Nutzer, ihre Vorlieben und Interessen«, sagt Gunnar Stevens. Zudem schicken die Geräte, wenn sie aktiv sind, Teile von Gesprächen oder Umgebungsgeräusche an die Server der Anbieter. Im Forschungsprojekt checkMyVA hat er solche Aufnahmeschnipsel – etwa Gesprächsfetzen, die während einer Party aufgenommen wurden – analysiert, um herauszufinden, inwieweit sie Informationen über bestimmte Themen oder intime und vertrauliche Inhalte verraten. »Was mit solchen Informationen geschieht, wissen wir im Detail nicht«, sagt Gunnar Stevens. »Das ist wie eine Blackbox.« In einer Studie, die im Projekt checkMyVA durchgeführt wurde, hätten Teilnehmerinnen und Teilnehmer berichtet, dass sie wenige Stunden nach Gesprächen zu bestimmten Themen gezielt Werbung zu entsprechenden Produkten erhalten hätten.
Der Sicherheitsassistent SAM Smart
Im neuen Verbundprojekt SAM-Smart will Gunnar Stevens die User künftig knapp und verständlich über die Risiken aufklären. Denkbar wäre es, entsprechende Infos auf einem Bildschirm, auf dem Handy oder dem Fernseher zum Beispiel mit Grafiken darzustellen und zugleich konkrete Tipps für die Sicherheitseinstellungen zu geben. Daneben soll die Nutzung von Sprachassistenz-Systemen erforscht werden. Das Ziel: Die Nutzerinnen und Nutzer sollen den intelligenten Geräten künftig Fragen zu Sicherheitseinstellungen direkt stellen können.
»Die IT-Sicherheit wurde lange Zeit als rein technisches Problem betrachtet«, sagt Gunnar Stevens. Der Mensch sei ganz ausgeklammert oder schlicht als Gefahrenquelle betrachtet worden – man ging vom »dümmsten anzunehmenden User« aus. »Wir hingegen sehen den Menschen als Teil der Sicherheitsarchitektur. Wir wollen ihn dazu befähigen, zur Sicherheit beizutragen« – beispielsweise indem man Technik entwickelt, die sich selbst erklärt oder indem man die Nutzerinnen und Nutzer aufklärt.
KI für sichere Entscheidungsfindung
Darauf zielt auch das von Stevens initierte EU Marie Skłodowska-Curie Innovative Training Network GECKO (building GrEener and more sustainable soCieties by filling the Knowledge gap in social science and engineering to enable responsible artificial intelligence co-creatiOn) ab, das durch die Kombination von generativen und kognitiven Systemen die Entscheidungsfindung verbessern und Künstliche Intelligenz als hilfreiches Werkzeug für den Menschen etablieren möchte. Es geht dabei nicht nur um technische Innovationen, sondern auch um die Entwicklung von erklärbaren und vertrauenswürdigen KI-Lösungen, die sowohl in der Praxis als auch in komplexen Entscheidungskontexten erfolgreich eingesetzt werden können. Dabei arbeiten die Disziplinen (Sozio-)Informatik, Kognitionswissenschaften, Psychologie und Wirtschaft eng verzahnt miteinander, da nur durch die interdisziplinäre Ausrichtung ein tiefes Verständnis der menschlichen Entscheidungsprozesse entwickelt und KI-Systeme geschaffen werden können, die wirklich einen praktischen Nutzen für die Nutzer bieten.
GECKO untersucht, wie KI-basierte Systeme generative Modelle verwenden können, um Vorschläge oder Szenarien zu generieren, die den Entscheidungsprozess eines Nutzers unterstützen. Dies könnte etwa in Form von Empfehlungen oder alternativen Handlungsoptionen geschehen, die den Entscheidungsraum erweitern und den Nutzerinnen und Nutzern helfen, fundierte Entscheidungen zu treffen.
Ein weiterer Fokus des Projektes ist es, zu verstehen, wie kognitive Prozesse (wie Wahrnehmung, Aufmerksamkeit und Gedächtnis) in Entscheidungsprozesse einfließen und wie diese durch KI-Modelle simuliert werden können. Ziel ist es, ein besseres Verständnis darüber zu gewinnen, wie der Mensch Entscheidungen trifft und wie KI-Systeme diese Entscheidungsprozesse verbessern oder unterstützen können. Ein wichtiger Aspekt von GECKO ist, dass die KI-Modelle erklärbar und transparent gestaltet werden sollen. Das bedeutet, dass die Systeme nicht nur Empfehlungen aussprechen, sondern auch nachvollziehbar machen, wie diese zu ihren Vorschlägen gekommen sind. So sollen Nutzerinnen und Nutzer die Entscheidungshilfen verstehen und selbstständig bewerten können.
GECKO richtet sich auf praktische Anwendungsgebiete, in denen Entscheidungsfindung eine zentrale Rolle spielt. Dies könnte in der Wirtschaft, Medizin, Psychologie oder auch im Alltagsleben der Fall sein, z.B. bei der Unterstützung von Ärztinnen und Ärzten bei der Diagnosefindung, bei Managemententscheidungen oder bei der Auswahl von Dienstleistungen.
Dieser erschien zuerst im Forschungsmagazin Future der Universität Siegen: