Cybersicherheit in Gehirn-Computer-Schnittstellenanwendungen

Halle (Saale) (25.03.2022) –

Wie kann das menschliche Gehirn „unhackbar“ bleiben? Um der Beantwortung dieser Frage näherzukommen, hat die Agentur für Innovation in der Cybersicherheit ein Rahmenwerk beauftragt, das für alle sich in Zukunft ergebenden Anwendungsfälle von Gehirn-Computer-Schnittstellen (Brain-Computer Interfaces, BCI) eine grundlegende Sicherheitsarchitektur bieten soll. Im zu diesem Zweck ausgeschriebenen Wettbewerb setzte sich das Angebot der NeuroMentum AI durch.

Rahmenwerk für Cybersicherheit in Gehirn-Computer-Schnittstellenanwendungen beauftragt

Cyberagentur rechnet in drei Monaten mit ersten Ergebnissen

Mit der NeuroMentum AI GmbH beauftragt die Cyberagentur ein junges Startup, das von Forschenden der Universität Freiburg gegründet wurde und einen Beitrag zum Technologietransfer im Bereich von KI und Neurotechnologie leisten will. Geschäftsführer Dr. Tonio Ball ist einer der international führenden Experten im Bereich der Neurotechnologie und BCI. Er leitet die neuromedizinische KI-Forschungsgruppe am Universitätsklinikum Freiburg und ist im Vorstand des Forschungszentrums BrainLinks-BrainTools der Universität Freiburg. Unterstützt wird er von Dr. Joschka Bödecker im Bereich des maschinellen Lernens. Bödecker leitet das Neurorobotics Lab der Universität Freiburg. Weiterhin zählen zum Team auch Dr. Philipp Köster im Bereich Finanzen und Business Development, sowie Maryna Kapitonova, die den Bereich der Neurowissenschaften und gehirn-inspirierter KI-Methoden abdeckt und das interdisziplinäre Forschungsteam damit komplettiert. Außerdem trägt Dr. Philipp Kellmeyer zu dem Projekt bei. Er ist Facharzt für Neurologie und Leiter des Neuroethics & AI Ethics Lab in Freiburg.

Das Rahmenwerk soll laut dem Projektverantwortlichen der Cyberagentur, Dr. Simon Vogt, im ersten Schritt mehrere Forschungsfragen beantworten: „Es geht vor allem darum, die so genannte Brain Privacy, also die Privatsphäre des Gehirns ganzheitlich zu definieren: Welche Kriterien müssen erfüllt sein, damit die Persönlichkeitsrechte sowie Datensicherheit und Datenintegrität der Nutzer von Gehirn-Computer-Schnittstellen gewahrt bleiben? Wie lässt sich eine dafür nötige umfassende Sicherheitsarchitektur präzise beschreiben? Wie kann an die bereits bestehenden regulatorischen, ethischen und sicherheitstechnologischen Anforderungen angeknüpft werden?“ Das Forscherteam der NeuroMentum AI wird dazu nicht nur untersuchen, wie konventionelle Hacking-Methoden abgewendet werden müssen, sondern auch, welche neuen Einfallstore sich ergeben – und wie diese von vornherein („Privacy by Design“) geschlossen werden können. Es werden innovative Mechanismen erarbeitet, wie ein Nutzer jederzeit die Kontrolle und die volle Transparenz über die ihn unterstützende Neurotechnologie behalten kann.

Die Ergebnisse werden im Juni 2022 erwartet und gemeinsam mit der Cyberagentur publiziert. „Dieses Projekt ist hochinteressant und hat für uns höchste Priorität. Gehirn-Computer-Schnittstellen sind eine echte Zukunftstechnologie – mit großen Chancen, aber auch Risiken. Besonders wichtig ist hierbei, dass diese Initiative der Cyberagentur jetzt vorausschauend und zu einem relativ frühen Zeitpunkt in der Technologieentwicklung erfolgt – so können wir gestalten, anstatt hinterherzulaufen“, sagt der Geschäftsführer von NeuroMentum AI, Dr. Tonio Ball.

Im Anschluss an dieses Projekt plant die Cyberagentur einen europaweiten Innovationswettbewerb, in dem die Entwicklung konkreter technologischer Artefakte für sichere neuronale Mensch-Maschine-Interaktion in den Fokus genommen wird. Das bis Juni entwickelte Rahmenwerk wird dabei als Grundlage dienen.

Hintergrund: Brain-Computer-Interfaces

Die Fragestellung der Cybersicherheit von BCI mag zum jetzigen Zeitpunkt nach Science Fiction klingen – nach Analysen der Cyberagentur aber könnte dies schon sehr bald Science Reality sein: In den vergangenen Dekaden wurden BCI vor allem vor dem Hintergrund klinischer und wissenschaftlicher Anwendungen grundlegend erforscht, insbesondere auch in deutschen Universitäten und Kliniken. Im letzten Jahrzehnt haben sich die Messverfahren zur Erfassung von Gehirnaktivität, die Algorithmen des maschinellen Lernens zur Analyse dieser Messdaten, die Möglichkeiten der Robotik und der Künstlichen Intelligenz, insbesondere basierend auf künstlichen neuronalen Netzen, sowie die neurowissenschaftlichen und medizinischen Erkenntnisse über die Funktionsweise des Gehirns rapide weiterentwickelt. All diese aufgezählten Technologien fließen nun in einen Entwicklungsschub der BCI-Technologie zusammen. Indikatoren sind neben der steigenden Quantität der wissenschaftlichen Publikationen zu diesem Thema auch die zunehmende Zahl neu gegründeter Startups und deren vielfältige Produktentwicklungen bei zugleich fallenden Preisen – Produktentwicklungen, die nicht mehr länger nur auf klinische Anwendungen abzielen, sondern vor allem auf breiten Alltagsgebrauch gesunder Konsumenten.

Noch ist nicht genau vorherzusehen, welche Anwendungsfälle von BCIs sich durchsetzen werden, sicher scheint jedoch, dass deren Bedeutung stetig zunimmt um die Interaktion zwischen Menschen und Maschinen noch direkter zu gestalten. Das menschliche Gehirn ist die höchste und ultimative Instanz der Privatheit und Vertraulichkeit von Informationen. Diese als solche zu bewahren und jeder Person auch die Souveränität über die sie unterstützenden technischen Hilfsmittel zu ermöglichen, ist bei genauerer Betrachtung vor allem: eine Frage der Cybersicherheit.

Vitae der Forschenden im beauftragten Projekt

Tonio Ball ist Geschäftsführer der NeuroMentum AI GmbH. Er ist einer der international führenden Experten im Bereich der Neurotechnologie und Gehirn-Computer Schnittstellen. Tonio Ball studierte Humanmedizin an der Albert-Ludwigs-Universität Freiburg sowie am Hôpital Hôtel Dieu, Paris. Er ist Leiter der neuromedizinischen KI-Forschungsgruppe an der Klinik für Neurochirurgie am Universitätsklinikum Freiburg, Gastprofessor am Institut für Psychiatrie, Psychologie und Neurowissenschaften, King’s College London, Gastwissenschaftler am RIKEN CBS, Wako-shi, Japan, sowie koordiniert im Vorstand des Forschungszentrums BrainLinks-BrainTools an der Universität Freiburg den anwendungsorientierten Forschungsbereich. Er ist Autor von mehr als 60 wissenschaftlichen Publikationen, insbesondere zur neurotechnologischen Anwendung modernster KI-Methoden.

Joschka Bödecker ist Gründungsmitglied der NeuroMentum AI GmbH. Er ist international anerkannter Experte im Bereich des maschinellen Lernens, sowohl in der Grundlagenforschung, als auch für Anwendungen in der Robotik und der Neurotechnologie. Joschka Bödecker studierte Medizinische Informatik in Heilbronn und Heidelberg, Computervisualistik in Koblenz, Artificial Intelligence an der University of Georgia, Athens, USA und Robotik und maschinelles Lernen in Osaka, Japan. An der Albert-Ludwigs-Universität Freiburg leitet er das Neurorobotics Lab und ist Mitglied der Freiburg Unit des European Laboratory for Learning and Intelligent Systems (ELLIS), sowie des Vorstands des Forschungszentrums BrainLinks-BrainTools.

Maryna Kapitonova ist Mitgründerin der NeuroMentum AI GmbH. Sie schloss ihr Studium der Physik an der Taras Shevchenko National University of Kyiv mit Auszeichnung ab. Darüber hinaus studierte sie Neurowissenschaften mit dem Schwerpunkt computational neuroscience an der Albert-Ludwigs-Universität Freiburg. Neben dieser tiefgreifenden naturwissenschaftliche Expertise wird sie in die NeuroMentum AI GmbH ihre langjährige Erfahrung in der Softwareentwicklung sowie im Bereich des Projektmanagements einbringen. Ihre akademischen Interessen umfassen innovative Anwendungen von Gehirn-Computer Schnittstellen, die Interpretierbarkeit von KI Methoden, sowie neueste Entwicklungen im Bereich des neuromorphic computing.

Dr. Kellmeyer ist Facharzt für Neurologie am Universitätsklinikum Freiburg und leitet dort das Neuroethics & AI Ethics Lab an der Klinik für Neurochirurgie. Er studierte Humanmedizin in Heidelberg und Zürich und erhielt einen Master of Philosophy der University of Cambridge (GB). Als Neurowissenschaftler arbeitet er in den Bereichen Neuroimaging (Bildgebung des Gehirns) und translationaler Neurotechnologie, insbesondere der klinischen Anwendung von Gehirn-Computer-Schnittstellen, die Methoden der künstlichen Intelligenz verwenden. Er ist wissenschaftliches Mitglied im Exzellenzcluster BrainLinks-BrainTools an der Universität Freiburg und Research Fellow in der Forschungsgruppe “Verantwortliche Künstliche Intelligenz” am Freiburg Institute for Advanced Studies (FRIAS). In seiner neuroethischen Forschung arbeitet er zu ethischen, rechtlichen, sozialen und politischen Herausforderungen von Neurotechnologien, Big Data und Künstlicher Intelligenz in Medizin und Forschung. Er ist zudem affilierter Mitarbeiter am Institut für Biomedizinische Ethik und Geschichte der Medizin der Universität Zürich, wo er auch biomedizinische Ethik lehrt.

Seit Januar 2020 ist Philipp Köster Leiter der Forschung und Entwicklung des Universitäts-Herzzentrums Freiburg Bad Krozingen als Teil des Universitätsklinikums Freiburg. Seit 2018 ist er auch Head of Business Development in Prof. Tonio Balls Neuromedical Artificial Intelligence Lab am Universitätsklinikum Freiburg. Er ist außerdem Entrepreneurial Coach für Forschungsteams der Universität Freiburg im Auftrag des BMWi. Insgesamt hat er über 13 Mio. Euro für seine eigenen Projekte und die von ihm betreuten Teams eingeworben. Innerhalb der NeuroMentum GmbH kümmert er sich um die unternehmerischen Themen wie Finanzen, Investoren und IP.

Hintergrund: Cyberagentur

Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) wurde im Jahr 2020 als vollständige Inhouse-Gesellschaft des Bundes unter der gemeinsamen Federführung des Bundesministeriums der Verteidigung und des Bundesministeriums des Inneren und für Heimat durch die Bundesregierung mit dem Ziel gegründet, einen im Bereich der Cybersicherheit anwendungsstrategiebezogenen und ressortübergreifenden Blick auf die Innere und Äußere Sicherheit einzunehmen. Vor diesem Hintergrund bezweckt die Arbeit der Cyberagentur maßgeblich eine institutionalisierte Durchführung von hochinnovativen Vorhaben, die mit einem hohen Risiko bezüglich der Zielerreichung behaftet sind, gleichzeitig aber ein sehr hohes Disruptionspotenzial bei Erfolg innehaben können.

Agentur für Innovation in der Cybersicherheit GmbH,
presse@cyberagentur.de