Gehirn-inspirierte Nutzung effizienter Shortcuts in der Künstlichen Intelligenz (BRAINS) – Teilprojekt Validierung der Hypothese zum Gewohnheitslernen

In enger Zusammenarbeit zwischen der TU Chemnitz (TUC) und der OVGU Magdeburg verfolgen wir das Ziel, eine Lösung für die Rechen- und Energieeffizienz in großen modularen neuronalen Transformer-Netzen zu finden, inspiriert von der bemerkenswerten Fähigkeit des Gehirns zum Erlernen von Gewohnheiten. Obwohl die zugrunde liegenden Mechanismen der Gewohnheitsbildung und -ausführung nach wie vor umstritten sind, schlagen wir vor, dass gewohnheitsmäßige Handlungen durch trainierte Abkürzungsverbindungen (Shortcuts) zwischen Kortex und Basalganglienschleifen entstehen, die Handlungen automatisieren und den Rechenaufwand verringern. Zum Nachweis dieser Hypothese setzen wir auf einen innovativen, modellbasierten Ansatz zur Re-Analyse vorhandener Gehirnscans. Dieser Teil der Arbeit wird von der OVGU geleitet und stützt sich auf das umfassende neuroinformatische Modellierungswissen der TUC. Die gemeinsame Arbeit wird uns beim Entwurf und der Implementierung von Shortcut-ähnlichen Konzepten in neuronalen Transformer-Netzen als Teil eines NeuroAI-Modells des Verstärkungslernens leiten, das von der TUC entwickelt wird. Wir gehen davon aus, dass diese Shortcut-ähnlichen Konzepte die Bearbeitung routinierter Aufgaben mit deutlich geringerem Rechenaufwand ermöglichen und dadurch den Energieverbrauch erheblich senken, ohne die Flexibilität einzuschränken. Das entwickelte Transformer-basierte NeuroAI-Modell wird hinsichtlich Leistung und Energieverbrauch anhand etablierter ML-Benchmarks getestet und mit der kognitiven Flexibilität von Menschen verglichen, die eine Navigationsaufgabe in der virtuellen Realität durchführen. Zusammenfassend überträgt unsere enge Zusammenarbeit Konzepte aus der Neurowissenschaft der Gewohnheiten auf das Design neuartiger modularer NeuroAI-Modelle.

Brain-inspired Resourcefulness in Artificial Intelligence by leveraging Neurocomputational Shortcuts (BRAINS) – Subproject: Validation of the hypothesis on habit learning

In a close collaboration between the TU Chemnitz (TUC) and OVGU Magdeburg we aim to provide a solution for computational and energy efficiency in large-scale modular transformer neural networks, inspired by the brain’s remarkable capacity for habit learning. While the mechanisms underlying habit learning and expression remain debated, we propose that habitual responses arise through trained shortcut connections between cortex – basal ganglia loops, automating responses and reducing computational demand. To provide proof of concept for this hypothesis we will take an innovative, model-based approach to re-analyzing existing brain scans spearheaded by the OVGU, which strongly builds on the extensive neurocomputational modelling expertise of TUC. This joint effort will guide us in the design and implementation of shortcut-like concepts in Transformer neural networks as part of a NeuroAI model of reinforcement learning that will be developed by TUC. We expect those shortcut-like concepts to be beneficial in computing routine tasks with much less computational effort and thus, to significantly reduce energy consumption, while preserving flexibility. The Transformer-based NeuroAI model will be benchmarked with respect to performance and energy consumption on standard ML-benchmarks, and compared with cognitive flexibility in humans performing a virtual reality navigation task. Concluding, our collaboration transfers ideas from the neuroscience of habits to the design of new modular NeuroAI models.