DFKI AI Next 2 deutsch

Über uns KI für den Menschen – Intelligente Lösungen für die Wissensgesellschaft Das DFKI forscht seit über 35 Jahren an KI für den Menschen und orientiert sich an gesellschaftlicher Relevanz und wissenschaftlicher Exzellenz in den entscheidenden zukunftsorientierten Forschungs- und Anwendungsgebieten der Künstlichen Intelligenz. Die Deutsche Forschungszentrum für Künstliche Intelligenz GmbH (DFKI) wurde 1988 als gemeinnützige Public-Private Partnership gegründet. Das DFKI unterhält Standorte in Kaiserslautern, Saarbrücken, Bremen, Niedersachsen (Osnabrück und Oldenburg), Labore in Berlin, Darmstadt und Lübeck sowie eine Außenstelle in Trier. In 27 Forschungsbereichen, zehn Kompetenzzentren und acht Living Labs werden ausgehend von anwendungsorientierter Grundlagen- forschung Produktfunktionen, Prototypen und patentfähige Lösungen im Bereich der Informations- und Kommunikationstechnologie ent- wickelt. Die Finanzierung erfolgt über Zuwendungen öffentlicher För- dermittelgeber sowie durch Entwicklungsaufträge aus der Industrie. Projektergebnisse und Meilensteine werden periodisch institutionell und durch ein international besetztes Expertengremium (Wissen- schaftlicher Beirat) begutachtet. Neben dem Bundesministerium für Bildung und Forschung und den Bundesländern Rheinland-Pfalz, Saarland, Bremen und Niedersachsen sind im DFKI-Aufsichtsrat zahlreiche namhafte deutsche und internationale Hochtechnologie- Unternehmen aus einem breiten Branchenspektrum vertreten. www.dfki.de

Editorial Vertrauenswürdige KI für die Wirtschaft Die EU-Verordnung zur Regulierung Künstlicher Intelligenz ist am 1. August 2024 in Kraft getreten, wobei es für betroffene Unternehmen und Organisationen unterschiedliche Übergangs- fristen gibt. Beim AI Act verfolgt die Europäische Union einen risikobasierten Ansatz: Anwendungen, die erhebliche Auswir- kungen auf Gesundheit, Sicherheit oder Grundrechte haben, werden als Hochrisikosysteme eingestuft. Um in kritischen Infrastrukturen, in der Finanzbranche oder im Gesundheits- wesen eingesetzt werden zu können, müssen solche Systeme vertrauenswürdig sein und strenge Anforderungen erfüllen an Transparenz, Korrektheit, Erklärbarkeit, technisch-inhaltliche Robustheit, menschliche Kontrolle und Datenschutz. Für Anbieter und kommerzielle Nutzer bedeutet dies, dass jede Hochrisiko-KI-Anwendung vor ihrem Einsatz einer Prüfung unterzogen wird. Es muss nachvollziehbar sein, wie ein System funktioniert und wie es Entscheidungen trifft (Transparenz und Erklärbarkeit). Im operativen Einsatz müssen KI-Systeme technisch stabil, fehlertolerant und vor Manipulation geschützt sein (Robustheit und Sicherheit). In sensiblen Bereichen dürfen keine vollständig autonomen Entscheidungen ohne mensch- liche Kontrolle getroffen werden. Der aktuelle Stand der Technologie erfüllt diese Anforderun- gen nur begrenzt. Insbesondere große Sprachmodelle sind intransparent und deshalb schwer nachvollziehbar. An dieser Stelle kommt der Forschung eine zentrale Bedeutung zu, da sie vertrauenswürdige KI entscheidend vorantreibt. Forschungsini- tiativen konzentrieren sich auf die Entwicklung von Garantien für Algorithmen und Verfahren, sodass KI-Anwendungen auch in unsicheren oder unvorhersehbaren Umgebungen sicher funktionieren und fair entscheiden. Forschung ist der Schlüssel für vertrauenswürdige KI. Sie kann das Wissen und die Instrumente bereitstellen, um KI-Systeme robust, fair und transparent zu gestalten. Sie ermöglicht es der Industrie, KI sicher und verantwortungsvoll einzusetzen, Innovationen voranzutreiben und gleichzeitig regulatorischen, ethischen und gesellschaftlichen Anforderungen gerecht zu werden. Dies eröffnet neue Geschäftschancen, mindert Risiken und schafft Vertrauen. 3 Prof. Dr. Antonio Krüger CEO

Vertrauenswürdige KI Potenziale vertrauens- würdiger Sprachtechno- logie für die europäische Wirtschaft Unternehmen aller Branchen stehen vor der Herausforderung, KI-Anwen- dungen zu implementieren, ohne die genauen Folgen der politischen Regulierung durch den EU AI Act zu kennen. Nur im gemeinsamen Dialog können Wissenschaft, Wirtschaft und Politik verlässliche Standards für Unternehmen Innovationsanreize schaffen. Autor: Prof. Dr. Antonio Krüger Innovative KI-Verfahren sind von hoher Relevanz für die Wertschöpfung in verschiedenen Branchen und für Anforderungen an vertrauenswürdige KI Vertrauen ist vor allem dann erforderlich, wenn die Ri- Unternehmen unterschiedlicher Größe. Ganz gleich, ob siken zunehmen: Der europäische Ansatz für vertrau- wir neue KI-Technologien im Gesundheitswesen, in der enswürdige KI unterscheidet verschiedene Stufen der Energieversorgung oder im Verkehrswesen einsetzen: Kritikalität von KI-Anwendungen. So müssen KI-Sys- Mit der zunehmenden Verbreitung von KI wächst auch teme, die innerhalb der Europäischen Union entwickelt das Bewusstsein, dass diese Systeme vertrauenswür- oder eingesetzt werden, je nach Risikoeinstufung unter- dig sein müssen, damit sie auch in missionskritischen schiedliche Anforderungen erfüllen. Entscheidungen eingesetzt werden können. Doch die Um die Vertrauenswürdigkeit von KI-Systemen zu ver- Schlussfolgerungen der Systeme sind teilweise schwer bessern, sollten Aspekte wie Robustheit, algorithmische nachvollziehbar, die Datenbasis unbekannt und die Al- Fairness, Erklärbarkeit und Transparenz berücksichtigt gorithmen intransparent. Für marktfähige Lösungen und werden. Darüber hinaus muss die Vertrauenswürdigkeit vor dem Hintergrund der politischen Regulierung durch während des gesamten Lebenszyklus eines KI-Systems den EU AI Act müssen belastbare Kriterien und Anfor- systematisch ermittelt und bewertet werden. derungen für vertrauenswürdige KI entwickelt werden. Unternehmen brauchen praktische Werkzeuge und Stan- dards sowie Prüf- und Zertiﬁzierungsverfahren, mit denen sie den technologischen Anforderungen an vertrauens- DFKI forscht zu Vertrauenswürdigkeit großer Sprachmodelle Die verschiedenen Anforderungen an vertrauenswür- würdige KI-Anwendungen gerecht werden können. dige KI lassen sich gut im Bereich der KI-basierten 4

Vertrauenswürdige KI Sprachtechnologie verdeutlichen. Large Language Mo- erfordern den direkten Zugang zu Sprachmodellen und dels (LLMs) haben ein disruptives Potenzial und sprach- zu den Daten, mit denen sie trainiert wurden. Zu diesem basierte KI-Werkzeuge wie GPT-4 sind mittlerweile Zweck engagiert sich das akademische, gemeinnützige im privaten und öffentlichen Bereich allgegenwärtig. Forschungskollektiv Occiglot für eine offene, transpa- Oftmals erfüllen sie die Anforderungen an die Vertrau- rente und vollständig dokumentierte Wissenschaft und enswürdigkeit nur in geringem Maße, was ihre Einsetz- damit für die Entwicklung von Open Source LLMs. barkeit in Anwendungsszenarien mit hohem Sicher- heitsbedarf (wie Medizin oder Rechtsprechung) stark einschränkt. Das liegt daran, dass Parameter, Trainingsdaten, Trai- Innovationshemmnisse durch Regulierung abbauen Die Europäische Union arbeitet bereits an Standards, ningsmethoden und Inferenzeinstellungen oft nicht um den AI Act als europäisches Recht umzusetzen und zugänglich sind. Diese und weitere offene Fragen im die Anwendung in der Praxis zu konkretisieren. Damit Bereich der Grundlagenforschung zur Vertrauenswür- Unternehmen in Europa die Potenziale innovativer KI- digkeit großer Sprachmodelle werden derzeit am DFKI basierter Sprachtechnologien voll ausschöpfen können, erforscht: Das DFKI Speech and Language Technology müssen aus den Konzepten für die technischen und Lab in Berlin erarbeitet verlässliche Evaluationskrite- ethischen Anforderungen an vertrauenswürdige Sys- rien für vertrauenswürdige KI-basierte Sprachtechno- teme überprüfbare Standards und belastbare Testver- logie. Diese beziehen sich unter anderem auf Robust- fahren abgeleitet werden. Langfristig könnten höhere heit und Zuverlässigkeit und gehen beispielsweise der Sicherheitsanforderungen zur breiteren Akzeptanz bei Frage nach, wie die Performanz von Sprachmodellen in den Anwendern und mehr Klarheit bei Investitions- speziﬁschen Domänen, Anwendungen oder auch über entscheidungen für Unternehmen führen. Im besten Sprachgrenzen hinweg gemessen werden kann. Auch im Fall sollten innovative Entwicklung, rechtliche Ausge- Hinblick auf Transparenz und Erklärbarkeit muss u. a. staltung und technische Umsetzung reibungslos syn- weiter erforscht werden, wie Wissen in großen Sprach- chronisiert werden. Dazu bedarf es eines lebendigen modellen lokalisiert und wie bestimmtes Modellverhal- Dialogs zwischen Wirtschaft, Wissenschaft und Politik. ten einzelnen Modellkomponenten zugeordnet werden kann. Im Rahmen des Centre for European Research on Trusted AI (CERTAIN) untersuchen Forscherinnen und Forscher am DFKI derzeit mit Methoden der mechanis- Ernährungssicherheit Wirtschaftliche Folgen tischen Interpretierbarkeit, ob LLMs komplexe Regeln lernen oder nur Fakten abrufen können. Klimaschutz Im Projekt OpenGPT-X entwickelt das DFKI verschie- dene Ansätze, darunter auch Open-Science-Konzepte. Der offene Ansatz ist ein möglicher Weg zur Entwicklung einer sichereren und vertrauenswürdigeren KI und för- dert zudem die Beteiligung aller an der Gestaltung der Zukunft dieser Technologie. In diesem Sinne verfolgt auch die vom DFKI ins Leben gerufene Forschungsinitia- tive Occiglot das Ziel einer digitalen Sprachgerechtigkeit in Europa. Hochwertige Grundlagenforschung und wirt- schaftlich verwertbare technologische Anwendungen 5 Energiewende Ressourcenschonung Maschinelles Lernen Sprachtechnologie Robotik Demografie Wissen Industrie 4.0 Mobilität Digitale Souveränität

Interview Trusted AI – Vertrauens- würdigkeit und große Sprachmodelle Interview mit Dr. André Meyer-Vitali und Dr. Simon Ostermann ChatGPT, LLaMA oder Mistral liefern erstaunliches Fach- wissen und ganz offensicht- lich falsche Antworten. Was ist der Grund für diese Unzuverlässigkeit? Dr. André Meyer-Vitali forscht zu hybrider und verteilter Meyer-Vitali: Generative Pretrained und so eine Verwendung insbeson- Transformer sind große, hochgradig dere auch in kritischen Anwendun- vernetzte Modelle, dadurch opak gen ermöglicht. und nur schwer kontrollierbar. Die zugrunde liegende Technologie Trusted AI ist gekennzeichnet durch – Deep Learning – baut kein wirkli- ein hohes Maß an Zuverlässigkeit, ches Verständnis des Problems auf, Sicherheit, Transparenz, Robust- sondern bildet lediglich komplexe heit, Fairness und Veriﬁzierbarkeit, statistische Zusammenhänge ab. wobei die Funktionalität bestehen- der Systeme keineswegs beein- Ostermann: Das liegt nicht nur trächtigt, sondern sogar verbessert daran, dass die Technologie eine werden soll. Entwickler, Benutzer Black Box ist. Viele Anbieter stellen und Regulatoren sollen auf die den Quellcode ihrer Systeme nicht Leistung und Zuverlässigkeit auch zur Verfügung. Ohne Einblick in in komplexen sozio-technischen Parameter, Trainingsdaten, Trai- Systemen vertrauen können. ningsmethoden und Inferenz- einstellungen ist es schwierig nachzuvollziehen, wie diese Modelle zu ihren Ergebnissen gelangen. Brauchen wir einen techno- logischen Neustart? Meyer-Vitali: Nicht ganz, aber die Grundlage für eine neue Genera- Wie kann erreicht werden, dass Generative KI vertrau- enswürdiger wird? Meyer-Vitali: Unter dem Begriff tion von KI-Systemen werden eher hybride Systeme sein, die sich nicht nur auf datengetriebene Ansätze stützen, sondern das gesamte Künstlicher Intelligenz. Er „Trusted AI“ wird ein neuer Ge- Spektrum von KI-Techniken nutzen, ist Principal Investigator am samtansatz für zuverlässige Syste- einschließlich symbolischer KI-Me- CERTAIN-Zentrum für Euro- me vorangetrieben. Das Ziel ist eine thoden, Suche, Argumentation und päische Forschung zu Ver- neue KI-Generation, die Garantien Planung. trauenswürdiger KI. über ihre Funktionalität bereitstellt 6

Interview Lässt sich damit auch ver- hindern, dass Sprachmodelle manipulierte Antworten geben? Ostermann: Ein besonderes Augen- Was ist von hybriden KI- Systemen zu erwarten? Meyer-Vitali: Der Einsatz neuro- Bereichen wie Medizin oder Recht- merk unserer Arbeit liegt auf dem sprechung deterministische und Schutz vor Manipulation durch angemessene Entscheidungen Prompt-Injektionen: Wie kann symbolischer Modelle könnte treffen können. Am CERTAIN verhindert werden, dass Dritte die Validierung erleichtern, mehr Centre for European Research die Ausgabe eines Sprachmodells Transparenz schaffen und eine on Trusted AI untersuchen wir durch „Zwischenprompts“ verfäl- stärkere Rechenschaftspflicht derzeit, ob LLMs in der Lage sind, schen? Die Forschenden setzen hier fördern, während kausale Modelle komplexe Regeln zu lernen, oder auf den Einsatz konkreter Beispiele verständliche Erklärungen und ob sie nur Fakten wiedergeben und untersuchen, wie solche sorg- Einblicke in die Entscheidungs- können. Dabei verwenden wir die fältig ausgewählten Beispiele dabei prozesse der KI bieten. Durch die mechanistische Interpretierbar- helfen können, die Grenzen eines Kombination von Machine Learning keit, einen neuen Ansatz zum Modells aufzuzeigen. mit symbolischem Schlussfolgern Verständnis neuronaler Netze. und der expliziten Repräsentation Ziel ist es, die Fähigkeiten dieser von Wissen in hybriden KI-Sys- Modelle durch „Reverse Enginee- temen wird „Trust by Design“ er- ring“ besser zu verstehen und das möglicht. Semantische oder andere menschliche Verständnis ihrer explizite Modelle können Wissen Funktionsweise zu vertiefen. darstellen, das dann nicht mehr maschinell gelernt werden muss. Außerdem können sie den Lernpro- zess in die richtige Richtung steu- ern, wodurch das Generalisieren, die Robustheit und die Interpretier- barkeit verbessert werden. Dieser Hilft das Konzept der mechanistischen Interpre- tierbarkeit auch bei der Beherrschung des Bias-Pro- blems bei KI-Systemen? Ostermann: Wissenschaftliche Stu- hybride Ansatz wird gerne auch als dien konnten zeigen, dass sexisti- dritte Welle der KI bezeichnet sches Verhalten auf speziﬁsche Mo- („3rd Wave of AI“). dellkomponenten zurückzuführen Welchen Forschungsfragen für zuverlässige LLMs geht die Sprachtechnologie zur- zeit nach? Ostermann: Für uns steht die Frage ist, die deaktiviert werden können, Dr. Simon Ostermann ist Compu- um solche Reaktionen zu unter- terlinguist und forscht zu trans- drücken. Wir wollen herausﬁnden, parenten und robusten Sprach- wie sich Wissen in großen Sprach- modellen. Am DFKI ist er Senior modellen lokalisieren lässt und wie Researcher im Forschungsbereich bestimmtes Verhalten auf einzelne Sprachtechnologie und Multilin- im Fokus, wie Sprachmodelle ins- Modellkomponenten zurückgeführt gualität sowie Co-Leiter des Kom- besondere in sicherheitskritischen werden kann. petenzzentrums Generative KI. 7

Mission KI Qualitäts- und Prüf- techniken für Vertrauens- würdigkeit in medizinische KI-Systeme Autoren: Ludger van Elst und Adriano Lucieri « Die Ansiedlung des Innovations- und Quali- tätszentrums am DFKI ermöglicht es uns, vor- gehen. Um diese Situation zu ver- bessern, sind zwei Fragen grund- legend: Wie können Anbieter be- handene Strukturen zu nutzen und über die reits bei der Entwicklung eine hohe breite Kompetenz unserer Forschungsbereiche Qualität und Vertrauenswürdigkeit sowie die weitreichenden Netzwerke im Bereich ihrer KI-basierten Systeme sicher- vertrauenswürdiger KI wertvolle Synergien zu stellen? Und umgekehrt: Wie kön- schaffen. Als Forschungspartner von Unterneh- nen Nutzerinnen und Nutzer mög- men verschiedenster Branchen wissen wir um lichst einfach erkennen, welchen die besonderen Herausforderungen hinsichtlich Systemen auf dem Markt sie tat- Sicherheit, Zuverlässigkeit und ethische Ver- sächlich in dem für sie notwendi- tretbarkeit, die mit der Entwicklung von markt- gen Maße vertrauen können? fähigen KI-Anwendungen einhergehen. Mit dem Ein wichtiger Baustein für eine fun- Innovations- und Qualitätszentrum möchten wir dierte Einschätzung der Vertrau- deshalb eine Anlaufstelle für alle Unternehmen enswürdigkeit von KI-Komponen- schaffen, um diesen Zugang zu KI-Spitzenfor- schung zu bieten. » ten und -Systemen kann die Ent- wicklung transparenter und ein- heitlicher freiwilliger Qualitäts- und Prüfstandards sein, die im Einklang mit europäischen Werten stehen Mangelnde Vertrauenswürdigkeit und der technischen Komplexität und den Anforderungen des EU AI ist nicht nur ein großer Risikofak- mit einem hohen wirtschaftlichen Act entsprechen. tor bei der Anwendung von KI- Risiko verbunden. Nutzerinnen und Im Projekt TrustifAI entwickelt das Systemen, sondern stellt auch ein Nutzer können die Qualität der Er- DFKI am Standort Kaiserslautern mögliches Hemmnis für deren Ver- gebnisse oft kaum überprüfen, speziﬁsche Qualitätskriterien so- breitung und Erfolg dar. Für Unter- sodass sie die neuen Technologien wie Prüfverfahren und -methoden, nehmen ist die Investition in KI- unter Umständen nur zögerlich ak- um die Einhaltung eines festgeleg- basierte Anwendungstechnologien zeptieren oder aber schwer ein- ten Mindeststandards sicherzustel- aufgrund unsicherer Marktchancen schätzbare Sicherheitsrisiken ein- len. Dieser Standard zielt darauf 8

Mission KI und praktischer Anwendung vor- antreibt. Das Zentrum in Kaisers- lautern dient hauptsächlich kleinen und mittleren Unternehmen sowie potenziellen Gründern als zentra- ab, die Vertrauenswürdigkeit der KI medizinischer Videodaten. le Anlaufstelle für alle Fragen rund zu gewährleisten und umfasst unter Die Forschung im Projekt TrustifAI um vertrauenswürdige KI. Es bie- anderem die Bereiche Transparenz, ist Teil von MISSION KI, einer Initia- tet ein umfassendes Programm so- Fairness, Datenschutz, Robustheit tive zur Förderung künstlicher In- wie Beratungsleistungen, die den und Cybersicherheit. Dabei wird das telligenz in Deutschland. Die Initia- Wissenstransfer im Bereich ver- Prinzip „Trust by Design“ verfolgt: tive wird vom Bundesministerium trauenswürdiger KI und KI-Prüfung Qualitätssicherungsverfahren wer- für Digitales und Verkehr mit einem gezielt fördern. Durch regelmäßige den frühzeitig in den Entwicklungs- Gesamtbudget von 32 Millionen Vorträge, praxisnahe Workshops prozess von Software integriert. Euro gefördert und durch acatech – und branchenübergreifende Netz- Zur Sicherstellung der Praxistaug- Deutsche Akademie der Technik- werkveranstaltungen wird zugleich lichkeit werden Prüfmethoden zur wissenschaften – koordiniert. Sie der Aufbau einer starken, regiona- Messung der Vertrauenswürdigkeit schafft eine Plattform für die Zu- len KI-Community vorangetrieben, erarbeitet. Die Validierung erfolgt sammenarbeit führender Organisa- die den Innovationsstandort nach- anhand von fünf ausgewählten An- tionen aus den Bereichen Testen, haltig stärkt. Das Zentrum ist dabei wendungsfällen aus den Bereichen Standardisierung und Wissenschaft. nicht auf den medizinischen Bereich Medizin und Gesundheitswesen und Das IQZ Kaiserslautern ist das erste beschränkt, sondern steht Inno- wird in speziell entwickelten Test- von zwei durch MISSION KI ge- vatoren aus allen Branchen offen. umgebungen durchgeführt. planten Zentren, mit denen die Bun- Ein zweites Zentrum soll durch Dass sich die Arbeiten des DFKI zu- desregierung den Einsatz von ver- die MISSION KI-Initiative des Bun- nächst auf den Einsatz von KI im trauenswürdiger KI an der Schnitt- desdigitalministeriums und acatech Gesundheitswesen konzentrieren, stelle zwischen Spitzenforschung bis Jahresende in Berlin entstehen. liegt auch an der starken Präsenz von Unternehmen und Forschungs- einrichtungen aus Medizin, Pharma und Biotechnologie in Rheinland- Pfalz. Zu den Anwendungsfällen, die im Rahmen von TrustifAI untersucht werden, gehören die Erkennung von Hautkrebs anhand dermatoskopi- scher Bilder, die Entscheidungsun- terstützung bei der Behandlung von Tumoren, die Unterstützung bei der Bedarfsprognose und -planung im Rettungsdienst, die Verbesserung von Behandlungsplänen für psychi- atrische Patienten sowie die Erken- nung potenzieller Probleme bei der präoperativen Intubation anhand « Um Vertrauen in neuartige An- wendungen zu schaffen, muss KI- Qualität von Beginn der Entwick- lung an mitgedacht werden. Daher freuen wir uns darauf, gemeinsam systematisch an Methoden zur Qua- litätsverbesserung von KI-Anwen- dungen zu arbeiten und entspre- chende Prüfkriterien zu etablieren, die perspektivisch auch Sektoren außerhalb des Gesundheitsbereichs zugutekommen sollen. » 9

Mehr zum Thema Occiglot: Open-Source-Sprach- modelle aus Europa für Europa Autoren: Prof. Dr. Georg Rehm, Dr. Patrick Schramowski Die jüngsten Fortschritte bei großen Sprachmodellen mit hohem Aufwand und technischen Hürden verbun- (LLMs) zeigen das disruptive Potenzial dieser Techno- den. Deshalb nutzt Occiglot vortrainierte, offen verfüg- logie. Hohe Entwicklungs- und Trainingskosten sowie bare Modelle wie die von META (LLaMA) oder MistralAI, Fachkenntnisse führen jedoch dazu, dass das Feld obwohl die verwendeten Daten nicht dokumentiert von wenigen großen Tech-Unternehmen und Deep- und somit schwer nachvollziehbar sind. Die mangelnde Tech-Startups dominiert wird. Diese stellen zentrale Transparenz erschwert es jedoch, Arbeiten zu reprodu- europäische Werte wie sprachliche Vielfalt und kultu- zieren oder darauf aufzubauen. rellen Reichtum zugunsten wirtschaftlich motivierter Entscheidungen oft in den Hintergrund. Occiglot schließt diese Lücke, indem es robuste, Die maßgeblich vom DFKI vorangetriebene For- mehrsprachige Datensätze kuratiert und transparent schungsinitiative Occiglot betont die Bedeutung de- dizierter Sprachmodellie - rungslösungen, um Euro- pas digitale Souveräni- tät und Wettbewerbsfä- higkeit im Bereich der KI zu bereitstellt. Die Daten- sammlung umfasst be- reits etwa 230 Millionen bereinigte Dokumente in zehn Sprachen und basiert auf bestehenden Arbeiten sowie kuratierten Daten- sichern. Dies ist entscheidend für das Ziel der digita- sätzen. Alle Dokumente wurden mit speziellen Filter- len Sprachgerechtigkeit in Europa, das von Projekten methoden bearbeitet, was zu einem deutschsprachigen wie European Language Equality (ELE) und dem Euro- Datensatz von über 60 Milliarden Tokens geführt hat. päischen Parlament angestrebt wird. Hochwertige For- Diese Daten werden öffentlich zugänglich gemacht, schung und wirtschaftlich relevante Technologien erfor- ebenso wie die daraus resultierenden Sprachmodelle, dern dabei offenen Zugang zu Sprachmodellen und den die mit Partnern wie HessianAI vortrainiert werden. zugrundeliegenden Trainingsdaten. Als gemeinnütziges Forschungskollektiv setzt sich Occiglot für Open Sci- ence und die Entwicklung von Open-Source-LLMs ein. Aktuelle Forschung Das DFKI arbeitet derzeit in mehreren Forschungsbe- reichen an großen Sprachmodellen, darunter das vom Open Data – Occiglot Fineweb Zwei große Herausforderungen bei der Entwicklung Bundesministerium für Wirtschaft und Klimaschutz ge- förderte Projekt OpenGPT-X. Zum Occiglot-Forschungs- leistungsfähiger LLMs sind der Bedarf an Hochleis- kollektiv gehören neben dem DFKI auch Organisatio- tungsrechenzentren und großen Mengen hochwertiger nen wie HessianAI, die TU Darmstadt, Common Crawl, Sprachdaten. Obwohl in Europa durch das EuroHPC Ontocord.AI, das Barcelona Supercomputing Center so- Joint Undertaking eine Infrastruktur für Hochleistungs- wie die Netzwerke European Language Grid und Euro- rechner geschaffen wird, sind Zugang und Nutzung oft pean Language Equality. 10

Mehr zum Thema Vertrauenswürdige Forschungs- umgebung für sensible personenbezogene Daten Vertrauenswürdigkeit von KI be- tecture (SEMLA) – hat das DFKI an Daten neuronale Netze. In Zukunft zieht sich nicht nur auf die Funk- den Standorten Saarbrücken und soll SEMLA quelloffen zur Verfügung tionsweise und Algorithmik ma- Kaiserslautern aufgebaut. Kern- gestellt werden“, sagt Projektleiter schineller Lernverfahren und großer stück von SEMLA ist die Umsetzung Dr. Jan Alexandersson. Sprachmodellen, sondern auf den sogenannter technischer und orga- Im Gegensatz zu Cloud-Lösungen gesamten Entstehungsprozess von nisatorischer Maßnahmen (TOMs) speichert und verarbeitet SEMLA die KI-Systemen. Dazu gehört auch die für Datenschutz und Datensicher- Daten ausschließlich „on premises“, Verarbeitung von Daten für das Trai- heit, deren Berücksichtigung in da- also am DFKI. Die Forschungsum- ning neuronaler Netze. In der Medi- tensensiblen Forschungsprojekten gebung besteht aus einer Rechen- zin handelt es sich dabei in der Re- gefordert wird. gel um besonders geschützte per- sonenbezogene Daten wie Ultra- schall-, Röntgen-, MRT- oder CT- Bilder. Aber auch Foto-, Video- und Audioaufnahmen von Patientinnen und Patienten, etwa aus der sozialen Interaktion mit dem medizinischen Personal, können zu Trainingsdaten für KI-Systeme werden. Diese wer- den zur Unterstützung von Diagnose und Therapie bei psychiatrischen und psychosomatischen Erkrankun- gen eingesetzt. Damit diese hochsensiblen Daten in KI-Modelle einfließen können, bedarf es vertrauenswürdiger For- schungsumgebungen, die die Ein- Der Zugang zum SEMLab ist mit einem Handvenen-Scanner biometrisch gesichert. infrastruktur (CPU, GPU, Speicher), die in Kaiserslautern betrieben und geschützt wird, sowie einem biome- trisch gesicherten Annotations- und Experimentierlabor in Saarbrücken, dem SEMLab. Die Forschungsinfrastruktur ist so ausgelegt, dass mit Daten der höchsten Sensitivitätsklasse 4 nach dem Klassiﬁkationsschema des Alan Turing Institute und darüber hinaus geforscht werden kann. Zukünftig soll es auch Dritten möglich sein, auf den von SEMLA gehosteten Datensätzen über das Internet Modelle zu berechnen. Dazu wird auch eine Zertiﬁzierung nach ISO 2700X und TISAX sowie haltung der DSGVO und anderer „SEMLA versetzt uns überhaupt erst nach EuroPriSe – dem Europäischen Datenschutzbestimmungen sowie in die Lage, mit höchstsensiblen Datenschutzgütesiegel (EuroPriSe, der Grundsätze guter wissenschaft- Daten zu arbeiten. Wir werten so 2022) – angestrebt. licher Praxis gewährleisten. Eine zunächst Daten aus Medizinprojek- solche Forschungsinfrastruktur ten aus, an denen das DFKI beteiligt – Secure Machine Learning Archi- ist, und trainieren dann auf diesen 11

Lübeck Oldenburg Bremen Berlin Osnabrück DFKI-Standort DFKI-Labor DFKI-Außenstelle Trier Darmstadt Kaiserslautern Saarbrücken Impressum dfki ai next; Ausgabe September | 2024; Herausgeber: Deutsches Forschungszentrum für Künstliche Intelligenz GmbH (DFKI); Trippstadter Str. 122, 67663 Kaiserslautern; Tel.: +49 631 20575 0; E-Mail: news@dfki.de; Redaktion: Heike Leonhard (verantwortlich); Lektorat: Sandra Antakli, Armindo Ribeiro; Layout: Lando Lehmann; Satz: One Vision Design Credits Titelseite: KI-generiertes Bild, Stable Diffusion, Adobe Firefly; Seite 3: DFKI, Jürgen Mai; Seite 4: metamorworks - stock.adobe.com; Seite 5: DFKI; Seite 6: DFKI, Armindo Ribeiro; Seite 7, oben: KI-generiertes Bild, Adobe Stock, unten: privat; Seite 8: DFKI; Seite 9, oben: acatech, unten: DFKI, Jürgen Mai; Seite 10: https://occiglot.eu; Seite 11: DFKI, Jaron Hollax; Seite 12: DFKI.