KI Innovation Partnern aus Wirtschaft, Wissenschaft und Politik daran, klare Prüfkriterien für KI-Systeme zu definie- ren. Diese dienen als Basis für die Entwicklung belast- Garantiemethoden. barer Das Ziel: technologische Innovation mit gesellschaftlicher Verantwortung zu vereinen und eine solide Vertrauensbasis für den Ein- satz von KI zu schaffen. Das DFKI treibt das Thema vertrauenswürdige KI be- reits im Schlüsselprojekt MISSION KI und mit der Initia- tive CERTAIN - Center for European Research in Trusted AI voran. MISSION KI baut eine Prüf- und Zertifizierungsstruk- tur für KI-Systeme auf. In Zusammenarbeit mit Partnern wie dem TÜV werden Kriterien für Nachvollziehbarkeit, Ausfallsicherheit und ethische Verantwortung definiert. Damit entsteht eine Grundlage für regulatorische Vorga- ben sowie wirtschaftliche Anwendungssicherheit. CERTAIN entwickelt Methoden und Garantien für vertrauenswürdige, sichere, ethische KI und AI Gover- nance. Als europaweites Dach vereint CERTAIN zugleich Initiativen und Akteure aus der Forschung, Politik, Ver- waltung und Zivilgesellschaft. Das DFKI Darmstadt setzt den Schwerpunkt auf KI- Sicherheit (AI Safety) von großen KI-Modellen wie Sprachmodellen: Mit gezielten Methoden und Frame- works wird erforscht, wie sich unbeabsichtigte Schäden durch KI-Systeme verhindern lassen. Damit werden Grundlagen für robuste und sichere KI-Anwendungen geschaffen. Mit diesen gebündelten Ansätzen leistet das DFKI einen entscheidenden Bei- trag dazu, dass KI-Techno- logien nicht nur leistungs- fähig, sondern auch nach- vollziehbar, sicher und verantwortungsvoll ein- setzbar sind. Sustainable AI – Innovation trifft Nachhaltigkeit Twinned AI und Trusted AI setzen leistungsfähige und stetig wachsende Foundation-Modelle voraus, was zwangsläufig mit einem steigenden Energiebedarf ein- hergeht. Sustainable AI widmet sich der Frage, wie KI- Systeme ressourceneffizienter werden und zur nachhal- tigen Wirtschaftsentwicklung beitragen können. Um KI mit ökologischen und sozialen Zielen in Ein- klang zu bringen, fehlen den Unternehmen standardi- sierte Werkzeuge, die die Auswirkungen der Technolo- gie messbar und transparent machen. Das DFKI stellt sich dieser Aufgabe und setzt sich mit dem Kompetenzzentrum DFKI4Planet für nachhaltige KI-Lösungen ein. Dabei geht es nicht nur um nachhaltige Anwendungen, sondern auch um die Nachhaltigkeit von KI selbst. KI soll messbar, fair und ressourcenschonend sein. Dafür entwickelt das DFKI Werkzeuge, die Energie- verbrauch, Emissionen und Ressourcenverbrauch von KI-Technologien bewerten und stellt Entscheidungs- hilfen bereit, die Unternehmen dabei unterstützen, KI nachhaltig und effizient einzusetzen. Wer nachhaltige KI-Lösun- gen einsetzt, spart Kosten, erfüllt gesetzliche Vorga- ben und positioniert sich als Vorreiter für verantwor- tungsvolle Technologien. Nachhaltigkeit wird so zum Innovationstreiber – und sichert langfristig Wettbewerbs- und Zukunftsfähigkeit. Ganzheitliche KI-Entwicklung durch vernetzte Innovationsfelder Die enge Verknüpfung der drei Innovationsfelder Twin- ned AI, Trusted AI und Sustainable AI bieten einen um- fassenden Ansatz zur Weiterentwicklung der Künstli- chen Intelligenz. Die Verbindung von physischer Integ- ration, Vertrauenswürdigkeit und Nachhaltigkeit schafft nicht nur technologische Mehrwerte, sondern ermög- licht auch die verantwortungsbewusste Gestaltung zu- künftiger KI-Systeme zum Nutzen der Gesellschaft. 5