Seegurke erklärt nachhaltige KI

KI gilt oft als abstrakt oder wird direkt mit Sprachmodellen wie ChatGPT gleichgesetzt. Gerade im Umwelt- und Naturschutz herrscht auch berechtigte Skepsis gegenüber den Umweltauswirkungen von KI. Unser Comic greift diese Bedenken auf und zeigt die komplexen Zusammenhänge zwischen Nachhaltigkeit und KI. Durch künstlerische Wissensvermittlung in Form unseres Comics machen wir diese abstrakten Konzepte greifbar.

Am Beispiel der Seegurke, die bedrohte Seegraswiesen als Lebensraum benötigt, stellen wir die Fragen:

• Können wir KI für Nachhaltigkeit einsetzen?
• Können wir KI selbst nachhaltig entwickeln? Und wenn ja, wie?

Das Comic-Exponat, das Teil der Werkstatteinrichtung ist, lädt zum Dialog ein. Auch das zusätzliche Angebot des Comics als Open Educational Ressource zum nicht kommerziellen Download unterstützt unser Ziel, Menschen mit unterschiedlichen Hintergründen zusammenzubringen und durch die künstlerische Wissensvermittlung einen niedrigschwelligen, offenen Austausch über die nachhaltige Entwicklung von KI anzuregen.

Die KI-Ideenwerkstatt für Umweltschutz ist eine Initiative vom Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) – ähnlich wie die Leuchtturmprojekte „KI für Umwelt, Klima, Natur und Ressourcen“. Die Umsetzung erfolgt durch die Zukunft – Umwelt – Gesellschaft (ZUG) gGmbH. 

Im bereits abgeschlossenen Leuchtturmprojekt SustAIn wurden umfassende Nachhaltigkeitskriterien, Leitfäden und Werkzeuge für die umweltfreundliche Entwicklung von KI-Systemen entwickelt. Aktuell läuft das Projekt "Nachhaltigkeitsindikatoren für digitale Infrastruktur & KI-Anwendungen" (NADIKI), das darauf abzielt, weitere Kriterien zu erarbeiten und für den praktischen Einsatz zu optimieren. Transparenz in konkreten Anwendungen steht auch im Zentrum des Projekts KIRA. Darüber hinaus gibt es spezialisierte Projekte, die sich mit der Verbesserung einzelner Schritte der KI-Entwicklung befassen, etwa der Nutzung von Abwärme aus Rechenzentren (DC2HEAT) oder der Steigerung der Energie- und Ressourceneffizienz von Algorithmen (eki und RESCALE).

Derzeit wird im fachlichen Diskurs noch darüber gestritten, ob KI in den nächsten Jahren zu übermenschlichen Leistungen fähig sein wird oder ob KI auf absehbare Zeit “dümmer” als unsere Haustiere bleiben wird. Eines ist jedoch schon jetzt klar: KI ist bereits fest in den Systemen um uns herum verankert, z.B. in den Algorithmen, die uns neue Inhalte in Musik-, Video- und Social-Media-Anwendungen vorschlagen, der Internetsuche oder der Planung von Routen durch die Stadt. 

Definitionen des Begriffs “Künstliche Intelligenz” gibt es viele. Wir orientieren uns hier an einer eher klassischen Definition, die auf den Fähigkeiten basiert, die wir Menschen gut beherrschen. Dazu zählen z. B. die Wahrnehmung der Umwelt, das Lernen aus Erfahrungen, die Problemlösung sowie die Entscheidungsfindung. KI beschreibt den Versuch, diese Fähigkeiten nachzubilden oder zu simulieren (siehe z.B. im Standardlehrbuch “Artificial Intelligence: A Modern Approach” von Russel und Norvig). Moderne Definitionen, wie sie etwa im AI Act der EU verwendet werden, fokussieren sich auf KI als Systeme, die intelligentes Verhalten zeigen, indem sie ihre Umgebung analysieren und mit einem gewissen Grad an Autonomie agieren, um bestimmte Ziele zu erreichen. Diese breitere Definition soll sicherstellen, dass nicht nur hochentwickelte KI-Technologien, sondern auch einfachere Systeme, die potenziell erhebliche Auswirkungen haben könnten, reguliert werden. Der AI Act will durch diese umfassende Definition sicherstellen, dass KI in verschiedenen Bereichen – von Gesundheit bis Datenschutz – transparent, sicher und ethisch eingesetzt wird. 

Dass KI auch ein nützliches Werkzeug sein kann, um Nachhaltigkeitsziele zu erreichen, zeigen zum Beispiel die Pilotprojekte der KI-Ideenwerkstatt zum Thema Seegras, Erfassung von Biodiversitätsdaten und ToxFox. Verschiedene Analysen zeigen außerdem, wie KI die 17 Nachhaltigkeitsziele der Vereinten Nationen (UN) direkt und indirekt beeinflussen kann.

Neben dem Einsatz von KI für mehr Nachhaltigkeit ist es ebenso entscheidend, dass die KI selbst nachhaltig gestaltet wird. Eine „nachhaltige KI“ berücksichtigt ökologische Integrität und soziale Gerechtigkeit während ihres gesamten Lebenszyklus – von der Planung über das Training und die Modellanpassung bis hin zur Anwendung und Governance.

Zu guter Letzt: Warum diskutieren wir die Herausforderungen der Entwicklung nachhaltiger KI anhand von Seegurken und Seegras? Seegras bindet zum einen große Mengen an CO₂ und trägt damit zum Klimaschutz bei. Zum anderen verbessert Seegras die Wasserqualität, schützt Küsten vor Erosion und dient als Lebensraum für viele marine Arten, was zum Erhalt der Biodiversität beiträgt – eben auch für Seegurken. KI kann dabei helfen, Seegras- und Unterwasserpflanzenbestände zu erfassen, um Maßnahmen zum Erhalt besser koordinieren zu können. Dies kann durch Unterwasserkameras und Sonartechnologie oder durch die Analyse von Fernerkundungsdaten geschehen.

Auch die Macher*innen dieses Comic Exponats haben sich in einem weiteren Comic-Essay mit dem Titel „A Pigeon's Tale“ mit dem Thema “Nachhaltige KI” beschäftigt.

Anfangs richteten sich Debatten zur nachhaltigen KI auf einzelne Aspekte. Ein wichtiger Faktor war die ökologische Nachhaltigkeit in der KI-Entwicklung, auch als „Green AI“ bezeichnet. Dabei geht es darum, den Energieverbrauch und CO₂-Ausstoß zu minimieren, der beim Training und Betrieb von KI-Modellen entsteht. Besonders im Fokus standen ressourcenintensive Modelle wie große Sprachmodelle (Large Language Models, LLMs), bei denen erste Studien zeigten, dass deren Training enorme Mengen an Energie und damit verbunden CO₂-Emissionen verursacht. Zudem wurde untersucht, welche allgemeinen Limitationen diese großen KI-Modelle in Bezug auf ökologische und soziale Nachhaltigkeit haben und wie sie verbessert werden könnten, um umweltfreundlicher und gerechter zu sein. 

Im Comic Exponat stellen wir eine ganzheitliche Sicht auf den KI-Lebenszyklus dar, basierend auf den Ergebnissen des SustAIn-Projekts. Der Leitfaden umfasst eine detaillierte Liste von Nachhaltigkeitskriterien, die in jeder Phase der KI-Entwicklung berücksichtigt werden müssen. Einen ähnlich umfassenden Blick auf die drei Dimensionen der Nachhaltigkeit und die Entwicklungsphasen von KI-Systemen bietet die Sustainable ML Design Pattern Matrix für eine vertiefende Erkundung der Kriterien und zusätzliche Ressourcen. 

Ein konkretes Werkzeug, das bereits in der Planungsphase für Transparenz sorgt, sind sogenannte Model Cards. Diese Dokumentationen bieten eine detaillierte Übersicht über das Modell, dessen Datenquellen, die beabsichtigte Verwendung und mögliche Einschränkungen. Ähnlich dazu gibt es Data Cards, die explizit Informationen über die verwendeten Datensätze bereitstellen und so sicherstellen, dass nicht-repräsentative Datensätze oder andere Probleme bei der Datenerfassung klar benannt werden. Beide Werkzeuge fördern die Transparenz und helfen Entwickler*innen und Nutzer*innen, informierte Entscheidungen über den Einsatz von KI zu treffen.

Beim initialen Training, aber auch der späteren Nutzung von KI-Modellen in Anwendungen, gibt es erhebliche Unterschiede im Energie- und Ressourcenverbrauch. Bereits das Training eines Modells kann einen großen ökologischen Fußabdruck hinterlassen, abhängig von der benötigten Rechenleistung, dem Standort der Rechenzentren und der Effizienz der eingesetzten Hardware. Besonders große Modelle, wie GPT-3, die Grundlage von ChatGPT, haben einen signifikanten CO₂-Ausstoß. Schätzungen zufolge verursachte das Training von GPT-3 etwa 500.000 kg CO₂e – GPT-4 sogar noch deutlich mehr. Demgegenüber liegt der CO₂-Ausstoß spezialisierter Modelle zur Bilderkennung bei nur etwa zehn bis 100 kg CO₂e. Auch in der Nutzung gibt es große Unterschiede. Beispielsweise kann für die Erkennung von Objekten wie Seegras auf Satelliten- oder Kamerabildern ein kleines, spezialisiertes Modell deutlich ressourceneffizienter arbeiten als ein großes, allgemeines Modell. Diese Unterschiede verdeutlichen, dass die Wahl des richtigen Modells entscheidend ist, um sowohl die Effizienz als auch die Nachhaltigkeit zu verbessern.

Ein zentraler Aspekt der nachhaltigen KI-Entwicklung ist Transparenz. Ein etablierter Weg, Transparenz in Software-Entwicklungsprozessen zu schaffen, ist die Nutzung von Open-Source-Prinzipien. Bei KI-Systemen ist dies jedoch komplexer: Was genau bedeutet „Open Source“ in diesem Kontext? Ist nur der Code öffentlich zugänglich, oder auch die zugrunde liegenden Trainingsdaten? Sind die trainierten Gewichte des Modells offen einsehbar? Wie gut ist der Trainingsprozess und die Modellarchitektur dokumentiert?

Egal ob es um KI-Anwendungen für Nachhaltigkeit oder andere Bereiche geht: KI sollte in all ihren Dimensionen nachhaltig umgesetzt werden. Dies erfordert eine kontinuierliche Überprüfung und Verbesserung in allen Phasen des Entwicklungszyklus – von der Planung über das Training und die Implementierung bis hin zur langfristigen Nutzung.

Dr. Julia Schneider (Autorin)

Julia Schneider aka Doc J Snyder ist Comic-Essayistin, promovierte Volkswirtin und ehemalige KI-Beraterin. Ihre vielschichtigen Comic-Essays an der Schnittstelle von Technologie, Kunst und Gesellschaft genießen große Resonanz bei Menschen, Museen und Medien. Zu ihren bisherigen Werken gehören auch drei Comic-Bücher über KI und 2024 die Co-Kreation einer KI-Ausstellung für mehrere internationale Science Center: „KI, was geht?“.

Web: docjsnyder.net

LinkedIn: Dr. Julia Schneider

Instagram: @docjsnyder

Pauline Cremer (Illustratorin)

Pauline Cremer ist freiberufliche Illustratorin und Grafikdesignerin aus Berlin. Ihre Arbeit nähert sich komplexen Themen auf humorvolle und verspielte Weise. Neben digitaler Illustration experimentiert sie gerne mit verschiedenen Drucktechniken wie Linolschnitt. Ihre Illustrationen wurden in der »Berliner Zeitung«, Magazinen wie »Delayed Gratification« und in der Tageszeitung »Der Tagesspiegel« veröffentlicht.

Web: paulinecremer.com

Twitter/X: @CremerPauline

Instagram: @pauline_illustration

Dr. Marcus Voß (Fachliche Begleitung)

Marcus Voß arbeitet bei der KI-Agentur Birds on Mars, wo er für KI und Nachhaltigkeit zuständig ist. Er ist aktiv bei Climate Change AI, einer Organisation, die effektive Arbeit an der Schnittstelle von Klimawandel und KI unterstützt. Zuvor war er wissenschaftlicher Mitarbeiter an der Technischen Universität Berlin, wo er über KI-Anwendungen in erneuerbaren Energiesystemen promovierte, sowie externer Dozent für KI und Data Science an verschiedenen Universitäten und Hochschulen.

LinkedIn: Marcus Voß

Clara Isakowitsch

Referent*in in der KI-Ideenwerkstatt für Umweltschutz, konzipierte gemeinsam mit dem Projektteam das Comic-Exponat „KI nachhaltig entwickeln? Seegurke sucht Seegraswiese“. Clara studierte Mathematik und Kognitionswissenschaften und arbeitet zu den Wechselwirkungen zwischen Technologien und Gesellschaft.

LinkedIn: Clara Isakowitsch