#210 Frisst der Energiehunger der KI den Klimaschutz?

00:00:00: Tag zusammen, zu einer neuen Ausgabe von Klima und Kohle.

00:00:04: Wovor wir einsteigen mit dem heutigen Thema?

00:00:06: Ein kleiner Termin hinweis in eigener Sache.

00:00:10: Am Samstag den zwanzigsten Juni, zwanziger sechster feiert der Umweltkampus Birkenfeld, dem Hochschulstand beort an dem ich ja Professor bin.

00:00:23: Dreißigjähriges Bestehen, also breiteres der Festakt samstag dann der Tag der offenen Tür.

00:00:30: Und in dem Rahmen vom Tag der Offenen Tür werden mein Kollege Christian Kammlaut und ich einen Live-Podcast machen, also wer Lust hat oder Zeit hat kann gerne vorbeikommen zum Umweltkampus.

00:00:45: wir werden dann in der Bibliothek uns aufbauen und dann drei, vier Stunden Miteinander über, mal gucken welche Themen wir uns rauspicken.

00:00:56: Ein Live-Podcast machen.

00:00:58: also wer mag kann an den Umweltkampus kommen sich auch noch die Labore etc.

00:01:02: natürlich angucken den tag der offenen tür genießen.

00:01:06: Ansonsten kommt die folge dann später auch Über die normalen podcast diensleister Dann in die große weite welt.

00:01:15: also wer mark zwanzig sechste am samstag um dreizehn Uhr ist geplant wollen wir Staaten, Infos?

00:01:22: links habe ich in den Show Notes hinterlegt.

00:01:27: Steigen wir ein mit dem heutigen Thema und der Frage... Rist der Energiehunger der künstlichen Legenz?

00:01:37: Den Klimaschutz auf!

00:01:39: KI ist in aller Munde.

00:01:43: es ist mittlerweile glaube ich auch bei den meisten bewusst unbewusst im Alltag angekommen.

00:01:51: Man sieht es, dass jetzt Social Google als einer der großen Suchmaschinen die KI-Suche voll integriert.

00:01:58: Das heißt wenn man bei Google etwas sucht gibt's diese kurze Zusammenfassung oben zum Thema bevor dann die Suchergebnisse kommen also eine Verschiebung der Darstellung des Gesuchten.

00:02:12: Ansonsten macht seit ChatGPT in der Öffentlichkeit genutzt werden kann ist jetzt so dreieinhalb Jahre her ist es alltäglich und viele Menschen, vor allem natürlich für die junge Menschen nutzen die KI für die unterschiedlichsten Aufgabstellung.

00:02:29: Und die Frage ist was mit dem Energiebedarf?

00:02:33: Das ist das ein Problem und wo geht die Reise hin?

00:02:36: Das wollen wir heute mal diskutieren.

00:02:39: denn tatsächlich muss man sagen ja zumindest kurzfristig laufen wir in Engpässe was das Training von solchen KI Modellen angeht Was die Energiebereitschung angeht und was daraus resultiert, aber auch die Treffhausgasemission anguckt.

00:02:55: Schauen wir uns heute an in der Folge.

00:03:04: Wo stehen wir im Moment bei der KI-Entwicklung?

00:03:08: Die fünf größten Tech-Konzernen Meta, also der Facebook-Mutterkonzern Google, sonst ist das wahrscheinlich eher Alphabet Auch Open AI, die haben über vierhundert Milliarden Dollar an Kapitalausgaben getätigt im Jahr twenty-fünfzwanzig.

00:03:28: Das ist mehr erstmals mehr als die globalen Investition in die gesamte Öl und Gasförderung.

00:03:35: Das heißt wir sehen eine Verschiebung auch da leider nicht weg von den fossilen.

00:03:40: aber das jetzt die IT Branche Die weltweit dominierende Branche wird der Ausbau der Rechenzentren.

00:03:52: Wir brauchen ja, um diese KI-Modelle A zu trainieren, gucken wir uns eigentlich mit Italien an was das für ein Energiebedarf hat.

00:03:59: Das ist wundert aber dass der Betrieb dieser KI Rechencentren ist im Jahr zwanzig fünf, zwanziger um siebzehn Prozent gewachsen und zwar da muss man unterscheiden.

00:04:08: also Rechen Zentrum ist jetzt nicht nur KI sondern die Rechen Center sind auch die wo die Webseite liegen wenn man jetzt in YouTube Video gucken möchte oder sowas.

00:04:16: Also da brauche ich ja einen Rechen Centrum also Computer dafür die diese Informationen bereitstellen.

00:04:23: Das ist um siebzehn Prozent gewachsen, der KI-Anteil wächst aber viel schneller weil natürlich alle komplett auf künstliche Intelligenz setzen um fünfzig Prozent gewachsen.

00:04:34: und diese Hochleistungsrechenzentren also die speziell für die künstlichen Intelligenzen ausgelegt sind haben den letzten achtzehn Monaten oder in den letzten anderthalben Jahren sogar verdreifacht.

00:04:47: eine wahnsinnige Entwicklung Wenn man sich die Kennzahlen mal anguckt, was jetzt KI an Energie verbraucht.

00:04:57: Das ist natürlich Strom.

00:04:59: Wir brauchen den Strom einmal für den Betrieb der Prozessoren und verschiedene Prozessore, also diese Rechenoperationen durchführen.

00:05:07: Wir haben Energiebedarf dafür... ...die Kühlung.

00:05:10: Dadurch dass halt diese Rechnerportionen laufen heizen sich diese Prozessor auf.

00:05:15: Kennt man vielleicht von seinem eigenen Rechler.

00:05:17: wenn er mal richtig arbeiten muss dann fängt der Lüfter an zu zu rauschen.

00:05:22: Wir haben natürlich noch einen Notstrom abgegeht, jetzt hat er ein immenser Stromverbrauch der stark anwächst weil der Ausbau der KI global getrieben insbesondere durch die Vereinigten Staaten und China aber auch in Europa nach oben geht.

00:05:38: wir waren zwanzig-dreiundzwanzig und ich nehme jetzt Daten von dem International Energy Agency Sonderbericht Link wie immer in den Show Notes Wenn ihr mal tiefer einsteigen möcht, also IEA hat einen Sonnebericht zum Thema AI.

00:05:54: Also Artificial Intelligence KI und im Energiebedarf analysiert und auch mal eine Prognose in die Zukunft gemacht.

00:06:02: Und dort findet sich mit dem Stromverbrauch Dreiundzwanzig.

00:06:07: Jetzt gucken wir mal ein bisschen hinterher.

00:06:09: Also zwartausenddreinzwanziger lag der Stromverbruch der Rechenzentren.

00:06:13: Da waren noch nicht ganz so viel KI dabei bei dreihundertsechzig Terrorwattstunden um das mal einzuordnen, dass ist so der Stromverbrauch von ungefähr von Großbritannien oder von Italien.

00:06:26: Das heißt also alle Rechenzentren weltweit haben genauso viel Strom verbraucht wie das ganze Land Italien.

00:06:31: Im Jahr vierundzwanzig sind wir dann schon raufgegangen von dreihundertsechzig auf vierhundert sechzehnterra Wattstunde.

00:06:36: Das ist der jahre Strom Verbrauch der vier skandinavischen Länder Finland, Schweden, Norwegen, Dänemark.

00:06:42: Vierhundsechzehntehrawattstummen und jetzt im Jahr fünfund zwanzig also letztes Jahr Stromverbrauch global.

00:06:49: Vierhundertfünfundachzig Terawattstunden, das ist der Stromverbauch den Deutschland oder Frankreich hat.

00:06:56: Man merkt wie rasant das wächst und das sind also vor allem im Bereich der KI Rechenzentren.

00:07:05: Fünfzig Prozent Wachstum vielleicht zum Vorjahr Wahnsinn!

00:07:11: Weltweit.

00:07:13: heute haben diese Rechencentren einen Strom Verbrauch dessen Das heißt, die Rechenzentren weltweit verbrauchen ein Prozent des gesamten Weltschumverbrauchs.

00:07:27: Man merkt was das für Dimensionen heute sind und auch wo die Reise hingeht.

00:07:31: Wir gucken uns gleich mal die Prognosen an bis zu den International Energy Agency vorgenommen hat mit den entsprechenden Ungenauigkeiten, die nun mal drin sind.

00:07:43: Und wenn man dann auch noch einmal bisschen Granularer reinguckt also schaut wo Wie sieht das jetzt in den einzelnen Regionen aus?

00:07:49: Insbesondere natürlich in den Vereinigten Staaten, wo also massiv neue Rechenzentren entstehen.

00:07:55: In Virginia beanspruchen die Rechencentren, der Strombedarf dieses Bundesstaates, so.

00:08:03: Wahnsinn!

00:08:05: Das ist auch nichts mehr, wo man sagen kann, ja das kriegen wir noch irgendwie abgefedert und diese Rechen-Zentren haben jetzt auch keine Grundlage, sondern die laufen natürlich vor so einem Strich.

00:08:13: Da kommen wir nachher noch zu Perfekt für Kernkraft.

00:08:17: Also einfach ist es nicht.

00:08:20: Das Netz wird nicht nur durch den Energiebedarf, sondern auch natürlich die Leistung oder den Leistungsbedarf belastet und das ist in den Vereinigten Staaten geht das wirklich mittlerweile ein echtes Problem über China aber vorhin natürlich in den USA Denn wo sind die Flaschenhälzer?

00:08:40: Was ist das Problem denn?

00:08:42: Im Wind ist ja der Wettlauf aller großen KI-Unternehmen, insbesondere durch die wir jetzt aus den Vereinigten Staaten kennen.

00:08:49: Aber auch die, die wir in China haben – das sind auch die großen IT Unternehmen, die dort versuchen mit einem anderen Ansatz KI Modelle zu entwickeln.

00:09:00: Es ist halt ein Wettlauch mit der Zeit, das beste KI-Modell zu haben um dann den nächsten großen Durchbruch zu bekommen.

00:09:07: Was brauchen wir alles und wo sind die drei zentralen Engpässe?

00:09:12: Insbesondere was den Ausbau geht.

00:09:14: Also wir brauchen Netzanschlüsse, ein Thema kennen wir.

00:09:18: Das ist immer das gleiche Problem.

00:09:21: Wir haben in Deutschland die Herausforderung wie kriegen wir Netzanschlüsse für Photovoltaikanlagen, Windenergieanlagen, Batteriespeicher tun uns im Moment wahnsinnig schwer da zügig voranzukommen weil der Netzausbau hinterherhängt.

00:09:34: Wer heute den USA oder in weiten Teilen Europas ein neues Rechenzentrum etablieren möchte wartet mal fünf bis zehn Jahre auf einen stabilen Hochspannungsanschluss.

00:09:48: Das liegt jetzt nicht daran, dass das irgendwie planerische Schwierigkeit ist sondern es liegt einfach daran wir haben eine Überlastung der Netzinfrastruktur in einzelner Region.

00:09:54: Das heißt die Unternehmen für die großen Tech-Unternehmen den ist ja tatsächlich und das ist vielleicht auch der Vorteil von KI Rechenzentren.

00:10:06: wo sie sitzen ist er egal denn Daten können wir ganz einfach von A nach B transportieren.

00:10:10: nur Wo kommt der Strom her?

00:10:12: Und dann gehen die Rechenzentren da an, wo der Strom ist.

00:10:17: Wir brauchen Hochspannungs-Transformatoren wenn ich den Anschluss ans Hochspanungsnetz habe, weil nur die die Energiemengen bereitstellen können und die Leistung die ich habe bereitstellen kann.

00:10:26: Das unterscheiden wir aber mit dem Energiebedarf.

00:10:30: Du hast ja.

00:10:32: Ich hab natürlich eine Leistung, die ich bereitstellen muss damit die Prozessoren arbeiten können.

00:10:37: auch da brauche ich entsprechend die Transformationen die dann die Spannungen anpassen.

00:10:40: auf mein Rechen Zentrum dauern auch zwei bis drei Jahre.

00:10:46: Wenn ich heute also plane, sage ich habe einen Netzpunkt der das noch packt.

00:10:50: Der auch den die den den nette Anschluss der für mein Rechenzentrum hinreichend noch Energie bereitstellen kann kriege ich die Transformatoren hier selbst.

00:10:59: da muss Ich wenn ich heute anfange mal bis zum sieben sind die achten zwanzig Richtung zwei tausend neunzwanzig warten.

00:11:08: so und dann Noch ein kleiner Seiteneffekt Die Kühlung bei der chip Produktion erfolgt durch Helium.

00:11:18: Wir brauchen ja Hochleistungschips.

00:11:21: Und da ist vor allen Dingen Katar, der Hauptlieferant für Helium.

00:11:29: Ein Helium herzustellen ist gar nicht so einfach.

00:11:32: Dann sagen wir auch schon Elgas ist doch in der Atmosphäre aber zu gewinnen bereitzustellen das ist gar nichts so einfach.

00:11:38: und durch den Auskonflikt sind jetzt in Katar durch die Kriegsschäden die entstanden sind, sind die Exporter eingebrochen.

00:11:48: Also ob das jetzt alles so smart war, von den Vereinigten Schatten da Stress zu machen an der Straße von Hummus.

00:11:57: Jetzt nicht in dieser Folge das große Thema.

00:11:59: aber wir sehen es ist ein echtes Problem.

00:12:03: Wofür braucht man denn eigentlich die Energie?

00:12:06: Die Rechenzentren verbrauchen.

00:12:08: Da haben wir zwei Phasen.

00:12:09: Das eine ist die Trainingsphase und das ist das um diese künstliche Illigenz, dieses neuronale Netz oder die Verknüpfung.

00:12:19: Wenn wir jetzt mal an die Sprachmodelle denken diese large language models das ist ja manche Wissenschaftler sagen es ist eigentlich nur ein sehr sehr großer komplexer Zufahrtsgenerator und ganz großer Würfel.

00:12:32: richtig weil dieser KI Modell diese large challenge Models auf Basis von Wahrscheinlichkeiten Wortsilben zusammen puzzeln er weiß einfach was zusammen gehört diesen Satz habe, dass Auto ist und dann gibt es ja bestimmte Wahrscheinlichkeiten das die Antwort ist rot oder schnell.

00:12:56: Und diese Wahrscheinlichkeit welches Wort oder welche Wort Silbe gehört woran?

00:13:01: Ist mittlerweile sehr gut.

00:13:02: Die Textqualität ist ja ausgezeichnet.

00:13:07: Das muss ich trainieren mit riesigen Datenmengen.

00:13:11: Dieser Prozess ist wahnsinnig energieintensiv riesige Datenmenge habe.

00:13:18: Das passiert aber nur einmal, das heißt ich drücke um Knopf und sage hier sind alle Bücher, alle Texte dieser Welt.

00:13:26: und dann rechnet das Rechenzentrum, rechnen die GPUs also die Prozessoren.

00:13:35: Das Training von GPT-IV, also einem der neuere Modelle.

00:13:40: Die Zahlen sind leider nicht ganz öffnlich, da muss man tatsächlich schätzen im Bereich von mehreren tausend Megawattstunden Strom Also immense Energiemengen, aber das mache ich einmal und dann gibt es halt diese Verknüpfung.

00:13:53: wird das gemacht?

00:13:54: also intern hat man sich an so ein Neuronales Netz.

00:13:56: Das soll jetzt hier nicht unser Thema sein.

00:13:58: wie Neuronale Netze funktionieren da brauchen wir noch mal einen bis zwei extra Folgen.

00:14:03: allein um da tiefer in die Mathematik einzustreigen die dahinter steckt wahnsinnig spannendes Feld bildet halt die Neuronen ab wie wir sie im Gehirn haben so ist schon bisschen die Idee.

00:14:17: Wenn das dann einmal trainiert ist, dann weiß das Modell welche Worte auf oder welche Wurzeln noch welche Wortselben von ähnliches bei Bildern etc.

00:14:26: Und die zweite Phase, das ist dann die lange Phase, wir haben am Anfang das Training und da guckt die lange Fase die Inferenz.

00:14:34: Das ist das wenn wir als Nutzerinnen diese Modelle benutzen.

00:14:38: Jede Anfrage, die wir stellen, das fängt bei Google an, dass ist wenn ich dann bei ggbt bei google germany bei clod umwiese alle heißen mal eben schnell eine Frage stelle brauche ich dafür natürlich auch ein KI-Rechenzentrum, was diese Frage bearbeitet.

00:14:53: Das ist nämlich wesentlich aufwendiger als so eine klassische Suche.

00:14:58: oder wenn ich eine Internetseite aufrufe und einen Textausdruck will, also da schreibe mit einem Textverarbeitungsprogramm

00:15:05: etc.,

00:15:06: das braucht nicht viel Strom.

00:15:07: Wenn ich jetzt aber ein KI Modell bemühe, brauche Die müssen wir halt rund um die Uhr bereitstellen, diese Energie.

00:15:21: Weil global die Leute das nutzen.

00:15:26: Massenhaft.

00:15:26: deswegen brauchen wir so viele Rechenzentren.

00:15:27: Das heißt Training am Anfang und dann die lange Inferenzzeit.

00:15:32: Rund seventy fünf Prozent des Rechenbedarfs in diesem KI-Rechenzentrum fallen auf den Teil der Inferenzen nicht auf das Training.

00:15:40: Also das Training selber was man so landläufig denkt ist vielleicht so das große.

00:15:48: Der große Energieverbraucher ist es tatsächlich nicht.

00:15:51: Man merkt, da hat man ein bisschen was an der Energie bereit zu stellen.

00:15:58: Die muss irgendwo herkommen!

00:15:59: Das ist ganz entscheidend in der Planung.

00:16:04: Es gibt so dieses Bild des KI-Eisbergs und oben das Training ist das, was oben rausguckt, was man auch vielleicht wahrnimmt und dann unten drunter kommt am Ende tatsächlich der Energieverbruch.

00:16:17: Wenn man vielleicht mal so ein Einzelnen, also auch da mal so'n paar Größenordnungen, sehe ich mal.

00:16:20: abschließend eine klassische Suche bei Google.

00:16:23: Die Zahlen sind alle nicht ganz so einfach zu ermitteln.

00:16:26: Gibt es aber erste Schätzungen auf wissenschaftliche Untersuchung?

00:16:30: Wenn ich jetzt so ne klassische Google suche wie früher, was für lange ist das noch gar nicht her, braucht so Roundabout Nullkomma drei Wattstunden.

00:16:41: Die Energienmenge selber spielt jetzt gar keine Rolle.

00:16:44: Aber war so zur Einordnung.

00:16:49: GPD oder Google Gemini, oder so ein klassisches Large Language Mod, so eine KI.

00:16:55: Die KI die wir jetzt landläufig kennen.

00:16:57: Wenn man da einen Prompt eingeben also irgendeine Frage irgendwas was wir haben wollen, das hat mir ein Gedicht oder sowas dann verbraucht es ungefähr zehn mal mehr Energie für so weit rund drei Wattstunden.

00:17:10: Das heißt wir haben schon den Unterschied die klassische Google Suche und dann so Generative AI prompt, also diese generative KI haben sie mal so bei drei Wattstunden.

00:17:25: Und dann das ist jetzt der aktuellen Entwicklungsfahrt.

00:17:28: wir haben dann diese Reasoning Modelle oder Agentec AI.

00:17:32: was bedeutet das?

00:17:33: Das sind KI-Modelle die bevor Sie antworten überlegen sich wie kann ich diese Frage jetzt bearbeiten?

00:17:40: Was will der User?

00:17:43: baut sich so eine Art Struktur, wie soll ich das beantworten?

00:17:47: Jetzt beim einfachen Aufgabe ist es nicht so schwer.

00:17:49: Da geht das recht schnell und erkennt er, dass man braucht nicht viele Schritte.

00:17:52: aber wenn's eine komplexere Anfrage ist dann dauert es länger.

00:17:58: Und er baut ja in so einem Art Ablaufplan, so ein Workflow.

00:18:02: Da sind wir mal locker bei hier bis fünf Wattstunden Weil es einfach im Hintergrund baut er sich kleinere Proms die er dann ausführt auf die Antwort wartet Er verarbeitet diese Information und geht dann weiter.

00:18:16: Das sind solche Agentic AI Modelle.

00:18:20: Claude ist da sicherlich ein sehr, sehr gutes Beispiel wie die das heutzutage machen.

00:18:25: Das braucht noch mehr Strom weil die Rechnungen, die dort passieren im Hintergrund wesentlich komplexer werden und das führt einfach dazu wenn auch die Modelle immer größer werden.

00:18:39: Und im Moment geht der Trend dahin alle Informationen die die Welt so hat in diese KI-Systeme reinzustecken, in das Training reinzustecken.

00:18:46: Die wissen alles!

00:18:48: Jetzt kann man sich fragen ist das notwendig?

00:18:50: Werden das nicht sinnvoller?

00:18:51: und da kommen wir nachher noch zu... Wie kriegen wir da vielleicht eine Energieeffizienz rein in diese KI-Modelle?

00:18:56: Im Moment ist der Trend erstmal können die alles.

00:19:01: Da geht um die Parametergröße.

00:19:03: also diese kleinen alten Modellen hatten so acht Milliarden Parameter, mittelgroße Large-Wangleschmuddels, da sind nur so bei siebzig Milliarden Parametern.

00:19:13: Und die großen Modelle sind so bei... ...jahrhundert Milliarden Parameten, die dort gebraucht werden.

00:19:20: Damit steigt natürlich auch je größer die Modelle, desto mehr Speicher brauche ich muss sich vorhalten und desto größ ist der Bedarf an GPUs.

00:19:27: Das sind dann keine klassischen Prozessoren wie man sie jetzt im Rechner hat.

00:19:31: Dann sind dann Prozessor von Grafikkarten.

00:19:35: Warum nutzt man Grafikarten?

00:19:37: In Video ist da der Haupthersteller will ich mal sagen Die haben es dann darauf fokussiert konzentriert.

00:19:46: Diese Bearbeitung von Rechenoperationen, das kann so eine klassische CPU Central Processing Unit im Englischen der klassische Prozessor.

00:19:58: Der ist darauf optimiert sequenziell also Linie Schritt für Schritt Aufgaben abzuarbeiten.

00:20:03: Das kann er gut.

00:20:05: da ist ja auch sehr schnell drin hat dann auch ein recht geringer Energiebedarf, der liegt zum Bereich.

00:20:11: Und wenn wir die Leistung mal betrachten... Also welche Leistung wird abgerufen?

00:20:14: Da sind wir so bei sechzig bis vielleicht maximal dreihundertfünfzig Watt!

00:20:19: Das ist für KI-Systeme völlig ungeeignet weil wir keine linearen sondern parallele Prozesse brauchen, die komplexe mathematische Operationen machen.

00:20:27: da sind wir nämlich im Grunde genommen.

00:20:30: mathematisch gesehen macht man nur... Man findet uns eigentlich nur Matrix-Modifikationen.

00:20:35: Kennt man vielleicht noch außer Schule Das ist dann lineare Algebra Oberstufe.

00:20:41: Da hat man es dann mal gemacht, so zwei Quads zwei oder drei Quads drei Matritzen miteinander multipliziert und das ist von Hand nicht schwer, ein bisschen Preisarbeit.

00:20:51: Das machen die halt nur mit viel größeren Matritzern.

00:20:55: Und das sind eine massive parallele Verarbeitung von Daten, von mathematischer Portion.

00:21:02: Das können diese GPUs, diese Graphic Processing Units viel besser, weil sie darauf optimiert sind.

00:21:08: Wir sind dafür gedacht, Computergrafik zu visualisieren.

00:21:12: da geht es auch um das schnelle Parallelisieren von Berechnungen.

00:21:18: Die ziehen viel mehr Strom.

00:21:19: Da sind wir mal locker bei siebenhundert Watt und gehen in Richtung Kilowatt.

00:21:26: Kilowatts ist das wenn ich den Wasserkocher einschalte.

00:21:29: Das heißt also ein Grafikprozessor braucht tausend Watt Leistung, ein Kilowatt und dann habe ich natürlich nicht mal einen von diesen Prozessern sondern viele.

00:21:44: Und dann komme ich in die Richtung in diese modernen GPU Cluster im Bereich von über Zehntausend von diesen GPUs.

00:22:01: Dann kann man das einfach nur linear hochrechnen denn wenn einer tausend Watt braucht brauchen zwei zweitausend Watte logisch und daz führt dazu dass wir dann für solche KI Rechenzentren mal locker im Megawattbereich Anschlussleistungen sind.

00:22:15: Das ist Industrie-Skala, ihr seht nicht und es wird halt immer mehr weil wir immer mehr GPUs brauchen die Modelle immer größer werden usw.

00:22:23: Also man merkt Wir haben da echt eine Herausforderung Dass solche Anfragen mit der KI einfach wie viel größeren Energie bedarf haben.

00:22:39: Lassen wir das?

00:22:39: Nein, das lassen wir nicht mehr.

00:22:40: Denn die KI ist da auch das wie so häufig mit moderner Technologie, die in der Gesellschaft angekommen ist.

00:22:45: Die geht doch nicht mehr weg.

00:22:47: Ganz im Gegenteil und den Nutzen ist in so vielen Lebenslagen einfach so groß... ...die Frage ist einfach Wie kriegen wir denn die Energiebedarf worunter?

00:23:01: Da gibt es auch Ansätze wie man dort die Energie sparen kann.

00:23:06: aber das erstmal dann der Stand bei dem wir heute sind.

00:23:12: für die Öffentlichkeit zumindest noch nicht.

00:23:16: Aber diese Server Racks sind so groß wie ein Kühlschrank, da stehen immer ganz viele Kühl-Schränke in der großen Halle und muss die kühlen.

00:23:26: Und da hat sich diese Leistungsdichte.

00:23:29: also was ist die Fähigkeit dieser Architekturen?

00:23:34: Hat sich von zwanzig zwanzi bis zwanzfünfzwanzig um das Faktor elf erhöht und wird sich jetzt bei sieben zwanzig nochmal vervierfachen.

00:23:45: Diese Leistungsdichte, also wie viel Rechenkapazität habe ich auf einer bestimmten Fläche in so einem Rack?

00:23:52: Bedeutet natürlich aber auch wenn ich immer kompakter werde diese Rechen Kapazitäten immer mehr komprimiere hab' ich einmal natürlich einen hohen Stromverbrauch für die ganzen GPUs, also diese Prozessoren.

00:24:08: Und ja Problem mit der Kühlung.

00:24:11: Was machen wir bisher typischerweise?

00:24:12: So macht es auch der Laptop.

00:24:15: Der hat eine Luftkühlung, da ist ein kleiner Ventilator drin.

00:24:18: die führen dann die Luft an den Prozessor vorbei und durch die Luftströmung kühlt er Prozesse ab.

00:24:23: ansonsten würden da halt im schlimmsten Fall wieder anfangen zu schmilzen.

00:24:30: Das geht bei solchen komplexen Rechenzentren nicht mehr.

00:24:32: das muss man wasser kühlen das heißt man führt dann auf ganz mit ganz dünn Kapilan führt man dann Wasser an diesen Prozessoren vorbei.

00:24:41: Warum?

00:24:41: Weil Wasser natürlich ein viel dankbarer Energieträger ist, Wasser kann deutlich durch die Wärmekapazität und weil es dann eine Flüssigkeit ist und kein Gas wie bei der Luft einen um ein Vielfaches mehr an Wärmenergie aufnehmen und abführen.

00:25:00: Das ist ne super Idee.

00:25:02: machen wir gleich am Schluss noch für Wärmennetze.

00:25:06: Und zwar Netz ist diesmal nicht das Internet sondern dass wir damit Wärme versorgen, haben wir ja kurz noch darüber gesprochen.

00:25:14: In der letzten Folge war ein Thema Wärmepumpe.

00:25:18: Wir können rechnen und das ist in Deutschland, in den Europäischen Union auch ein großes Ziel im USA also kein Ziel.

00:25:25: Wo Fall drum herum einfach nichts ist und weil dann auch keine Wärmenetze da sind.

00:25:28: aber wenn wir einen Wärmedetz haben macht es vielleicht sogar Sinn oder könnte man es politisch hören?

00:25:35: oder das Rechenzentren dort entstehen, wo wir Wärmenetze haben.

00:25:39: Weil diese Abwärme aus den Rechencentren dann Wärmennetze versorgen kann die vorher mit dem Kohlekraftwerk versorgt worden sind.

00:25:48: Das ist super!

00:25:49: Man sieht also welche Effizienzen schon bei Teileffizienz.

00:25:52: Wir wollen jetzt gleich nochmal einmal in die Towns angucken.

00:25:58: Wo geht die Reise denn jetzt hin?

00:26:01: und gesagt, also in den Dreiundzwanzig waren wir bei dreihundertsechzig Terawattstunden, in den Zweitausendvierundzwzicht bei Vierhundert sechzehn.

00:26:06: Zweihundert zwanzigbei vierhundertfünf achtzigterawattschen war, also Italien, Skandinavien, Stromverbrauch Deutschland.

00:26:13: Jetzt hat die International Energy Agency verschiedene Szenarien aufgemacht bis zwanzichdreißig das kann man doch noch ganz gut überblicken und dann bis zwanzig fünfund dreißig.

00:26:25: da gibt es also verschiedene Wege von eher pessimistischen oder sehr optimistischen Szenarien, also wie schnell geht die Entwicklung?

00:26:35: aber auch wie schnell gehen Effizienzsteigerungen Verbesserung der Prozessoren etc.

00:26:41: Und bis zum Jahr zwanzig dreißig wird sich voraussichtlich der Strombedarf von KI Rechenzentren, das ist halt getrieben durch die KI, verdoppeln je nach Szenario.

00:26:57: sind wir bei Das ist der Stromverbrauch von Japan heute, oder Deutschland doppelte Menge Frankreich.

00:27:07: Oder Deutschland und Frankreich zusammengenommen sind auch so rund ein tausend Terawattstunden.

00:27:12: D.h.,

00:27:12: die Rechenzentren global im Jahr zwanzig dreißig werden den Strom verbrauchen, den heute Deutschland-Frankreich gemeinsam verbraucht.

00:27:25: Noch ein Schritt weiter.

00:27:26: Wir gehen ins Jahr zwanzig fünfunddreißig, da wird die Unsicherheit natürlich logischerweise noch größer.

00:27:32: Da liegen wir im Bereich von Tausend Terawattstunden vielleicht sogar bei tausend sechshundert sieben Dreißel über tausende Fünfhundert terawatt Stunden.

00:27:42: Das ist eine Verdreifachung also eine Verdopplung bis zu einer verdreifacht des heutigen Stromverbrauchs allein nur Für KI rechten Zentrum.

00:27:54: Der Strom muss irgendwo herkommen.

00:27:57: Und dann, neben der Energie haben wir noch die Leistung bei das Bedenken Anschlussleistungen.

00:28:03: Wir sind heute bei hundertviertzehn Gigawatt.

00:28:06: Das waren zweiundzwanzig war nur bei dreiundachtzig Gigawatte Zweitausend vierund zwanzig bei siebenneunzig Gigawatte.

00:28:12: viele Zahlen Aber uns entscheiden ja dann die uns entscheidend für uns ist ja dann in Ordnung.

00:28:18: also von den hundert vierzehn gigawatt Die werden es heute an insuleter Anschlußleistung Leistung haben wird sich das bis zwanzich dreißig mindestens verdoppelt in der größten Ordnung von zweihundert bis vielleicht sogar zonan einen vierzig gigawatt.

00:28:37: das bedeutet also denn aufpassen wir.

00:28:42: so habe ich die leistungen leistung mal zeit des energie und ich brauche nicht immer diese maximal anscheinend aber ich muss wenn wirklich alle prozessoren rechnen folgen.

00:28:51: in der trainingsphase habe ich halt ein ganz hohen peak und diese leistungs muss sich bereitstellen damit da nicht das licht ausgeht.

00:28:58: Da sind wir, wenn man das jetzt in den nächsten fünf Jahren, packen wir hundert Gigawatt drauf.

00:29:04: Das sind Rechnungen rund einhundert Kernkraftwerksblöcke.

00:29:11: Wenn man sagt, Kernkraft hat mal einen Gigawatts oder eine Kernkraftwerk ist, dann machen wir ein bisschen mehr.

00:29:15: Aber Hausnummer!

00:29:17: Wir kennen das ja hier in der Runde.

00:29:19: Also müssen da eigentlich die nächsten fünf Jahre eine Hundert neue Kernkraft Werke bauen um den Strom irgendwie bereitzustellen.

00:29:26: Undenkbar keine Chance schaffen wir nicht.

00:29:31: Der Strom muss also auch da woanders herkommen, da ist ganz interessant.

00:29:36: Da fahren die KI Unternehmen die große Tech Firmen verschiedene Strategien und noch verschiedene Strategie parallel gucken uns gleich noch an.

00:29:45: Aber man merkt, oder wenn ich jetzt sage von wo die Reise hingeht.

00:29:48: Und bis zu einem Jahrzehnte auch das hat die International Energy Agency auch nochmal prognostiziert haben wir eine weitere Steigerung um fünfzig Prozent.

00:29:57: Wir sind heute bei hundert gehen rauf Roundabout bis zu zwanzig, dreißig auf zweihundert und bis fünfdreißig Auf dreihundert bis vierhundert.

00:30:07: Wir müssen die Leistung bereitstellen.

00:30:09: Das geht halt nur mit modernen smarten Kraftwerken.

00:30:15: Was passiert heute?

00:30:17: Denn wir haben die Kraftwerke nicht Die Netze packen es nicht Und trotzdem entstehen Rechenzentren.

00:30:23: was machen die KI Unternehmen in den USA um schnell diese Leistungen und auch die Energie bereitzustellen?

00:30:32: sie setzen Gas Absoluter hier.

00:30:36: Die großen Gas-Turbinenhersteller aus Deutschland Siemens Energy sind auf die nächsten Jahre und vier Jahre komplett ausgebucht, was die Produktionskapazität von Gas Turbinen angeht.

00:30:48: Denn Gas Turbin zu bauen ist jetzt nicht ganz einfach schon etwas kompliziertere Turbine.

00:30:53: Warum Gas?

00:30:55: Gaskraftwerke oder so eine Gas Turbene kann ich sehr schnell ins Salin in den Betrieb nehmen.

00:31:00: Ich verbrenne Gas Ich sauge Luft an, spritze das Gas oder leite das Gas ein.

00:31:09: Das wird verbrannt und dann dreht sich die Turbine.

00:31:13: Ich brauche also auch kein Wasser wie immer im Dampfkraftwerk als Träger-Medium sondern das Gas ist das Energieträgermedium.

00:31:22: ich versetze die Turbin in Rotation und habe dann meine elektrische Energie.

00:31:28: hinten kommt dann das heiße Abgas raus dass man alles auch ungenutzt.

00:31:32: könnte man noch was mit machen, anderes Thema.

00:31:36: Und um den Energiebedarf für die neue Rechenzentren zu decken, machen die großen Tecken unter dem Folgendes, die sagen wenn das Netz nicht kann bauen wir unseren Strom selber.

00:31:45: Das heißt sie setzen das Rechencentrum irgendwie auf die grüne Wiese, ergänzen dann auch die Gas-Turbinen und haben eine Eigenversorgung, sprechen wir ja bei Flo Voltaik immer von... Das ist der einzige Weg um diese Geschwindigkeit beim Ausbau irgendwie um da mit Schritt fahren zu können.

00:32:08: Hier sehen die Firma XAI, also die Firma von Elon Musk hat das sogar soweit getrieben.

00:32:14: Die haben dann auf LKWs ausgediente Flugzeugturbinen montiert Das ist ja nichts anderes als eine Gas-Turbine und treiben die an.

00:32:25: Umweltechnische absolute Katastrophe Also die Treibhausgasemission, modernes Graskraftwerk relativ umweltfreundlich, klar entsteht Kondioxid und man.

00:32:36: sonst entstehen da keine weiteren Schadstoffe.

00:32:39: Das ist anders bei einem Kohlekraftwerk natürlich.

00:32:41: Da entstehen noch viele andere Sachen die wir dann ausfiltern müssen sehr aufwendig.

00:32:46: aber diese Flugzeugtominen sind so ineffizient auch in der Verbrennung da entstehen schon hohe Umweltbelastungen total ineffiziant.

00:32:54: Aber das spielt keine Rolle einfach mit der Entwicklung Schritt halten zu können.

00:32:59: was den Ausbau der KI Rechenkapazitäten angeht setzten die auf alles was sie kriegen können um die Energie zu versorgen.

00:33:10: Ja und dann stellt sich die Frage, wo konnte der Strom noch herkommen?

00:33:15: Man kennt das ja mit Microsoft.

00:33:17: setzt auf die Reaktivierung des Kernkraftwerks Three Miles Island also einem der Reaktoren der in den neunzehnten siebzehr Jahre eine Kernschmerze hatte.

00:33:27: Die setzen auf Small Modular Reactors oder diese kleinen Kraftwerke wobei man da sagen muss es ist in der Presse und in den Medien sicherlich etwas verzerrt oder falsch dargestellt.

00:33:37: Google investiert jetzt nicht in den SMR direkt, sondern die sagen was man auch freut, wir brauchen Strom.

00:33:43: besorgt uns den liefert uns Strom.

00:33:46: wenn ihr jetzt ein Startup sagt machen wir euch dann sagen wir es live, wenn ihr das schafft kriegt ihr einen Stromabnehmervertrag.

00:33:54: Wir nehmen den Strom ab.

00:33:56: Wenn sie es nicht schaffen Sondern Google bekommt halt kein Geld Dann ist der Start halt über der Brücke.

00:34:01: Das ist also nicht das jetzt Google oder Meta oder sonst ein Konzern sagt, wir bauen selber einen SMR und investieren.

00:34:08: Die sagen einfach, wie liefert uns Strom?

00:34:09: Das ist unser Geschäftsmodell.

00:34:11: Wir interessieren es nicht für die Stromherstellung direkt.

00:34:13: Das ist eine Entwicklung, die können wir gar nicht, wollen wir auch gar nicht.

00:34:17: Also das ist so der Ansatz.

00:34:20: Passiert halt nicht!

00:34:21: Und was dann Google macht, denn das finde ich hoch interessant und das ist vielleicht auch für die Zukunftsperspektive wenn man jetzt mal in in die ferne gucken.

00:34:31: wir haben diesen immensen strombedarf der wachsen wird verdoppelung verdreifachung bis zwanzig dreißig, verdreieffachung des energie bedarfs bis zwanzig fünfunddreißig und auch die anschlussleistung denn vielleicht auch das noch als kleine inflation ergänzend welcher strumm selber erzeugen möchte.

00:34:47: ich brauche eine verlässliche strombereitschung.

00:34:50: Ich kann ja keinen stromausfall mehr leisten.

00:34:52: bei diesen rechenzentren verfügbarkeit vor neun neun und neun Prozent muss ich die Leistung um den Faktor, naah, dreißigfünfzig bis zu siebzig Prozent überschreiten.

00:35:06: Damit ich verlässlich Strom haben kann weil ja nicht jede Grasturbine selbst verlaufen kann da gibt es irgendwie technische Störungen, Wartungsarbeiten

00:35:13: etc.,

00:35:13: das heißt wenn ich selber mache so wie Sie einen großen Stromnetz haben auch damit Reservekraftwerke, wenn ich es alleine mache Rechenzentrum, Gas-Turbine daneben brauche ich Reserveleistung.

00:35:24: Faktoren dreißi bis äh sebzig prozent Und Top, wenn ich also hundert Gigawatt habe, brauche ich hundertreißig bis hundertseptzig Gigawatte Kraftwerksleistung.

00:35:35: Muss ja auch erst mal herkommen!

00:35:37: Deswegen was macht Google zum Beispiel?

00:35:38: Die sagen wo kommt der Strom ab und welcher ist günstig?

00:35:41: Solar!

00:35:42: Auch das funktioniert.

00:35:43: es kommt sicher diese Ford natürlich.

00:35:46: die logische Argumentation Ja aber nachts Freunde.

00:35:51: dass kann man lösen.

00:35:52: Und zwar wenn ich jetzt das Rechenzentrum ist, egal wo es steht dann setze ich es nach Texas oder nach Südkalifornien wo einfach deutlich mehr Sonnenstunden sind als in Mitteleuropa zu bleiben.

00:36:03: mit den Vereinigten Staaten natürlich aber haben da gute Solarverhältnisse und installieren Batterien dazu.

00:36:09: denn die Kommission Solar mit Batterie kann es schaffen.

00:36:13: auch da bräuchte viel Solarleistung große Batteriekapazitäten um zwischen zu puffern.

00:36:19: Aber damit kriege ich eine verlässliche Energieversorgung hin für ein Rechenzentrum.

00:36:24: Das ist heutzutage möglich und zwar günstiger... ...und auch schneller als zu warten auf einem Kernkraftwerk, die nicht verfügbar sind.

00:36:32: Solar ist verfügbare, Batterie ist verfügbare.

00:36:36: Auch wieder eigene Versorgungen geht!

00:36:38: Und das ist natürlich eine smarte Technologie.

00:36:41: Was man auch noch machen kann ist... Nacht scheint keine Sonne.

00:36:47: Ist richtig aber irgendwo schweigt die Sonne auf der Erde.

00:36:49: Was wir dann machen können ist Da sind wir heute noch nicht, aber das ist so die Perspektive für die Zukunft.

00:36:54: Wir verteilen die Rechenzentrum einfach um den Globus und eben da wo die Sonne scheint und wo wir gerade Strom haben, also ich sage mal einen breiteren Equatorialgürtel oder ein Quater herum solche Rechencentren installieren in Amerika, in Afrika rund um den Äquator.

00:37:13: Da ist ja viel Sonne und dann natürlich entsprechend in Südostasien.

00:37:18: Dann wandert quasi die Rechnung Kapazität, oder die Rechnungen.

00:37:24: Die Rechnung die man macht mit den GPUs wandert mit der Sonne mit.

00:37:29: Smart!

00:37:30: Man muss da in dem Moment einfach global denken.

00:37:32: das Ziel ist... Den Daten kann ich verteilen.

00:37:35: Ich kann nicht global in Lichtgeschwindigkeit über den ganzen Lobus verteilen.

00:37:38: was er also mache is' ich installiere weltweit meine Rechenzentren.

00:37:41: die sind vernetzt für den Datenaustausch und wenn die Sonne da scheint an einem Punkt X Dann rechnet das Rechensamt da, wandert die Sonne weiter.

00:37:51: Die Erde dreht sich, ich weiß... dann wandern die Rechnungen mit!

00:37:56: Das geht technisch zu dem Problem?

00:37:58: Ist das fürs Training?

00:37:59: Kann ich das machen und auch für die Abfragen?

00:38:02: Jetzt scheint gerade in den USA tagsüber.

00:38:06: Also rechnen die Rechenungen in den USA den afrikanischen Staaten war, dann rechnen die ja gerade und bearbeiten die Abfragen diese Inferenz super smart.

00:38:20: Das ist ein Weg und den halte ich persönlich sogar für sehr interessant um diesen Energiebedarf zu decken.

00:38:34: Man merkt also, ein zentrales Problem ist halt die KI mit diesem immensen Strombedarf und Stromfresser dann daraus resultieren.

00:38:46: das ist das was wir gerade beobachten.

00:38:49: es werden gerade keine fragen gestellt danach was sind die treibhausgasemissionen?

00:38:52: weil erst mal nur in geschwindigkeit geht dort schnell neue modellen zu entwickeln.

00:38:59: und dass mit gas führt aber dazu, dass die treibergasemitionen eher rauf gehen.

00:39:05: Was man auch noch machen kann ist aber das will ich jetzt an dieser stelle gar nicht noch vertiefeln da kann man doch sehr lange sehr intensiv drüber sprechen.

00:39:11: aber das sollte immer so ein erster einschick sein dieses thema energihunger der k i. Jetzt kann man sich überlegen, was sind so Lösungsmöglichkeiten?

00:39:17: Ich kann Modelle kleiner machen.

00:39:19: Ich brauche nicht ein Modell, das alles kann.

00:39:22: Wenn ich jetzt mathematische Fragestellungen habe, muss es nichts wissen über die französische Revolution.

00:39:27: Das heißt, dass ist so ein Ansatz um Energie zu sparen und zwar bis zu achtzig Prozent, dass ich meine Anfrage stelle, dass KI-Modelle überlegt... Was ist der Kontext?

00:39:43: ... ein kleines Modell rausblickt.

00:39:46: Sagt ihr das große Modell?

00:39:48: Das ist eine mathematische Frage, wir nehmen das Mathematikmodell... Ich habe eine Bildanfrage, nämlich die Bild-KI und so weiter.

00:39:55: Also ich picke mir das richtige Modell heraus,... ... das muss halt schnell beantwortet werden in die Anfrage.

00:40:03: aber ich kann da sehr schnell reagieren... Die Anfrage bearbeiten mit wahnsinnig viel Energie!

00:40:08: Das ist ne ganz interessante Ansatz.

00:40:12: wieder hin zu kleineren angepassten Modellen.

00:40:16: Das ist sehr positiv, wobei man da, das beobachtet man ja ganz häufig diesen so einen Rebound Effekt hat.

00:40:23: in der Wissenschaft wird es dann als Jefferson Paradoxon benannt.

00:40:30: wenn wir Energie sparen führt es nicht dazu dass wir weniger Energie verbrauchen sondern mehr weil die Energie günstiger ist.

00:40:37: Ich kauf mit neuen Kühlschrank weil er neue effizienter ist der alte halt viel strumpf ist, also mache ich mit dem alten Schelch in der Garage und er kühlt Bier.

00:40:48: Er wächst meistens, wenn man ihn auch nicht erläuft ja noch, er funktioniert ja noch.

00:40:51: Also dieser Rebound-Effekt ist ein typisches Beispiel.

00:40:57: Wir sehen also schon bei der Zusammenfassung der heutigen Folge Der Energiebedarf der KI wächst sehr schnell, sehr stark einfach weil es eine Theologie ist die uns global im Moment auf die nächste Stufe der IT bringt.

00:41:17: Von Großbritannien über Deutschland bis zu Japan, das ist beherrschbar.

00:41:25: und weil es so schnell ist müssen schnelle Lösungen her.

00:41:28: deswegen dieser Ansatz mit den Gas-Tubinen.

00:41:31: wir haben eigentlich kein Stromproblem sondern Netz Anschlussproblemen, die Lieferketten sind ein Problem und tatsächlich das beobachtet man auch.

00:41:38: Vor allen Dingen in den USA, aber jetzt gerade aktuell auch in Deutschland, der gesellschaftliche Akzeptanz immer an den USA war das Stromnetz und die Strompreise.

00:41:45: in allem was funktionieren merkt man dass dann dort wo Rechenzentren entstehen die Bevölkerung schon ziemlich genervt ist weil da lokal die Strom Preise aufgehen.

00:41:54: Das ist aber so und das wird sich auch in den nächsten zehn Jahren unwahrscheinlich verändern.

00:41:59: vielleicht gibt es ja die großen Innovation noch Aber die nächsten fünf Jahre kann man ganz gut in die Zukunft schauen Da geht es hin.

00:42:06: Effizienz ist wichtig, wir müssen also effizientere Prozessoren entwickeln und die Modelle modularisieren.

00:42:12: anpassen wird dann aber durch diesen Rebound-Effekt dazu führen dass wir zu effizienter sind, aber dann eher mehr rechnen als Energie einzusparen.

00:42:23: Das heißt wir brauchen eine effiziente Plus gegebenenfalls politisch definierte Rahmenbedingungen.

00:42:32: immer noch die frage wer bezahlt das alles zahlen wir natürlich über die modelle die wird dann abonnieren.

00:42:39: aber auch da wer zahlt die netzkosten netzausbau kosten?

00:42:42: die alte frage die wir haben in der jetzt in europa deutschland mit wie müssen sich privathaushalte an den netzausschau beteiligen wenn man die bvdachanlage hat?

00:42:52: diese ganze diskussion spielt ja auch eine rolle.

00:42:54: nur halt industriellen marschstab auch da muss eine beteilung sein ist sicherlich nicht ganz so, nicht ganz einfach.

00:43:03: Zeigt also ein spannendes Feld.

00:43:07: und weil die KI künftig schon einen großen Anteil an dem Stromverbrauch haben wird bis zwanzig dreißig bis zwanzig fünfdreißig.

00:43:25: Wir werden auf vier-fünf Prozent Strom verbraucht bezogen auf den weltweiten Strombedarf hinlaufen.

00:43:30: Auf der anderen Seite vielleicht hat die KI ja selber eine gute Idee, wenn man das machen kann.

00:43:34: Wir fragen die KI einfach welche Lösungsvorschläge sie hat um das zu machen, um smarter zu werden.

00:43:41: spannende Reise auf der wir sind.

00:43:42: Mal gucken wo es hingeht weggehen wird es jedenfalls nicht mit der KI und durch diese neuen Möglichkeiten der Anwendungen brauchen wir dann auch entsprechende Lösung was die Energieversorgung geht.