#233 KI und Energie: Wie viel Strom braucht die KI? Mit Stefan Naumann

00:00:00: Liebe KI, sag mir, wie das umweltfreundlicher wird.

00:00:03: Ich sehe das nämlich genauso, dass wir jetzt die Agenten trainieren müssen,

00:00:06: dass die Agenten eigentlich Ökoagenten werden.

00:00:08: Denen muss man sagen:

00:00:09: Verhalte dich nachhaltig, löse Probleme so, dass Nachhaltigkeitsprobleme

00:00:13: damit nicht geschaffen, sondern gelöst werden.

00:00:22: Tag zusammen zu einer neuen Ausgabe von Klima und Kohle.

00:00:24: Heute wieder mit dabei: Professor Stefan Naumann.

00:00:28: Tach, Stefan, hallo!

00:00:30: Grüß dich, Henrik!

00:00:32: Ja, du warst schon ein paar Mal dabei.

00:00:35: Du bist Professor bei uns am Umwelt-Campus für,

00:00:38: ich sag mal verkürzt, Nachhaltigkeitsinformatik.

00:00:41: Und ich steige gerne, wenn ich Gäste dabeihabe, mit den großen Fragen ein.

00:00:46: Und mal schauen, wie wir die in den nächsten 30 bis 45 Minuten abräumen.

00:00:51: Frage an dich: Wird die KI uns helfen, den Energieverbrauch global zu senken?

00:00:56: Oder führt die KI dazu,

00:00:57: dass der Energiebedarf global in den nächsten Jahren explodieren wird?

00:01:02: Das ist eine sehr gute Frage.

00:01:03: Gleich die große Ausgangsfrage,

00:01:05: damit wir uns nicht mit kleinen Problemen aufhalten.

00:01:08: Die Frage beschäftigt die Informatik schon ganz lange.

00:01:11: Das heißt also: Ist der Aufwand größer als der Nutzen?

00:01:13: Wie ist denn die Nettobilanz?

00:01:15: Man kann sich vorstellen,

00:01:16: das ist nicht ganz leicht zu rechnen, weil ja immer die Frage

00:01:19: ist: Was mache ich mit der KI, was mache ich mit der ICT?

00:01:23: Generell ist es so, dass wir erst mal versuchen, überhaupt

00:01:26: den Energiebedarf von KI und von ICT insgesamt abzuschätzen.

00:01:30: Also sprich: Was brauchen eigentlich die Rechenzentren,

00:01:33: was braucht so ein Endgerät?

00:01:35: Und dann kommt als zweite Frage: Wie kann ich den Nutzen dagegen

00:01:38: bilanzieren?

00:01:39: Aber du wolltest ja mit der großen Frage auch eine große Antwort verbinden.

00:01:43: Ich denke, in der Bilanz, wenn wir es richtig machen,

00:01:46: kann die KI uns helfen, die Umwelt- und Nachhaltigkeitsprobleme zu lösen.

00:01:50: Das heißt, die Nettobilanz ist positiv, wenn wir die Systeme,

00:01:54: die KI-Lösungen und alles, was wir jetzt gerade als Menschheit erfinden, dafür

00:01:58: einsetzen, dass sie unseren Planeten und uns weiterbringen und retten.

00:02:05: Meine persönliche Meinung.

00:02:07: Also, ich hatte mir ja vor einiger Zeit mal angeschaut,

00:02:12: wie eigentlich die Klimabilanz aussieht.

00:02:15: Fangen wir mal an

00:02:16: mit den KI-Rechenzentren, bevor wir dann wirklich auf die einzelnen

00:02:21: Abfragen kommen.

00:02:22: Also: Wie energieverschwenderisch ist es, so einen einfachen Prompt loszuschicken?

00:02:26: Ich denke, jeder hat mittlerweile schon mal etwas mit ChatGPT gemacht.

00:02:30: Bei Google ist es ja fest integriert.

00:02:32: Wenn ich die Google-Suchmaschine benutze, baut Gemini ja im Hintergrund

00:02:37: immer eine KI-Antwort und ersetzt damit eigentlich die Suchergebnisse.

00:02:42: Wie teuer ist es, ein Bild oder ein Video zu machen?

00:02:44: Auch das geht ja mittlerweile sehr schnell und in sehr hoher Qualität.

00:02:48: Aber vielleicht erst mal der Blick auf die KI-Rechenzentren,

00:02:52: die jetzt ja in Europa und global entstehen. Also insbesondere die,

00:02:58: bei denen man ja merkt:

00:03:00: Auch in den USA, die ja das Mutterland der Digitalisierung

00:03:05: sind, wächst der Widerstand in der Bevölkerung,

00:03:09: weil die Energieversorgung primär über Gasturbinen läuft.

00:03:14: Gibt es auch Ansätze?

00:03:15: Ja, wir machen das irgendwie mit modularen Reaktoren, also Kernenergie.

00:03:19: Google oder Microsoft ist es, glaube ich, egal, woher der Strom kommt.

00:03:22: Hauptsache, er kommt dann, wenn wir ihn brauchen. Aber wie?

00:03:24: Wie ist denn da im Moment die Entwicklung und wo geht das hin?

00:03:28: Denn im Moment kennt ja die Kurve

00:03:31: beim Energiebedarf

00:03:31: der KI eigentlich nur eine Richtung, und zwar steil nach oben.

00:03:35: Es geht nach oben, eindeutig.

00:03:37: Und allein in Deutschland sind

00:03:39: nach meinem Stand über 100 Rechenzentren geplant.

00:03:43: Und wir müssen uns vielleicht die Größenordnung noch mal klarmachen,

00:03:47: um die es da geht.

00:03:48: Ja,

00:03:49: du kannst das als Physiker gut einschätzen, was die Leistungsaufnahme angeht.

00:03:52: Da sind wir im Megawattbereich bei den bisherigen

00:03:56: Rechenzentren, Leibniz-Rechenzentrum und so,

00:03:58: da ging es dann um 5, 6 Megawatt Leistungsaufnahme, und mittlerweile

00:04:01: gehen die ganz großen Rechenzentren sogar in den Gigawattbereich hinein.

00:04:05: Das heißt also, das ist schon die Stromleistungsaufnahme

00:04:08: einer Großstadt oder sogar mehr, je nachdem, wie man das dann rechnet.

00:04:13: Das muss man sich bewusst machen.

00:04:14: Der Strom muss stabil zur Verfügung stehen, was gerade in Amerika ein Problem

00:04:18: ist, was die Stabilität des Stromnetzes angeht,

00:04:21: und umgekehrt,

00:04:22: nicht umgekehrt, sondern zusätzlich gibt es natürlich auch den Wasserbedarf,

00:04:25: wo wir,

00:04:26: sagen wir mal, im Bereich von Millionen Kubikmetern sind,

00:04:30: die für die Kühlung verwendet werden oder verwendet werden müssen, was also

00:04:34: dem Bedarf einer, je nachdem, wie man es rechnet, Kleinstadt

00:04:37: bei einem kleinen Rechenzentrum entspricht oder auch einer Großstadt.

00:04:40: Interessanterweise: Bei ganz kleinen Rechenzentren

00:04:42: reicht oft eine Luftkühlung.

00:04:44: Das geht also manchmal sogar mit freier Kühlung, und andere brauchen Wasser.

00:04:48: Das heißt, diese Kombination führt auch in den ländlichen Gebieten von Amerika

00:04:52: zusammen mit dem Strombedarf natürlich zu Diskussionen,

00:04:55: zumal in Amerika die Dinge auch gerne etwas hitziger diskutiert werden.

00:04:59: Aber da geht es wirklich um die örtliche Bevölkerung

00:05:02: und deren Strom- und Wasserversorgung.

00:05:04: Das heißt, wir reden schon von signifikanten Größenordnungen.

00:05:06: Vielleicht noch mal zur Gesamteinschätzung: Die Internationale

00:05:10: Energieagentur geht davon aus, dass wir bis 2030, meine ich, bei knapp

00:05:15: 1.000 Terawattstunden für die KI und für die Rechenzentren sind,

00:05:21: und zwar Terawattstunden pro Jahr. Genau. Und das als Größenordnung:

00:05:24: Wir haben in Deutschland, glaube ich, 450, plus/minus

00:05:27: 500, also quasi das Doppelte des Stromverbrauchs allein in Deutschland.

00:05:31: Es werden mehr, weil Sachen wie Wärmepumpen und Autos dazukommen,

00:05:35: aber so von der Größenordnung her, damit man mal weiß – wir sind

00:05:37: ja auch ein Industrieland –, in welche Richtung das geht.

00:05:40: Es gab früher schon Vergleiche, dass

00:05:42: die Rechenzentren so viel CO₂ ausstoßen wie der internationale Flugverkehr.

00:05:46: Das sind dann so Vergleiche. Das heißt, es ist eine signifikante Größe,

00:05:49: und deswegen ist es umso wichtiger, dass man natürlich versucht,

00:05:52: das auch dafür einzusetzen, dass es unsere Klima-, Energie-

00:05:56: und vielleicht auch sozialen Probleme löst, was weiß ich.

00:06:00: Wir haben ja doch einige globale Herausforderungen, denke ich.

00:06:03: Wir hoffen, dass die KI uns helfen kann.

00:06:05: Ja, genau.

00:06:05: Es ist also Fluch und Segen zugleich.

00:06:08: Und ich glaube, aus dem Stadium, dass wir mit der KI mal

00:06:13: ein bisschen herumspielen und uns dann die Rede für den 70.

00:06:17: Geburtstag der Oma schreiben lassen,

00:06:20: über dieses Stadium sind wir schon lange hinaus.

00:06:24: Die Bild-

00:06:25: generierung ist auf sehr hohem Niveau,

00:06:28: etwa bei Google Gemini, glaube ich.

00:06:30: Ich weiß, dass die von der Firma auch

00:06:34: Videos generieren können,

00:06:36: neben den reinen Spezialanwendungen, die nur Videos machen.

00:06:41: Das Gleiche geht jetzt auch mit Musik.

00:06:42: Auch da bietet Gemini das regulär an, dann gibt es wieder

00:06:46: Spezialanbieter, und das ist ein ganz großes Feld,

00:06:50: aber es gibt ja wahnsinnig

00:06:52: viele Anwendungsfelder,

00:06:56: die man jetzt gerade erst kennenlernt und die wir an der Hochschule

00:07:00: kennenlernen, die jetzt in den Unternehmen ankommen.

00:07:04: Man sieht jetzt, dass mir die KI dabei

00:07:07: hilft, meine Unterlagen für die Steuererklärung

00:07:10: vorzubereiten, indem ich ihr sage: „Hier, liebes Claude,

00:07:16: oder wie auch immer,

00:07:17: hier hast du meine ganzen Dokumente, meine Lohnabrechnung.“

00:07:20: Man muss wollen, dass man das hochlädt,

00:07:21: denn dann kennen die Amerikaner das natürlich und nutzen das weiter.

00:07:25: Aber das ist so die Alltagsanwendung.

00:07:28: Aber auch da,

00:07:29: wenn ich jetzt so ein Dokument hochlade, muss die KI ja erst mal

00:07:33: eine Texterkennung machen und verstehen, was der Inhalt ist,

00:07:35: wenn es ein kompliziertes Dokument ist, eine Lohnabrechnung, das mal sortieren:

00:07:38: Was heißt das eigentlich?

00:07:40: Auch wenn sie natürlich weiß, wie eine Lohnabrechnung aussieht.

00:07:42: Genau, aber das ist ja schon …

00:07:45: Also da sind ja Millionen und Milliarden an Anfragen, die da kommen.

00:07:52: Wobei wir auch da differenzieren müssen:

00:07:56: Das Nutzen

00:07:58: ist ja der eine Teil, und zwar der kleine Teil. Der viel größere Teil

00:08:02: kommt energetisch ja vorher:

00:08:04: Das ist das Training, also der KI beizubringen, diesen Kontext zu verstehen.

00:08:08: Kannst du das mal einordnen?

00:08:09: Wie verteilt sich denn eigentlich jetzt der Energiebedarf,

00:08:13: wenn ich sage, eine Anfrage kostet so viel, aber in Summe habe ich einen Riesenklotz,

00:08:17: den ich da mit mir herumtrage?

00:08:18: Ja, also es ist tatsächlich so, dass sich das gerade ein bisschen verändert.

00:08:23: Früher

00:08:24: konnte man vielleicht sagen 80 zu 20, 90 zu 10,

00:08:28: das heißt, viel ging ins Training und wenig in die Inferenz.

00:08:31: Aber mittlerweile hat sich das umgekehrt, zumindest nach den Schätzungen.

00:08:35: Und zwar deshalb, weil jetzt viel mehr Leute das nutzen.

00:08:38: Das heißt,

00:08:38: du hast ein Basismodell trainiert, ein Foundation Model, ein Frontier Model.

00:08:42: Und das wiederum wird jetzt von ganz vielen Leuten genutzt.

00:08:45: Das heißt,

00:08:45: die Inferenz macht dann tatsächlich mehr aus, und zwar mehr als die Hälfte.

00:08:49: Wobei die Schätzung schwierig ist.

00:08:51: Das heißt also,

00:08:52: am Anfang wurde viel trainiert, um eine Grundlage zu haben,

00:08:56: von den großen Tech-Unternehmen und auch von anderen.

00:08:58: Und jetzt kommen die Modelle in die Anwendung.

00:09:00: Auch lokal läuft ja ganz viel. Das heißt, wir sehen da

00:09:03: tatsächlich insofern, wie soll ich sagen, nicht eine Umkehr,

00:09:06: aber diesen Trend, den wir auch aus der Software kennen: diesen Unterschied

00:09:09: zwischen Individualsoftware und Standardsoftware.

00:09:13: Individualsoftware wird nur einmal installiert, Standardsoftware nutzen ganz viele.

00:09:16: Da lohnt es sich, auch kleine Verbesserungen zu machen.

00:09:18: Deswegen wird im Moment auch viel an der Inferenz geforscht.

00:09:21: Das heißt also:

00:09:21: Wie kann ich das noch schneller hinkriegen, Matrixmultiplikationen und so,

00:09:25: weil eben jetzt alle direkt oder indirekt die Sprachmodelle nutzen.

00:09:30: Und man kann noch einen Schritt weitergehen:

00:09:31: die Agenten, die jetzt ja faktisch auch selbst die Sprachmodelle nutzen.

00:09:35: Die wiederum sind ja auch welche, die etwas anwerfen.

00:09:38: Die werfen ja kein Training an, sondern Inferenz.

00:09:41: Das heißt, nach meinem Stand dreht sich das gerade ein bisschen um.

00:09:44: Was natürlich sein kann, ist, dass irgendwann noch mal

00:09:47: eine große Phase kommt, in der dann wieder nachtrainiert wird.

00:09:50: Ja, also wo dann geschaut wird: Jawoll,

00:09:53: jetzt müssen wir die Modelle noch mal auffrischen.

00:09:55: Es gibt auch neueste Ansätze, dass das in Hardware gegossen wird,

00:09:58: zum Beispiel.

00:09:58: Das ist deutlich energieeffizienter, aber dann natürlich fest verdrahtet,

00:10:02: aber ich könnte mir

00:10:02: vorstellen, dass es nachher auch Chips gibt, die so das Basiswissen,

00:10:06: keine Ahnung,

00:10:06: Wikipedia, zur Verfügung haben und die dann unheimlich

00:10:09: schnell und energieeffizient sind.

00:10:11: Also sprich,

00:10:11: genau diese Frage hat mich auch interessiert,

00:10:13: und da hatte ich vorher auch mal geschaut, und es ist tatsächlich so,

00:10:16: dass sich das wegen der starken Nutzung etwas umkehrt.

00:10:20: Das ist ja auch irgendwie nachvollziehbar, wenn viele Leute

00:10:23: das verwenden, dass es dann von 80 zu 20 nach vielleicht 30, 40 oder 50

00:10:31: zu 50 geht.

00:10:32: Aber ein Problem vielleicht noch generell, wenn ich das ansprechen darf,

00:10:35: Henrik: Die Tech-Unternehmen lassen das natürlich nur begrenzt raus.

00:10:39: Ja, das heißt also,

00:10:40: das ist ja genau das Geschäftsgeheimnis: Wie viel habe ich jetzt da laufen?

00:10:43: Klar, das Modell ist so viele Hundert Stunden trainiert worden,

00:10:46: aber wie viel das dann genau war und wie viel nachtrainiert wird,

00:10:49: und was auch noch wirklich im Dunkeln

00:10:51: liegt, für mich jedenfalls, und wozu es auch sehr wenige Untersuchungen gibt,

00:10:53: ist, was überhaupt das Erfassen der Daten kostet

00:10:56: oder dass die Sprachmodelle dauernd versuchen, neue Originaldaten zu bekommen.

00:11:01: So nach dem Motto: Wo kriege ich die jetzt her? Also grase ich die Webseiten ab.

00:11:04: Ich mache alles Mögliche. Also, sprich: Auch das kostet,

00:11:08: und das ist in den Berechnungen oft nicht drin.

00:11:11: Und das muss man für die Gesamtbilanz eigentlich auch mit

00:11:14: berücksichtigen oder eben sagen, dass es relativ wenig dazu beiträgt.

00:11:17: Ich habe gerade mal geschaut, ich habe ja auch

00:11:18: mal so eine Tabelle zusammengestellt, und da gehen sie

00:11:23: erst mal von dem reinen Modell aus, dass das bei über 80 Prozent liegt.

00:11:27: Ja, wenn ich das richtig trainiere, wenn die Inferenz quasi,

00:11:30: wie soll ich sagen, nur zum Testen gedacht ist.

00:11:34: Aber in dem Moment, wo ich ein Modell wirklich ausrolle,

00:11:37: kehrt sich das um.

00:11:38: Ja, klar. Und dadurch, dass die Qualität … Du hast ja gerade

00:11:42: diese KI-Agenten angesprochen, also dass quasi

00:11:45: das System

00:11:48: das große Problem in viele kleine Teile aufteilt

00:11:51: und dann diese – man nennt das ja Agenten – selbstständig versuchen,

00:11:55: dieses Problem zu lösen. Also beispielsweise

00:12:00: sagt man der KI: Bitte

00:12:01: buch mir eine Bahnfahrt nach Berlin und trag sie in meinen Kalender ein.

00:12:05: Dann gibt es einen ersten Agenten, der fängt an, sucht und bucht das dann.

00:12:08: Theoretisch könnte der ja, wenn er die Kreditkartendaten hat

00:12:11: oder Zugriff darauf hat, auch die Buchung tätigen, und damit ist er fertig.

00:12:15: Dann geht der nächste Agent los und guckt: Wie trage ich das jetzt

00:12:18: in meinen persönlichen Kalender

00:12:23: oder sonst einen Kalender ein?

00:12:25: Und ich sage mal, die wuseln dann herum, obwohl es ja

00:12:29: kein Wuseln ist,

00:12:29: weil es keine haptischen Objekte sind, sondern immer kleine,

00:12:34: selbstständig agierende Computerprogramme. – Ja.

00:12:38: Und die sind hinreichend intelligent.

00:12:40: Aber dadurch, dass die Qualität mittlerweile so hoch ist,

00:12:44: ist es einfach so verbreitet, sie zu nutzen.

00:12:47: Also nur mal eben schnell:

00:12:49: Ob man jetzt die

00:12:49: Hausaufgaben damit machen lässt oder

00:12:53: sich die vollständig ausformulierte Rede für den 70.

00:12:56: Geburtstag der Oma schreiben lässt.

00:12:59: Das ist so alltäglich geworden,

00:13:02: weil die Qualität einfach so gut ist. Und in der Anfangszeit –

00:13:06: das ist jetzt ja vier Jahre her,

00:13:09: Ende 2022 –

00:13:12: da war das ja alles ganz nett, aber da hat man das noch belächelt,

00:13:15: nach dem Motto: Ach ja, gut, der macht ja Fehler und halluziniert,

00:13:19: denkt sich Dinge aus, die so nicht stimmen.

00:13:21: Auch das ist ja weitestgehend verschwunden,

00:13:24: dieses Halluzinieren. Das ist schon …

00:13:26: Also dieses Erfinden von Daten ist deutlich

00:13:30: – ich sage mal – besser versteckt,

00:13:31: und beim Alltagswissen ist es ja komplett weg, oder?

00:13:34: Ja, also das ist zurückgegangen.

00:13:35: Wobei es auch stark davon abhängt, wie man sie füttert,

00:13:38: die Modelle.

00:13:39: Also ich habe jetzt aus dem Bekanntenkreis noch mal Beispiele gehabt,

00:13:42: wo dann irgendwie auch Unsinn herauskam, weil gewisse Informationen nicht da waren.

00:13:46: Und erst auf Nachfrage

00:13:48: hat das Sprachmodell noch mal genauer geschaut, was Sache ist.

00:13:50: Man muss also tatsächlich ein bisschen aufpassen.

00:13:52: Aber wir sind ja beim Energiebedarf und den Schätzungen.

00:13:54: Ich hatte mir mal einen Vergleich zusammenstellen lassen:

00:13:56: von unserer feuchten Hardware hier oben

00:14:00: zu einer Google-Suche oder einer Suche

00:14:03: in einer bekannten Suchmaschine und dann eben zu Sprachmodellen wie Gemini.

00:14:08: Und da ist, wenn ich jetzt sage, unser

00:14:10: Gehirn eigentlich am effizientesten.

00:14:12: Ich habe mal gefragt, was denn die Hauptstadt von Frankreich ist. Die kennst du

00:14:15: wahrscheinlich, und das Gehirn braucht dann vielleicht so 0,01 Wattstunden

00:14:20: dafür, weil es auch irgendwo im Cache ist.

00:14:23: Die Google-Suche dann so das Dreifache und so eine KI-Suche das 30-Fache.

00:14:28: Und worauf will ich hinaus?

00:14:30: Im Prinzip ist es so: Die Verbräuche sind da.

00:14:32: Das heißt, wir müssen das natürlich intelligent nutzen.

00:14:35: Und das ist letztlich wie beim Autofahren: Wenn ich nur von A nach

00:14:38: B fahre, um ein paar Brötchen zu holen, dann würde ich auch nicht mit dem Laster fahren.

00:14:41: Also sprich, wir müssen das, was

00:14:43: wir haben, eigentlich da anwenden, wo es passt, und gleichzeitig natürlich versuchen,

00:14:46: die KI-Systeme so aufzubauen, dass sie uns tatsächlich bei einem Problem helfen.

00:14:51: Und ich sage mal,

00:14:52: wir müssen vielleicht auch unterscheiden zwischen der klassischen KI –

00:14:55: also zum Beispiel Klassifikation, Regression, Mustererkennung –

00:14:59: und eben der generativen KI.

00:15:01: Und ich würde sagen, bei der klassischen

00:15:02: KI ist total viel zu holen in der Optimierung.

00:15:05: Denk mal an dein Spezialgebiet,

00:15:07: Energiesysteme und so,

00:15:08: wenn ich also die Erzeuger-Verbraucher-Kopplung optimieren will.

00:15:11: Genau da kann die KI ja helfen, sozusagen als Basis.

00:15:16: Unten kommt gerade eine Meldung – ich weiß nicht, ob du die siehst.

00:15:20: Ach so, geht weiter. Alles klar.

00:15:24: Ja, auch Technik muss mal ihre Meinung sagen dürfen.

00:15:28: Genau.

00:15:29: Das heißt,

00:15:29: also einerseits solche Optimierungsgeschichten, wo, glaube ich, auch noch viel Luft ist.

00:15:32: Und das Spannende ist aber:

00:15:33: Wenn man das

00:15:34: jetzt mit den Sprachmodellen kombiniert, dann können wir wirklich auch mit

00:15:37: dem Nutzer interagieren.

00:15:38: Man denke an die typische Gebäudetechnik oder so, wo dann

00:15:41: sowohl der Endnutzer als auch vielleicht das Technikteam Informationen

00:15:45: über das Gebäude bekommt, die dann auch valide und aufbereitet sind.

00:15:49: Und diese Kombination macht es spannend,

00:15:51: und ich glaube, gerade in diesem engeren Bereich, wie gesagt Optimierungsverfahren,

00:15:54: Klassifizierungsverfahren …

00:15:56: Man denkt da oft an die berühmten Katzenbilder, die da erkannt werden.

00:15:59: Aber in der Praxis kann man ja ganz viel machen,

00:16:02: was unsere Ökosysteme wirklich auch verbessern kann,

00:16:05: was vielleicht irgendwelche Schadstoffausbreitungen analysiert und so.

00:16:09: Also da sehe ich schon Möglichkeiten.

00:16:11: Aber es ist wie immer:

00:16:12: Man muss es so nutzen, dass es wirklich der Aufgabe angepasst ist.

00:16:16: Und ich sage mal, bei solchen Gelegenheiten

00:16:19: kann man die guten alten Umweltprinzipien Effizienz und Effektivität

00:16:24: und auch Suffizienz hier anwenden.

00:16:26: Das heißt, Suffizienz:

00:16:27: Brauche ich es überhaupt, oder geht das vielleicht auch mal hier

00:16:30: oben mit einer einfacheren Lösung?

00:16:31: Und zweitens: Wie komme ich an Daten oder andere Sachen heran?

00:16:35: Kann ich das …

00:16:35: Vielleicht kann ich Sachen wiederverwenden und so.

00:16:37: Das ist halt auch mein Forschungsgebiet,

00:16:39: weil im Moment

00:16:40: natürlich auch ganz viel Energie verbraten wird,

00:16:42: indem irgendwelche Sachen getestet werden.

00:16:44: Ja, und – mal sehen, wie du das siehst – man hört ja,

00:16:48: dass ein Problem der Techkonzerne ist, dass sie ja auch gucken müssen,

00:16:52: dass sie irgendwann Plus machen.

00:16:54: Und da ist ja die Frage – die stecken ja ganz viel Geld rein –, ob die dann jetzt

00:16:58: noch mehr … Rechenzentren müssen auch finanziert werden.

00:17:00: Also die Ausbauten, die wir gerade diskutiert haben, die müssen ja

00:17:04: erst mal über Kredite finanziert werden.

00:17:05: Irgendwo muss das Geld herkommen, und da bin ich mal gespannt, was da passiert.

00:17:09: Und das kann man, glaube ich, noch nicht so genau voraussehen.

00:17:12: Umgekehrt wird es uns als Menschheit hoffentlich weiterbringen,

00:17:16: aber es kommt darauf an, wie wir es nutzen.

00:17:19: Ja, aber ich fand den Vergleich jetzt ganz, ganz nett mit dem …

00:17:24: Also wie energieeffizient unser Gehirn ist.

00:17:29: Denn das braucht auch einiges an Energie,

00:17:31: die müssen wir dann über Kalorien zuführen,

00:17:35: und das ist ja über die Jahrmillionen

00:17:39: auch energieoptimiert worden und auch leistungsoptimiert.

00:17:45: Jetzt hat die KI natürlich den Vorteil, die weiß erst mal immer alles.

00:17:49: Wir wissen nicht immer alles, sondern nur das, was wir gelernt haben.

00:17:53: Und auch da müssen wir vielleicht noch mal nachgucken und uns erinnern.

00:17:56: Wobei auch die Speicherkapazität ja immens ist.

00:17:59: Also wie speichert der Mensch Informationen?

00:18:04: Biologisch, das heißt also in Molekülen.

00:18:08: Oder halt im Kurzzeitspeicher auch elektrisch?

00:18:10: Ja, genau. Genau.

00:18:11: Aber das ist halt hocheffizient.

00:18:15: Da braucht der Rechner entsprechende Festplatten,

00:18:19: um es abzulegen, oder halt den elektronischen Speicher.

00:18:24: Aber das ist schon hocheffizient.

00:18:26: Und wenn man überlegt, dass dann so eine Abfrage ein

00:18:29: Vielfaches mehr an Energie verbraucht

00:18:34: und da ja

00:18:35: auch viel dabei ist, wo man sagen muss: Ja,

00:18:37: da hätte man durch Nachdenken das Problem vielleicht

00:18:39: auch selbst lösen können, aber es ist halt bequemer.

00:18:41: Der Mensch ist ja ein faules Wesen.

00:18:44: Ist er.

00:18:45: Dann führt das dazu, dass man statt des eigenen Gehirns

00:18:50: und des Trainings des Gehirns lieber eine KI verwendet.

00:18:56: Ja, es … – Wie du sagtest:

00:18:57: Bei den Geschäftsmodellen liegt natürlich das Problem.

00:19:00: Also irgendwann müssen die Unternehmen mal Geld verdienen.

00:19:02: Bisher dürfen sie noch Geld verbrennen, weil es immer noch diese Start-up-Phase

00:19:06: ist. Da ticken die Amerikaner ja auch anders als andere Regionen.

00:19:09: Ich denke mal, in China, in einem planwirtschaftlichen

00:19:13: Kapitalismus, will ich ihn mal nennen,

00:19:17: ist die Situation auch noch mal eine andere.

00:19:19: Auch das ist kein freier Markt, sondern ein staatlich regulierter Markt.

00:19:24: Und dann haben wir natürlich die EU, die gucken muss, wie sie sich da

00:19:28: dazwischen positioniert.

00:19:30: Aber im Moment ist das Motto doch eigentlich noch „Size matters“.

00:19:34: Also je größer, je pompöser,

00:19:38: desto besser kann ich wahrscheinlich auch Investoren dafür begeistern.

00:19:41: Und dann haben wir natürlich die Herausforderung:

00:19:43: Wie kriege ich dann noch den Strom?

00:19:45: Und ich habe jetzt gerade auch noch mal schnell nachgeguckt: Also diese großen KI-

00:19:52: Campusse – wie sagt man –,

00:19:55: im Lateinischen müssten es Campi sein –,

00:19:58: da sind wir wirklich im Bereich von, ich sage mal, 500

00:20:01: Megawatt bis Gigawatt.

00:20:05: Das ist schon …

00:20:05: Das ist die Leistung, die Anschlussleistung.

00:20:08: Das heißt, das ist ja die Dicke des Kabels:

00:20:10: Wie dick muss das Stromkabel sein, damit wir die ganzen Prozessoren alle bedienen?

00:20:15: Genau.

00:20:17: Das ist schon …

00:20:19: Also, da ist noch kein Effizienzdenken drin.

00:20:22: Oder denken die großen Unternehmen auch schon an das Thema Energieeffizienz?

00:20:25: Ich habe …

00:20:26: Doch, also das denke ich jetzt schon. Gerade beim Thema Inferenzoptimierung –

00:20:31: man hat jetzt die Matrixmultiplikation noch

00:20:33: mal optimieren und verbessern können, sogar KI-gestützt.

00:20:36: Ich glaube, das spielt da schon mit rein, weil das ja direkte Kosten sind.

00:20:39: Aber wie das so ist: Wenn du faktisch noch ein Start-up bist,

00:20:42: willst du erst mal versuchen, auch Kunden zu gewinnen.

00:20:44: Das heißt, du willst neue Probleme lösen, ob das mathematische Beweise sind oder

00:20:47: eben Moleküle oder irgendwelche Proteinfaltungen oder so.

00:20:52: Ich denke schon, dass das im Hintergrund auch läuft.

00:20:55: Wir haben da halt immer die Frage nach dem Reboundeffekt.

00:20:59: Das heißt also: Wenn jetzt irgendwie etwas eingespart wird,

00:21:01: weil es effizienter ist, habe ich dann vielleicht sogar absolut gesehen

00:21:04: doch noch mehr verbraucht, weil es dann mehr genutzt wird?

00:21:07: Im Moment, glaube ich, läuft quasi alles auf Anschlag, um

00:21:09: die Daten aktuell zu halten, um einfach auch den Kunden

00:21:13: etwas zu bieten, in Anführungszeichen, um sie auch an die Plattform zu binden.

00:21:17: Aber irgendwann wird sich das ja rein physikalisch gesehen abflachen,

00:21:21: weil wir nicht beliebig Rechenzentren bauen können,

00:21:23: und dann muss es automatisch effizienter werden.

00:21:25: Das war aber schon immer so, also auch in technischen Entwicklungen:

00:21:28: Es kam erst mal das System, und dann kam vielleicht dieses Thema Grenze.

00:21:31: Vielleicht eine Sache noch, die ich da interessant finde,

00:21:34: ist: Man sagt ja gerne mal zu Sprachmodellen „bitte“ oder „danke“.

00:21:37: Ich weiß

00:21:37: nicht, ob dir das schon mal passiert ist. Und das ist tatsächlich

00:21:41: natürlich Quatsch aus Sicht des Sprachmodells, und das verbrennt

00:21:44: auch, habe ich mal gelesen, schon einige Millionen Kilowattstunden.

00:21:48: Aber die Tech-Betreiber sagen, das ist wichtig und gut,

00:21:51: weil das für die Bindung an den Chat natürlich hilft.

00:21:55: Das heißt also: Im Moment werden einfach Daten hin-

00:21:58: und hergeschoben. Und vielleicht ein zweiter Punkt,

00:22:00: wo wir gerade bei Effizienz sind:

00:22:01: Ein typisches Problem, das teuer ist –

00:22:03: kennst du ja auch von deiner Nutzung –, ist, dass der ganze Kontext

00:22:08: jedes Mal hin- und hergeschoben wird.

00:22:09: Deswegen muss er manchmal komprimieren. Also auch da ab und zu mal sagen:

00:22:13: Kontext leeren.

00:22:14: Und dann fange ich noch mal klein an, weil ich das vorher vielleicht gar nicht

00:22:18: alles wissen will, oder es ist nicht notwendig, um die Frage zu beantworten.

00:22:21: Aber wie gesagt: Bitte, danke.

00:22:22: Da hat man mir, glaube ich, damals konkret gesagt: Ja, das sei ihnen auch

00:22:26: schon aufgefallen, aber das sei sinnvoll, weil das eben eine gewisse Bindung

00:22:30: schafft.

00:22:31: Und die Kilowattstunden investieren sie gerne.

00:22:34: Also danach werden die Antworten besser.

00:22:36: Also das heißt: nett sein zu deiner KI –

00:22:39: wer weiß, wenn sie dann irgendwann die Weltherrschaft übernimmt.

00:22:42: Genau, das hört

00:22:42: man ja. Dann erinnert sie sich daran: Das war doch der nette Mensch,

00:22:47: der hat immer bitte und danke gesagt, mich gelobt und nicht nur beschimpft.

00:22:52: Das haben wir schon öfter gehört.

00:22:53: Ja, genau dieses Argument – ich weiß nicht.

00:22:55: Das müssen wir uns vielleicht in ein paar Jahren

00:22:56: mal anschauen. Aber ich könnte mir schon vorstellen,

00:22:58: dass das irgendwo auch mit abgespeichert ist.

00:23:00: Und vielleicht noch, was ja tatsächlich im Moment passiert:

00:23:03: Ich glaube, ChatGPT war das, ich will jetzt nicht lügen,

00:23:07: die gesagt haben: Das Beleidigen des Modells wird unterbunden.

00:23:10: Ja, also sprich, wenn das wirklich unflätig wird.

00:23:13: Und ich denke, damit meint man nicht

00:23:14: „Das stimmt nicht“ oder so, aber wenn man wirklich unflätig wird,

00:23:17: dann wird das Gespräch entsprechend auch unterbrochen.

00:23:19: Das wird dann vielleicht auch irgendwo abgespeichert. Wer weiß.

00:23:22: Ja gut, also, ich meine, auch das muss man sagen. Und

00:23:25: ein weiterer Punkt, was jetzt

00:23:28: die Konvergenz, das heißt das Abflachen der Lernkurve, angeht:

00:23:32: Die großen KI-Modelle haben jetzt überhaupt mal

00:23:37: alle frei zugänglichen Daten aufgesaugt und verarbeitet.

00:23:42: Ich glaube, in der Fachsprache sind das die Crawler, die dann rumkrabbeln.

00:23:46: Das heißt, die wuseln durch das Internet,

00:23:50: betreten dann auch Bereiche, in die sie nicht sollen.

00:23:52: Es gibt ja jetzt die ersten Berichte, dass diese KI-Agenten der großen Modelle

00:23:56: aus ihren Systemen ausgebrochen sind.

00:24:00: Man vermenschlicht das ja sehr stark.

00:24:02: Ja, genau.

00:24:04: Ich finde das Bild ganz gut, aber es ist ja nicht so, dass das

00:24:06: kleine Wesen sind, die dann da im Internet rumlaufen.

00:24:08: Das ist Quatsch.

00:24:09: Das sind alles nur Datenpakete, die dann irgendwelche Dinge tun,

00:24:12: oder kleine Programme, aber

00:24:15: die sich dann in Bereiche

00:24:17: reinhacken, reinmogeln, um dort weiter Daten abzugreifen,

00:24:23: weil das aus ihrer Sicht der Lösung

00:24:26: oder der Aufgabenstellung entspricht.

00:24:29: Aber:

00:24:32: Es gab ja so die Berichte, dass jetzt die großen Hersteller

00:24:35: Archive mit alten Büchern aufkaufen, sie scannen und danach schreddern,

00:24:40: weil sie sagen: Brauchen wir sowieso nicht mehr.

00:24:42: Die werden dann maschinell eingescannt, um das Wissen

00:24:46: auch noch zu integrieren, damit alles Wissen der Menschheit,

00:24:50: das jemals aufgelaufen ist, in diese KI-Trainingsmodelle kommt.

00:24:54: Aber dann ist ja irgendwann Schluss.

00:24:55: Danach drehen wir uns doch im eigenen Saft.

00:24:57: Beobachtet man das,

00:24:59: oder ist das immer noch eine Lernkurve, die weiter nach oben geht?

00:25:04: Also im Moment – ich glaube, beim letzten Podcast haben wir das diskutiert –

00:25:08: Ja, das hatten wir schon einmal.

00:25:10: … mit einer gewissen Inzucht. Und ich glaube, dass das so Wellen sind,

00:25:14: also so beobachte ich das.

00:25:15: Das heißt, es kommt zum Teil zu einer gewissen Abflachung, aber gleichzeitig wird halt

00:25:19: auch viel mehr Energie in diese Kontrolle reingesteckt.

00:25:22: Das heißt,

00:25:23: dass intern das Reasoning stattfindet, dass man überlegt: Stimmt das Ergebnis?

00:25:27: Es wird abgeglichen

00:25:27: mit anderen Quellen. Neu ist ja auch, dass die Sprachmodelle anzeigen:

00:25:30: Welche Quellen schaue ich mir gerade an?

00:25:32: Von daher ist das, glaube ich, im Moment immer noch im Wachstum,

00:25:36: und diese Abflachung … Vielleicht wird die Kurve flacher.

00:25:38: Klar, wenn man das jetzt mit 2022 vergleicht, mit dem, was vorher ging

00:25:42: und so – und jetzt werden die Verbesserungen immer als Durchbruch bezeichnet.

00:25:45: Aber ich glaube schon, dass es jetzt sozusagen mehr in die Qualität geht

00:25:49: und nicht so sehr in

00:25:51: die Quantität. Das sieht man ja an den mathematischen Beweisen und anderen Sachen.

00:25:54: Das heißt,

00:25:55: wenn ich entsprechend

00:25:56: wirklich viel Energie reinstecke, kann ich auch noch bessere Ergebnisse erzielen.

00:26:00: Also von daher glaube ich schon, dass die Lernkurve jetzt noch nach oben geht.

00:26:03: Und zwar: Wie du sagst, viele Daten sind da, auch historische Daten.

00:26:07: Aber jetzt sind ja wir Nutzer diejenigen, die quasi das Modell auch füttern.

00:26:11: Das heißt, es gibt jetzt so viele Milliarden Sprachmodell-

00:26:13: Nutzer, die erzeugen ja auch täglich frischen Content,

00:26:16: die erzeugen Stimme und erzeugen Ideen und so. Also von daher

00:26:19: glaube ich schon, dass die Kurve weiter nach oben geht.

00:26:22: Vielleicht flacht sie ab,

00:26:23: aber es ist ja auch gut, wenn die Qualität dann vielleicht besser werden würde.

00:26:27: Und ich glaube allein –

00:26:28: ich weiß nicht, ob du das gelesen hattest –, dass seit Anfang des Jahres mehr KI-

00:26:32: Agenten Webseiten aufrufen als menschliche Nutzer.

00:26:36: Ja, ja, das ist ja so ein Switch.

00:26:38: Vorher hätte man gesagt: Okay, ab und zu kommt der Bot vorbei,

00:26:41: und jetzt ist nur noch der Bot da.

00:26:42: Und ich glaube, in diese Richtung wird es halt gehen.

00:26:44: Ja, dass eben

00:26:45: viele Aufgaben im Hintergrund erledigt werden von den KI-Agenten.

00:26:49: Und dann ist,

00:26:51: glaube ich, dadurch auch

00:26:52: eine gewisse Qualitätssteigerung wahrscheinlich da,

00:26:55: weil eben dort die Prozesse jetzt auch verbessert werden müssen.

00:26:57: Die sollen, wie du sagst, vermenschlicht nicht ausbrechen.

00:27:00: Die sollen im Prinzip die Aufgaben lösen, sie sollen wissen, was du machen willst.

00:27:04: Und ich glaube, das wird im Hintergrund passieren. So vom Gefühl her.

00:27:06: Also kurz gefasst:

00:27:07: Ja, ich denke,

00:27:08: die Lernkurve ist zwar flacher geworden, aber sie geht immer noch nach oben.

00:27:12: Okay.

00:27:15: Auch

00:27:16: darf man ja nicht vergessen, dass die KI erst mal, ganz stumpf

00:27:21: gesagt, nur ein sehr guter Zufallsgenerator ist.

00:27:25: Also viel mehr kann die ja nicht.

00:27:28: Auch wenn man jetzt sagen muss, sie hat immer mehr

00:27:31: menschenähnliche Züge.

00:27:34: Es wirkt zumindest so, und man kann sich auch sehr natürlich mit ihr unterhalten.

00:27:38: Das bieten ja die

00:27:42: Tools, dass man mit der KI sprechen

00:27:46: kann – jetzt nicht nur diktieren, sondern dass auch die Antworten kommen,

00:27:49: und zwar hinreichend schnell.

00:27:53: Das ist schon von der Qualität her sehr gut.

00:27:57: Vielleicht dann noch mal der Bogen zurück

00:28:00: von den großen Rechenzentren jetzt noch mal hin

00:28:04: zu der Einordnung:

00:28:07: Was verbrauchen wir eigentlich an Energie?

00:28:11: Also du hattest mir hier diese Daten aus der Nature geschickt,

00:28:16: dem sehr angesehenen Wissenschaftsjournal,

00:28:20: in dem man jetzt mal versucht hat abzuschätzen,

00:28:22: wie groß der Energieverbrauch für verschiedene Aufgaben ist.

00:28:25: Das geht dann los bei einfachen Zusammenfassungen von Texten.

00:28:29: Das sind dann 7 Wattstunden.

00:28:33: Antwort auf eine Frage: Das sind

00:28:35: 23 Wattstunden, also schon so Faktor drei.

00:28:39: Damit lade ich hier mein Smartphone auf.

00:28:42: Also so viel Energie steckt dann in der Batterie drin.

00:28:46: Und das Erzeugen

00:28:48: eines Bildes verbraucht gute 500 Wattstunden,

00:28:53: also eine halbe Kilowattstunde.

00:28:56: Den Laptop hier kann ich mit der Menge

00:28:59: dann zehn Stunden lang betreiben –

00:29:02: für ein Bild, das ich generiere,

00:29:05: auch wenn es jetzt ein einfaches Bild ist.

00:29:08: Und mir ist letztens aufgefallen, dass sehr viele Geschäfte

00:29:11: in der Innenstadt mittlerweile mit KI-generierten Postern Werbung machen.

00:29:15: Man sieht es den Dingern halt immer noch an.

00:29:18: Ob das jetzt marketingtechnisch gut oder schlecht ist,

00:29:21: sei mal dahingestellt. Aber lass uns das noch mal einordnen:

00:29:25: Also wo geht da die Reise hin?

00:29:27: Wird das immer komplizierter, immer komplexer, oder geht auch das

00:29:31: eher zurück, dass man sagt,

00:29:34: diese Aufgaben werden immer effizienter, das Bildgenerieren wird

00:29:38: immer effizienter? Oder wird es immer aufwendiger,

00:29:41: weil immer mehr Content da ist, der dann in so einem Bild verarbeitet wird?

00:29:45: Ja, also das ist eine gute Frage.

00:29:47: Ich habe jetzt keine Glaskugel hier, sonst würde ich da mal reinschauen.

00:29:50: Aber ich glaube, oder

00:29:52: nach unserem Kenntnisstand ist es so, dass die bestehenden Verfahren

00:29:55: schon effizienter werden.

00:29:57: Da werden Dinge optimiert, da wird Mathematisches optimiert und so,

00:30:00: aber es wird dadurch

00:30:01: eben auch mehr genutzt, weil es einfacher ist – Reboundeffekt.

00:30:04: Und zum anderen will man natürlich auch mehr

00:30:06: Darstellungen haben. Dann geht es vielleicht Richtung 3D,

00:30:08: dann will man vielleicht Interaktion haben und so.

00:30:10: Das heißt, die Dinge, die erstellt werden, werden auch komplexer.

00:30:13: Also die Erfahrung aus den letzten 20, 30 Jahren Forschung ist,

00:30:17: dass die Dinge zwar effizienter werden, aber dafür auch komplexere Dinge

00:30:20: hergestellt werden und das wiederum auch mehr genutzt wird.

00:30:24: Das heißt also, es kommt immer darauf

00:30:26: an: Mache ich sozusagen etwas Vernünftiges, in Anführungszeichen, damit?

00:30:29: Und was auch immer ganz gut ist, ist so eine Faustregel:

00:30:32: Wenn ich etwas Textbasiertes mache,

00:30:34: ist das immer effizienter als Audio, und das wiederum effizienter als Video.

00:30:37: Das hat ganz schlicht mit den Daten und der Menge an Daten zu tun.

00:30:40: Das heißt also, deswegen sehen wir hier diese halbe Kilowattstunde für die Bildgenerierung.

00:30:44: Deswegen ist das ja bei den Modellen auch oft gerade in der Gratisversion

00:30:47: reglementiert, weil das halt so teuer ist.

00:30:50: Und wenn ich halt an einem mathematischen Beweis dann tagelang oder so rechne …

00:30:53: Ja, ich sage mal so: Du hast ja auch nach der Qualität gefragt.

00:30:56: Ich glaube, spannend sind doch Ergebnisse, die irgendwie überprüfbar sind.

00:30:59: Das gefällt mir an den Beweisen

00:31:00: eigentlich so gut, weil du da wirklich

00:31:03: mit Lean oder so überprüfen kannst,

00:31:03: ob das jetzt ein korrekter Beweis ist, oder wenn du Optimierungsverfahren hast

00:31:07: oder so.

00:31:07: Das ist dann so ein bisschen handfester, weil das dann Ergebnisse sind, die auch

00:31:11: reproduzierbar sind. Bei diesen ganzen Bildersachen

00:31:14: oder der Unterstützung von Marketing oder so ist das

00:31:17: ein bisschen schwieriger einzuschätzen.

00:31:19: Da kommt, glaube ich, immer so zum Tragen, dass es halt einfach

00:31:22: jetzt noch ein Zubrot oder ein Zuschussgeschäft ist.

00:31:25: Irgendwann muss man halt was dafür zahlen, oder man kriegt Werbung

00:31:29: zu sehen. Oder, was ich mir auch vorstellen könnte,

00:31:32: dass die dann nachher gerne

00:31:33: Copyright auf deine Ergebnisse hätten. Ein Wasserzeichen wäre dann

00:31:37: ja naheliegend, wenn irgendwas Gutes produziert wird.

00:31:40: Und ist das jetzt deins

00:31:41: oder das von der KI oder dadurch das von OpenAI? Wird man sehen.

00:31:45: Ja, also, sagen wir mal, weil wir die Diskussionen ja auch schon hatten:

00:31:49: Es geht,

00:31:49: glaube ich, darum, ein Gefühl dafür zu kriegen,

00:31:51: einzuschätzen, wie die Größenordnung ist.

00:31:53: Und wir haben immer das Problem, dass

00:31:55: die einzelne Dienstleistung, zum Beispiel jetzt hier so eine Anfrage,

00:31:59: geschätzt 0,2 Wattstunden, im Prinzip eigentlich irrelevant ist.

00:32:03: Da muss man, keine Ahnung, gerade mal einen Schalter rauf- und

00:32:06: runterschalten, dann ist die Energie schon wieder raus.

00:32:08: Ungefähr, fast.

00:32:10: Aber umgekehrt:

00:32:11: In der Gesamtsumme macht es eben auch was aus,

00:32:13: und die Aufgabe der Forschung ist immer, das herunterzubrechen

00:32:16: auf die Dienstleistung.

00:32:17: Aber da kann sich eben auch ganz schnell was ändern.

00:32:19: Deswegen bin ich ein bisschen vorsichtig, was das angeht.

00:32:21: Sicherer sind eigentlich diese Gesamtzahlen, dass ich halt weiß,

00:32:24: wie viel Leistung die Rechenzentren aufnehmen,

00:32:27: auch wenn ich jetzt die ganze Kette dazunehme plus die Hardware,

00:32:30: die ja auch produziert werden muss.

00:32:31: Und da sagt man dann vielleicht, für 20 Prozent ist die Hardware zuständig.

00:32:34: Also was die Produktion angeht: der Fußabdruck, der ökologische,

00:32:38: also der CO₂-Fußabdruck der Hardware.

00:32:40: Das macht das dann halt noch mal ein bisschen komplexer. Deswegen:

00:32:42: Man muss das verstehen und es auch für die Nutzerinteraktion

00:32:45: ein bisschen visualisieren und damit vielleicht sensibilisieren.

00:32:49: Aber man darf nicht davon ausgehen, dass das jetzt die absoluten Zahlen sind

00:32:53: und das dann immer so bleiben wird, sondern es wird immer so sein,

00:32:56: dass irgendein neues Modell oder etwas anderes das ändern wird.

00:32:59: Aber die Grundtendenz ist, denke ich, dass wir da noch drauflegen.

00:33:02: Und es gibt ja so ganz abgefahrene Theorien.

00:33:04: Ich weiß nicht,

00:33:05: ob du das weißt oder schon mal gelesen hast: dass die wirklich intelligenten Rassen

00:33:08: im Weltall im Zentrum der Galaxie sind,

00:33:11: weil die so viel Energie für ihre Quantencomputer brauchen.

00:33:14: Ja, das heißt, wir sind relativ weit außen.

00:33:17: Ziemlich weit außen.

00:33:18: Kann sein, dass wir das dann gelöst haben, weiß ich nicht.

00:33:21: Das ist ein weiter Weg bis ins Zentrum der Milchstraße.

00:33:25: Und ich

00:33:26: denke das auch, weil du ja nach Abflachung gefragt hast:

00:33:29: Irgendwann wird diese Von-Neumann-Architektur, diese klassische

00:33:32: Rechnerarchitektur, natürlich an ihre Grenzen stoßen.

00:33:35: Und dann ist die Frage: Welche Probleme können Quantencomputer lösen?

00:33:38: Zum Beispiel kann ich dann wiederum

00:33:40: vielleicht die Vorverarbeitung übernehmen. Was mir dann noch wichtig wäre,

00:33:43: weil wir auch von den Modellen gesprochen haben: Es ist immer gut, zu gucken,

00:33:47: was auch lokal läuft. Denn dann kriege ich auch im Shopfloor,

00:33:50: kriege ich im Unternehmen etwas zum Laufen,

00:33:52: und da kann ich noch relativ viel machen,

00:33:54: wo ich nicht unbedingt

00:33:54: alle Daten hochschicken muss. Und wir haben hier an der Hochschule

00:33:58: mittlerweile auch einige KI-Rechner, die schon eine Menge Probleme gut lösen.

00:34:02: Und ja,

00:34:02: aber ich glaube, um das zusammenzufassen, Henrik: Wir sind halt in so einer Phase.

00:34:07: Jeder, der jetzt sagt, genau so wird es laufen, der wird sich wahrscheinlich

00:34:11: irren, weil gewisse Dinge einfach nicht vorhersagbar sind.

00:34:14: Und jetzt, wenn wir einen Schritt weiter denken: Du sagst ja, es ist stochastisch.

00:34:18: Gut ausgetüftelt, da gehe ich mit: der stochastische Papagei.

00:34:22: Aber vielleicht ist auch die Frage: Wie machen wir das denn im Gehirn?

00:34:27: Also ich sage nur: Thema optische Täuschung. Auch

00:34:30: wir machen Optimierungen und Wahrscheinlichkeiten

00:34:32: und machen so etwas daraus, was gar nicht hineinpassen kann.

00:34:35: Und auch unser Gespräch basiert in diesem Sinne auf Wahrscheinlichkeiten,

00:34:38: natürlich vielleicht viel ausgefuchster und mit Querverbindungen und so,

00:34:41: aber im Prinzip fordert uns die KI in unserer Intelligenz heraus.

00:34:46: Ja, dann.

00:34:48: Letzte Frage:

00:34:51: Wie wird sich denn die Energieversorgung

00:34:53: von KI-Rechenzentren künftig verändern?

00:34:56: Wir wollen bzw.

00:34:58: wir müssen raus aus der fossilen Energieversorgung.

00:35:01: Die Amerikaner setzen primär auf Gaskraftwerke. Das liegt einfach daran:

00:35:06: Die sind sehr, sehr schnell errichtet, sind sehr flexibel, sind modular.

00:35:13: Das geht einfach schnell.

00:35:14: Oder eben ein Kernkraftwerk danebensetzen.

00:35:17: So ein Rechenzentrum hat zwar erst mal eine Grundlast, aber klar,

00:35:21: wenn die Prozessoren alle anspringen, hat es so einen Riesenpeak.

00:35:23: Das heißt, ich habe

00:35:25: bei so einem Rechenzentrum trotzdem schon variable Lasten.

00:35:29: Aber wie sieht die Zukunft aus, wenn ich sage,

00:35:32: wir wollen hin zu einem klimaneutralen Energiesystem?

00:35:36: Und das wird

00:35:37: zu einem großen Teil aus Photovoltaik und Wind in Verbindung mit Batterien bestehen,

00:35:41: da wird sicherlich auch

00:35:42: ein bisschen Kernkraft beigemischt sein. Aber die Kernkraft wird keine

00:35:46: Hauptrolle im künftigen Energiesystem der Welt spielen.

00:35:52: Wie versorge ich denn diese Rechenzentren mit Strom?

00:35:56: Kann ich dann meine Anfragen nur noch stellen,

00:36:01: macht es also nur dann Sinn, wenn die Sonne scheint?

00:36:03: Oder, das hatte ich auch mal diskutiert: Verteilen wir die ganzen Rechenzentren

00:36:08: entlang des Äquators, weil wir da die größte solare Einstrahlung haben?

00:36:11: Irgendwo scheint ja immer die Sonne.

00:36:13: Also, wo geht da die Reise hin?

00:36:15: Die Amerikaner werden sagen: Bevor ich ein Rechenzentrum irgendwo

00:36:20: in Singapur anzapfe,

00:36:22: nutze ich doch lieber eins in Texas.

00:36:25: Ja, also so ein Rechenzentrum hat ja eine kontinuierliche Last.

00:36:29: Das ist natürlich immer praktisch für Gas und AKW oder sonstige Kernkraft.

00:36:34: In China

00:36:34: gibt es mittlerweile viele Systeme, die auch mit Solar unterstützt

00:36:38: werden, wo also ein halber Landkreis, bei uns ein halber Landkreis,

00:36:41: faktisch mit Paneelen ausgestattet wird.

00:36:43: Ich glaube, das ist ein bisschen eine Frage

00:36:45: auch der intelligenten Organisation.

00:36:46: Zum Beispiel ist ja tagsüber der Bedarf größer als nachts.

00:36:51: Das heißt also,

00:36:52: da könnte man sich überlegen, wie man das

00:36:54: ein bisschen umorganisiert: was wann wo gerechnet wird.

00:36:58: Dann, glaube ich, ist das eigentlich auch

00:37:00: ein klassisches Problem der Energieversorgung und des Smart Grid

00:37:04: jetzt für die Abkehr von fossilen Energien:

00:37:07: Wie mache ich das eben mit Batterien, wie puffere ich Sachen?

00:37:09: Und das

00:37:10: Naheliegendste ist doch eigentlich, dass man seine

00:37:12: Trainingsgeschichten vorbereitet hat.

00:37:14: Übrigens kann man auch die Anfragen ein bisschen vorbereiten, von wegen

00:37:17: Cachen und so, das heißt, Antworten sind schon vorgespeichert.

00:37:20: Und dann ist doch die Frage: Wie viel Überschuss haben wir mittags

00:37:24: an Solarstrom? Das wäre also genau die Zeit.

00:37:27: Und das Interessante ist:

00:37:28: Wir hatten mal so ein Projekt, Rechenzentrum Smart Grid,

00:37:31: dass gerade Rechenzentren ja besonders flexibel sind, was das angeht,

00:37:34: und sagen können: Jetzt brauche ich mehr Last oder,

00:37:36: besser gesagt, jetzt brauche ich mehr Strom,

00:37:38: und das leichter anfahren können als vielleicht eine

00:37:41: Aluminiumhütte oder so, die nicht einfach so loslegen kann.

00:37:44: Ja, aber trotzdem, insofern: Natürlich wollen

00:37:48: die Hersteller und die Anbieter, dass die Rechenzentren komplett ausgelastet sind.

00:37:52: Das ist natürlich

00:37:53: schon immer so ein Problem. Am liebsten haben die es,

00:37:55: wenn die Chips durchgehend am Glühen sind, so ungefähr.

00:37:58: Und dann hat man natürlich das Kühlungsproblem.

00:38:00: Ja, das muss man auch noch mal sehen.

00:38:02: Aber ich glaube, dass die Reise schon dahin geht,

00:38:04: dass es möglich ist,

00:38:05: das mit den neuen Energien zu versorgen, in Kombination mit Batterien. Anders

00:38:09: wird das nicht funktionieren.

00:38:10: Und vielleicht, da weiß ich, bist du der Experte:

00:38:11: Festkörperbatterien oder sonst wie Natrium-Ionen,

00:38:14: irgendwas mit weniger seltenen Erden.

00:38:16: Kann das der Weg sein, oder?

00:38:18: Ja. Am Ende des Tages muss ich sagen:

00:38:20: Liebe KI, wie willst du mit Energie versorgt werden?

00:38:23: Löse das Problem.

00:38:24: Löse das Problem.

00:38:25: Genau. Das ist ja eigentlich ihre Aufgabe.

00:38:27: Guck, wie du es machst,

00:38:30: und dann wird das schon irgendwie passen.

00:38:32: Die Natur hat es ja auch so geregelt.

00:38:34: Wenn wir nicht genug Energiezufuhr haben, werden wir müde und schlapp.

00:38:39: Also genau so, dann fängt man an zu gähnen.

00:38:41: Das ist übrigens ein gutes Stichwort, weil

00:38:43: ich noch eine Sache loswerden wollte, die super passt:

00:38:45: Liebe KI, sag mir, wie das umweltfreundlicher wird.

00:38:48: Das sehe ich nämlich genauso,

00:38:49: dass wir jetzt die Agenten so trainieren müssen, dass die Agenten eigentlich

00:38:52: Ökoagenten werden. Denen muss man sagen: Verhalte dich nachhaltig,

00:38:56: löse Probleme so, dass Nachhaltigkeitsprobleme

00:38:58: damit nicht geschaffen, sondern gelöst werden.

00:39:01: Stichwort Systemprompt: zum Beispiel einfach mal ausprobieren, dass man sagt,

00:39:05: die Problemlösungen des Agenten sollen möglichst ökologisch sein, sowohl

00:39:09: was seinen eigenen Fußabdruck angeht als auch die Inhalte, die er entwickelt.

00:39:12: Und ich könnte mir vorstellen,

00:39:13: dass wir jetzt in so einer Phase sind, in der, wenn wir schon die Agenten

00:39:17: jetzt bekommen, diese

00:39:18: sich auch tatsächlich möglichst ökologisch verhalten sollten – in Anführungszeichen,

00:39:23: das ist ja kein richtiges Verhalten. Aber ja, das wäre noch so eine Idee.

00:39:27: Können wir vielleicht mal woanders diskutieren.

00:39:29: Aber ganz gut, dass das jetzt,

00:39:32: also dass die von Anfang an wissen,

00:39:35: dass sie energieeffizient arbeiten sollen, bzw. dass sich dann die KI überlegt,

00:39:39: wie sie das machen soll und machen kann.

00:39:44: Denn die wird viele unserer

00:39:47: Probleme lösen, auch wenn sie im Moment auch viele neue Probleme verursacht.

00:39:51: Aber ich glaube, da sie ja nicht mehr weggeht,

00:39:55: ähnlich wie das Internet und Mobiltelefone, der Computer und das Auto –

00:39:59: das geht alles nicht mehr weg –, muss man halt sagen: Wie kriegen wir da

00:40:03: den Turnaround? Im Moment heißt es ja, wie du gerade sagtest: Size matters.

00:40:07: Das heißt also, je größer, desto imposanter.

00:40:10: Dann kann ich meine Investoren davon überzeugen, noch mal Geld nachzuschieben

00:40:15: in die Geldverbrennungsmaschine. Und wie die Geschäftsmodelle aussehen

00:40:19: oder ob das dann irgendwann –

00:40:20: die ganzen Mobilfunkhersteller packen das jetzt ja alle auf

00:40:23: die Smartphones mit den neuen Chips, sodass das dann alles lokal läuft –,

00:40:27: dann wird man irgendwann die KI im Ohr haben.

00:40:29: Was die Übersetzung angeht, das geht jetzt ja auch schon mit den

00:40:32: verschiedenen Smartphone-Systemen.

00:40:34: Genauso ist es ja. Das ist …

00:40:37: Ja, eine goldene Zukunft, sozusagen.

00:40:39: Eine goldene Zukunft.

00:40:40: Aber die Frage ist, Henrik,

00:40:41: welche Rolle

00:40:41: wir in dieser goldenen Zukunft haben, wenn uns alle

00:40:43: Denkleistung auch noch abgenommen wird.

00:40:45: Da müssen wir ein bisschen gucken,

00:40:46: dass wir fit bleiben, nicht nur mit Sudoku,

00:40:48: sondern auch mit komplexeren Problemstellungen.

00:40:50: Ja, das wäre ganz gut.

00:40:51: Aber dann trainieren wir das jetzt mal und nehmen das jetzt mal mit.

00:40:55: Jetzt kann ja jeder und jede mal überlegen, wie das ist,

00:40:58: also über die eigene Anwendung nachdenken.

00:41:02: Von daher, Stefan, besten Dank, dass du dabei warst.

00:41:04: Und dann sehen wir uns demnächst wieder am Campus.

00:41:08: Vielen Dank für die Einladung.

00:41:10: Hat großen Spaß gemacht, unsere Diskussion.

00:41:12: Prima. Bis dann. Ciao.