KI, Macht und Ethik (mit Rainer Rehak)

00:00:05: Und dieser Begriff Zeitgeist-KI deutet einfach an, wenn Menschen KI benutzen.

00:00:09: Es ihnen aber gar nicht so richtig darum geht was sie konkret meinen sondern Sie wollen eigentlich sagen Guck mal ich bin modern und da gibt es so ein neues Ding und jetzt probieren wir das mal aus.

00:00:22: Wie ist die gesellschaftliche Wirkung dieser Art von Technologie?

00:00:26: Fast schon so ein epistemisches Werkzeug.

00:00:28: Das heißt es verändert die Art wie wir die Welt sehen wie wir miteinander umgehen wie wir sozial aushandeln.

00:00:41: Dann ist das vielleicht auch eine gute Möglichkeit, Leute die bestimmte Bedürfnisse haben.

00:00:46: Auch mit reinzuholen in den Lernprozess und bei anderen ist es besser wenn sie nicht von KI kommen.

00:00:53: Das sind aber dann die Lehrkräfte, die das entscheiden können.

00:00:56: Die Werkzeuge müssen ordentlich durchgecheckt sein, die die Lehrkraft an die Hand kriegen.

00:01:13: Herzlich willkommen beim Auftrag Aufbruch!

00:01:15: Einer Podcastreihe, bei der wir uns vorgenommen haben sehr stark in Sachen

00:01:19: Auftrag

00:01:20: und Aufbruch die Sache und die Personen miteinander zu verbinden.

00:01:24: Die Sache ist die digitale Transformationen im Bildungsbereich.

00:01:27: Da steht in der Beschreibung des Podcasts, dass es eine gestaltbare Aufgabe auf der systemischen Ebene.

00:01:33: Und das klingt jetzt ja ein bisschen abstrakt.

00:01:35: Deswegen ist es ganz gut, wenn man das gleich mit den Personen, die jedes Mal zur Gast sind, verbinden können.

00:01:40: Denn Gestaltbare-Aufgabe heißt so verstehen wir es bisher von Menschen gestaltet oder gestaltbar.

00:01:47: Also wollen wir viel auch mit diesen Menschen reden und von diesem konkreten Menschen wissen, was dieses Gestalten sein kann und wie wir das machen?

00:01:55: Dieser Mensch ist heute Rainer Rehak, Philosoph Informatiker – ich sage gleich nochmal ein bisschen mehr.

00:02:00: erstmal kurz Hallo Rainer!

00:02:02: Hallihallo

00:02:02: Ich habe als erstes dein Nachnamen falsch ausgesprochen weil ich gelernt habe dass es eigentlich tschechisch gehört.

00:02:08: Genau, also der ist eingedeutscht.

00:02:09: Also du hast ihn schon richtig ausgesprochen aber das kommt vom... Das hat so ein Häkchen verloren über dem ersten R. eigentlich heißt es Rehak und genau jetzt.

00:02:18: Rehak klingt auch klingt doch eingedeutst ordentlicher.

00:02:23: Wir haben ganz viele Themen auf dem Zettel.

00:02:25: solche Begriffen wie Zeitgeist KI Aber auch sehr bekannte etablierte Begriffe wie Verantwortung oder Souveränität wollen wir anschauen natürlich Schule- und Bildungsverwaltung.

00:02:35: Ich finde es spannend, mit dir zusammen auf das Spannungsfeld zwischen individuellem Handeln und gesellschaftlichem Handel zu schauen.

00:02:41: Ich habe Begriffe vorab mir angelesen von den drei Materialitäten der KI und von konvivialen Technologien, von denen ich jetzt nicht gedacht habe dass sie uns für die Sache helfen wenn wir sie verstehen?

00:02:54: Ja in der Tat!

00:02:56: Noch eine kurze Vorbemerkung, wir zeichnen diesen Podcast auf am einundzwanzigsten September.

00:03:00: zwanzig sechsundzwantig für die Geschichtsbücher.

00:03:02: So das ist irgendwie das wo wir gerade Tagesaktuellen nicht wenig diskutieren.

00:03:07: in der Tat ja

00:03:09: Für später mal wenn man sich denkt was war nochmal?

00:03:11: Einundzwannster neunterzwanziger sechs und zwanziger.

00:03:12: also wir hatten einen US-Präsident der gerade sagt jetzt soll es eine AI Force geben die aber nichts einschränken sollen.

00:03:20: Wir haben Die erste Meldung glaube ich heute morgen, dass China und die USA reden miteinander.

00:03:25: Ob man denn irgendwie mal was abstimmen oder zumindest sich mitteilen sollte?

00:03:29: Gleichzeitig aber nach meinem Empfinden nicht wirklich konkrete Spuren das da etwas größeres an gesellschaftlichen gemeinsamen Handeln passieren würde.

00:03:40: Das macht aber nichts.

00:03:41: Wenn man jetzt den Podcast ein Jahr später hört, man vielleicht nicht mehr genau weiß wann war das jetzt nur zur Einordnung ist vielleicht hilfreich.

00:03:46: wir wollen aber einen Augenmerk auf die größeren Entwicklungen

00:03:49: richten.

00:03:50: ja

00:03:50: Wo kommen wir her, wo gehen wir hin?

00:03:53: Reiner du bist Informatiker und Philosoph beides.

00:03:56: Ja in der Tat ja

00:03:58: auch schon eine ganze Weile an dieser Schnittstelle zwischen Computerisierung und Gesellschaft.

00:04:03: Du hast Informatik studiert und Philosophy studiert an zwei unterschiedlichen Universitäten in Berlin

00:04:09: Genau HU und F

00:04:11: und zeitweise auch in Hongkong.

00:04:12: vielleicht kommen wir da nochmal drauf zurück.

00:04:16: Bist du jetzt am Weizenbaum-Institut als wissenschaftlicher Mitarbeiter in einem Bereich, der heißt Digitalisierung, Nachhaltigkeit und Teilhabe?

00:04:24: Korrekt.

00:04:25: Genau

00:04:26: ja.

00:04:26: Ich prüfe jetzt mal ob das alles richtig aufgeschrieben ist.

00:04:28: Ja sehr gut!

00:04:29: Dazu gehört die Verbindung zum Wissenzentrum Berlin.

00:04:34: Entschuldigung.

00:04:35: Technik Macht und Herrschaft heißt es da?

00:04:37: Genau

00:04:37: das ist eine Forschungsgruppe genau.

00:04:38: Ihr

00:04:38: möcht gerne Aufzählungen von Zentralen begriffen Und ansonsten aber auch in ganz vielen weiteren, ich nehme an fast überall ehrenamtlichen Rollen aktiv.

00:04:48: Also es gibt eine Fachgruppe bei euch bei den Informatikerinnen, Informatik und Ethik?

00:04:54: Korrekt ja!

00:04:55: Gesellschaft für Informatika ist das genau.

00:04:57: Du bist Co-Gründer wenn ich's richtig lesen habe von Bits & Bäume.

00:05:01: Ja, richtig Die Konferenzreihe für Digitalisierung und Nachhaltigkeit Die

00:05:05: kommt... Für mich im Fall sei das noch so aus dem Chaos Cosmos also aus dem Umfeld vom CCC.

00:05:12: Also es war eine Kooperation eigentlich.

00:05:14: Es hat so im Jahr zwei Tausend Siebzehn angefangen und da haben sich tatsächlich ein paar Leute aus dem Nachhaltigkeitsbereich, so Thiemann Santarios und andere quasi zusammengetan mit quasi Leuten wie mir die gesagt haben wir wollen mal also wir können diese digitale Transformationen und die sozialökologischen nicht mehr unabhängig voneinander denken.

00:05:36: Also man könnte quasi das auch auf einen Nenner bringen, Hackers und Öko oder Hexen und Ökos vereinigt euch.

00:05:41: Denn wir teilen eine Vision und die Vision funktioniert nur mit sauberem Wasser zum Trinken.

00:05:46: Die funktioniert aber auch nur mit einem freiheitlich digitalen Ökosesystem.

00:05:51: Und deswegen sozusagen no hacking on the dead planet und es macht auch keinen nicht viel Spaß wenn alle Vögel gesund sind, aber wir nach digitalen Diktatur leben so

00:06:00: Bitz und Bäume hat dann ja auch noch mal das Erweitert bei einer Veranstaltung zu Bildung, Bitz & Bäume.

00:06:05: Genau!

00:06:06: Was so ein bisschen natürlich unser Slogan für dieses Gespräch heute sein könnte weil wir auf dieses Zusammenspiel schauen wollen?

00:06:12: Ja ich kann dazu kurz was sagen.

00:06:14: es gibt also Bitz&Bäume das waren ja so so dreizehn Organisationen vom CCC bis hin zur TU Berlin dem Ethics Lab oder Konzeptwerk Neuekonomie des FIF ist dabei Forum Informatiker Info Frieden- und gesellschaftliche Verantwortung.

00:06:31: Da ist auch der CCC mit dabei, also in dem Sinne quasi ist das so quer über alle Bänke hinweg.

00:06:39: Und es natürlich sehr spannend weil da die Diskussion... Also da trifft man sich und redet mal über die Sachen, die sich auf der jeweils anderen Seite abspielen und findet gemeinsame Themen und Richtungen und eine gemeinsame politische Stimmung auch.

00:06:53: Ich glaube das ist auch sehr wichtig!

00:06:56: Was ist KI-Zeitgeist?

00:07:01: Also Zeitgeist KI, das ist so ein Begriff.

00:07:04: den habe ich in einem Paper geprägt oder zumindest mal vorgeschlagen.

00:07:09: Oft wenn Leute sich über KI unterhalten muss man ein bisschen aus einer Diskursbrille drauf blicken und da gibt es... In dem Diskurs bis jetzt gab's zwei Sorten.

00:07:18: Das eine ist die schwache KI, die macht so Mustererkennung, Schachcomputer und Sprachen übersetzen und solche Sachen.

00:07:26: Und dann gibt es so unter zweiter Art, das nennt sich die starke KI.

00:07:28: Heute wird halt auch Superintelligenz genannt.

00:07:31: Die kann dann selber agieren und hat in ihren Zuständen und hat Fragen und ist kreativ usw.

00:07:36: Da sind gerade so Open Air und so weiter Anthropics und grad auf dem Weg dahin sagen sie diese Superintelligenz zu entwickeln.

00:07:44: Mir ist aber aufgefallen, dass in dieser Diskussion oftmals einfach nur von KI gesprochen wird.

00:07:49: Und es wird nicht weiter qualifiziert.

00:07:51: und wenn man dann egal ob man jetzt auf EU-Ebene guckt oder ob man wirklich auch sogar innerhalb der Wissenschaft, sogar auch in Sozialwissenschaften war so genau fragt oder darauf achtet wie sie die Eigenschaften beschreiben wird klar das die alle was anderes meinen.

00:08:06: Dieser Begriff ZeitgeistKI deutet einfach an wenn Menschen KI benutzen ist ihnen gar nicht so richtig darum geht was sie konkret meinen, sondern sie wollen eigentlich sagen, guck mal ich bin modern und da gibt es so ein neues Ding.

00:08:17: Und jetzt probieren wir das mal

00:08:18: aus.".

00:08:21: Ich würde mal sagen an der Grenze zum Sprachspiel weil Narajan und andere können wir auch gern verlinken noch haben die Analogie gemacht und gesagt na KI ist ein Begriff so ähnlich wie Fahrzeug.

00:08:35: Jetzt fällt unter Fahrzeugen Fahrrad, aber auch eine Eisenbahn-Lokomotive die gut dazu zieht.

00:08:40: Und wenn man jetzt fragt welche Eigenschaften hat einen Fahrzeug?

00:08:43: Dann kann man halt den ganzen Tag darüber reden, wenn man niemals spezifiziert hat geht es um Fahrräder oder geht's um Locks oder geht das um was anderes?

00:08:49: und wenn man das nicht macht kommt man nie zu einem Punkt.

00:08:53: Aber trotzdem haben alle das Gefühl als hätten sie jetzt gerade eine gute Unterhaltung gehabt.

00:08:57: und dann kann man Fördergelder verteilen und man kann sagen dass man modern ist.

00:09:01: Und deswegen Zeitgeist-KI ist quasi einfach so eine dritte Art, die eher so ein narratives Element im Zentrum hat.

00:09:08: Man muss auch sagen diese zweite Art, diese Superintelligenz gibt es nicht.

00:09:13: Es gibt keine Anzeichen dafür.

00:09:15: wir wissen noch nicht mal wie man das irgendwie machen könnte.

00:09:18: können wir später vielleicht nochmal sprechen was wir haben inklusive LLMs also large language models das sind alles die erste Kategorie Also die schwache KI.

00:09:27: Du bist ja schon eine Walde dabei.

00:09:29: Was ist anders für dich?

00:09:31: So qualitativ, vielleicht auch quantitativ gegenüber der Digitalisierungsdiskussion.

00:09:36: Weil da kommt es mir so vor als hätten wir's ja auch schon mal so ähnlich gehabt.

00:09:39: alles irgendwie wo digital draufstand war von einer Weile mal neu und aufregend gefährlich und verheißend.

00:09:46: Ja voll also ist tatsächlich interessant.

00:09:49: in den letzten zwei Jahren hat sich auch eine akademische Strömung entwickelt die Hype Studies Und die gucken sich halt an, was war das Versprechen des Internets?

00:09:56: Was war der Informationsgesellschaft?

00:09:58: Das Versprechen von Big Data.

00:10:00: Das Versprechen der Blockchain.

00:10:01: Jetzt ist es das Versprächen der KI und bald kommt Quantum.

00:10:04: So oder kann man so ein bisschen... Man kann sogar in den Bereich noch weiter zurückgehen.

00:10:09: Weltraumrecht wurde mal genauso verhandelt.

00:10:11: auf einmal kommt das Recht an die Grenzen denn im Weltraum wir will man's in der Hand haben.

00:10:15: Wir brauchen eine völlig neue Art von Gesellschaft, völlig neuart von Rechtsform weil wir jetzt im Weltraum sind und dann merkt man bestimmte Parallelen wie sozusagen die Revolution in Gänsefüßchen auch sozusagen herbeigeredet wird.

00:10:27: Was sich natürlich geändert hat, sind die technischen Grundlagen also klar.

00:10:31: die Diskussion über dass die Automatisierung oder Kaliens die Arbeitsplätze wegnimmt, die gibt es halt seit den Siebzigeren wenn man so Hubert Dreifuss liest der schreibt genau darüber das ist jetzt fünfzig sechzig Jahre her.

00:10:44: aber natürlich hat sich die Welt geändert die technische Möglichkeiten haben sich geändert d.h.. Man darf glaube ich nicht auf so einer Philosophie der Technologie, auf so eine abstrakten Ebene bleiben und sagen es hat sich eh nie was geändert.

00:10:57: Es ist genauso falsch wie zu sagen jetzt ist alles anders.

00:11:00: Man muss halt genau hingucken.

00:11:01: jetzt gibt's neue Werkzeuge in neuen technischen Entwicklungen.

00:11:04: Was passiert da gerade im Arbeitsmarkt?

00:11:06: Werden die Leute?

00:11:07: Florian Bottolo in seiner Forschung hat gezeigt Die Leute werden nicht arbeitslos sondern es fallen bestimmte Jobs weg und Neue kommen hinzu.

00:11:13: Und eigentlich das Titel seines Buches heißt dass knappe gut Arbeit.

00:11:17: Also die Frage ist eigentlich eher wie verändert sich Arbeit und entstehen jetzt mehr Arbeitsplätze, die so low-skilled schlechter bezahlt sind.

00:11:25: Dann kann man sozusagen mit dieser Arbeitslosigkeitsbrille gar nicht erkennen was da passiert.

00:11:30: aber wenn man sich anguckt bestimmte Jobs spalten sich jetzt auf in viele geringer Qualifizierte und wenige höher Qualifzierte.

00:11:38: Und so verändern sich halt Strukturen, anderen Bereichen ist es anders.

00:11:41: da muss man halt dann genauer hingucken.

00:11:43: Das ist eben ein Unterschied.

00:11:44: das ist sowas anderes als irgendwie der Kühlschrank erfunden wurde unter die Eisträger wegfielen.

00:11:50: Das war sehr viel einfacher.

00:11:51: wir haben uns mit viel differenzierteren Änderungen zu tun und weil sie aber so ausdifferenziert sind fällt es erst spät auf, wenn Leute einfach nur da herreden und sagen ihr müsst Angst haben um euer Job weil der wegfällt.

00:12:07: Selbst wenn er nicht wegfellt.

00:12:09: die Angst sorgt ja schon alleine für eine schlechtere Verhandlungsposition und das ist natürlich auch ob das jetzt absichtlich ist oder nicht.

00:12:15: Das ist ja schon eine Dynamik, die auch zum Beispiel gerade von Arbeitgeberseite her sehr willkommen ist.

00:12:23: Wir haben ja zwei Beliebte Metaphern, das eine wird irgendwie von es ist nur ein Werkzeug ausgeführt.

00:12:32: So im Grundsatz verändert sich doch nichts.

00:12:33: Es kommt nur noch an was wir mit dem Werkzeug machen.

00:12:35: und auf der ganz anderen Seite fällt mir jetzt ein, das weiß nicht ob ich's bei dir gelesen habe in der Vorbereitung oder irgendwo anders aufgeschnappt hab diese Idee von KI als die Atomkraft

00:12:45: ist, die die Zeit

00:12:46: eilt hat.

00:12:47: Die nur global am besten weltgesellschaftlich geregelt und reguliert werden kann.

00:12:53: Wie ist das?

00:12:54: Also wie kannst du das einordnen?

00:12:55: zwischen diesen wahnsinnig... also größere Spannung kann man sehr kaum vorstellen.

00:12:58: Ja, total genau!

00:12:59: Also erstmal muss man bisschen unterscheiden wenn man über den Werkzeugdiskurs spricht wo der gerade stattfindet Also in welchem Fachbereich.

00:13:10: es gibt quasi einen Diskurs, der so ein bisschen in der Philosophie und Ethik und so weiter stattfindet.

00:13:16: Da ist die Frage hat KI Agency oder ist sie nur ein Werkzeug?

00:13:19: Das heißt wenn Sie kein Werkzeug wäre dann müsste man anfangen darüber zu denken dass die Verantwortung über dem was sich steuern zahlt und dann kann sie auch irgendwie Prämien im Minister werden oder irgend sowas.

00:13:29: Und in dieser Diskussion würde ich zum Beispiel sagen das ist ganz klar da muss man argumentieren das ist ein Werkzeuge denn KI hat keine keine Intuition, hat keine intrinsischen Zustände oder Motivation.

00:13:41: Da ist nichts was man verantwortlich machen könnte und auch bei diesen ganzen Geschichten die wir jetzt gerade hören in den Medien irgendwie ah die KI ist geflohen und hat Leute angegriffen usw.

00:13:54: Das ist je bei jedem Fall wieder so.

00:13:56: wenn man sich in die Details reinfuchst sieht man so ja da hat halt Anthropic oder Open AI haben die einen Experiment gemacht haben diesen Modell halt Aufgaben gegeben, haben teilweise sogar absichtlich die Sicherheitsverkehrungen herabgesetzt und er hat das Ding halt gemacht was es sollte.

00:14:13: Nämlich sich kreativ der sozusagen oder un im Detail ungeplant der Aufgabe anzunehmen.

00:14:20: Die Aufgabe kam aber von den Leuten von Anthropic Und sie haben einfach wie in so einem Virenlabor einfach nicht aufgepasst dass die Tür offen noch noch offen war als ihre komischen Experimente gemacht haben Selbst wenn man die Experimnte gut finden würde.

00:14:32: Eine andere Diskussion, das würde ich sagen.

00:14:35: Warum sind die so schlußig in ihrer Herangehensweise?

00:14:38: Das ist wie ein Kind mit einer Laserwaffe.

00:14:41: Das geht so nicht!

00:14:42: So, das ist die erste Diskussion mit dem bloßen Werkzeug.

00:14:45: Die zweite Diskussion ist so ein bisschen... Wie ist eigentlich die gesellschaftliche Wirkung dieser Art von Technologie?

00:14:53: und jetzt kann man sagen naja es ist ein Hammer im Sinne von eine blose Erweiterung sozusagen der menschlichen Hand.

00:15:00: Und ja, vielleicht sieht ein Teil der Welt dann aus wie Nagel und so weiter.

00:15:02: Die ist gesund, kennen wir ja!

00:15:04: Aber das Gegenteil von Werkzeug ist nicht irgendwie kein Werkzeug sondern sozusagen eine Art fast schon so epistemisches Werkzeug.

00:15:12: Das heißt es verändert die Art, wie wir die Welt sehen Wie wir miteinander umgehen Wie wir sozial aushandeln Wie wir uns Wissen aneignen.

00:15:21: Nur mal als Beispiel Ich kann ja mit KI irgendwelche Satellitenbilder analysieren Das war jetzt Zeitgeist-KI und kriegt dann eine bestimmte Antwort über den Zustand von Flüssen oder den Zustands, was wir es sich von Städten oder die Luftqualität usw.

00:15:38: Hätte ich anders gefragt?

00:15:39: Oder hätte ich eine andere Datengrundlage gelegt?

00:15:41: Dann würde ich eine anderen Antwort kriegen und dann würde ich die Welt auch ein bisschen anders sehen!

00:15:45: Also dieser komplexe Zugriff, den ich durch solche Systeme habe verändert auch wie wir die Welt sehen und wie wir miteinander umgehen.

00:15:52: Und dann kann man eben in der zweiten Diskussion argumentieren ist es nicht nur ein Werkzeug.

00:15:59: Man sagt manchmal in der Technik Philosophie eine groß technische Anlage das ist wie eine Raffinerie.

00:16:04: Ich würde sagen, dies ist ja nur ein Werkzeug.

00:16:06: Nee das ist ein Element von weltumspannenden Lieferketten was eingebunden ist in ganz viele Netzwerke und Quellen die da etwas hin liefern Und das Ergebnis wird auch vielfach woanders hin usw.

00:16:19: Also dann würde man sagen nee es ist kein bloßes Werkzeug Das stimmt nicht!

00:16:23: Und die Atomkraft?

00:16:25: Genau jetzt kommen wir zur Atom Kraft.

00:16:26: Das Beispiel da war Die Analogie bezieht sich auf sozusagen Nicht KI allgemein die Zeitgeist KI, sondern bezieht sich zum Beispiel auf large language models.

00:16:39: Und die Idee dahinter ist was ich in dem Vergleich meinte ist zu sagen wir fragen immer wie gehen wir mit KI um?

00:16:48: Was machen wir mit den Ergebnissen?

00:16:51: und sozusagen wie müssen wir die Rahmen und wie müssen man das irgendwie regulieren?

00:16:54: oder so als als wären sozusagen alle Optionen auf ein Tisch.

00:16:59: der Punkt ist aber die Entscheidung dafür LLMs zu nutzen ist alleine schon eine Entscheidung dafür, eine Art von Technologie zu benutzen die nur groß funktioniert.

00:17:10: Dafür steht das L ja large und so weiter.

00:17:13: Model Das heißt diese Entscheidung da ist schon mal eine Entscheidung gegen kleine Systeme mit all den Konsequenzen, Machtzentralisierung die Menge der Daten, die dafür notwendig ist.

00:17:23: Die Datenarbeit, die da für notwendig sind, die ökologischen Folgen und so weiter... All das ist dann schon implizit mit entschieden.

00:17:30: Und es ist die Analogie genau mit der Kernkraft.

00:17:33: Es gibt keine kleine Atomkraftwerke.

00:17:35: Also muss man sich auch mal angucken, die narrative Geschichte sozusagen Der Technik ist auch sehr spannend.

00:17:41: In den Sechzigern war das Versprechen immer Atom Kraft löst alle unsere Probleme Denn wir werden die Reaktoren immer kleiner bauen und irgendwann wird jedes Haus einen eigenen Atomreaktor haben.

00:17:50: Und dann ist das Energieproblem gelöst.

00:17:52: Da hat man gemerkt, dass Versprechen war... ...die kleine Unabhängigkeit von Haushalten.

00:17:57: was aber materiell technisch nur möglich war waren Riesensysteme!

00:18:03: Atomkraft haben möchte, dann entscheide ich mich für Riesenregularien.

00:18:07: Für die einzige Möglichkeit das Riesenfirmen machen.

00:18:10: Ich muss staatlich das absichern weil niemand sowas versichert.

00:18:14: Ich muß riesige Lieferketten global mit allen möglichen.

00:18:17: Ich musste es alles mitplanen auch mit diesen riesigen Konsequenzen.

00:18:22: allein durch die Aussage wir nutzen diese Art von Technologie ist all das andere schon vorher festgelegt.

00:18:27: und so ist es auch mit den large language Models.

00:18:30: wenn ich diese die haben will Dann bleiben halt nur diese fünf Unternehmen übrig, die mit Risikokapital da jetzt sozusagen diese Dinger bauen.

00:18:39: Und ich will mal noch hinzufügen es gibt ja auch so eine Idee mit offenen Modellen und mit sozusagen Open-Wade oder so... Da darf man glaube ich ne Kontrolle in der Technologie nicht mit dem Zugang verwechseln.

00:18:50: Also ich kann so'ne offene Modelle Ich hab ja auch welche aufm Rechner hier Ich kann die mir runterladen und dann selber nutzen.

00:18:56: Manchmal nennt man das ja auch dann digitale Souveränität.

00:18:58: Manche nennen's auch digitalen Nationalismus.

00:19:02: dann kann ich das sozusagen selbst nutzen, wer trainiert denn die Dinge aber?

00:19:07: Das ist dann doch wieder Meter und so weiter.

00:19:10: Also eigentlich müsste die Diskussion nicht sein großes geschlossene Sprachmodelle oder andere große Modelle oder geschlOSSene oder offene sozusagen große Modälle sondern und es argumentiere ich in einem anderen Papier können wir auch verlinken.

00:19:24: Die Frage ist eigentlich wollen wir groß oder kleine Modelle?

00:19:28: Ich sag mal, neunzig Prozent der Use Cases können die eigentlich sozusagen das Gleiche?

00:19:33: Sie sind aber so eine Art notwendiges Kriterium um sowas wie Macht.

00:19:38: Diese Machtzentrierung oder Zentralisierung nicht zu haben.

00:19:41: Die können auch angepasst werden.

00:19:42: Die müssen noch angepasste werden.

00:19:43: Da kann man auch über Bildung reden was mit den kleinen Modellen eigentlich und die kann man selber trainieren.

00:19:51: Man kann das sagen sozusagen pluriversal benutzt werden also mit anderen Annahmen, mit anderen Wissensformen.

00:19:56: Mit anderen Arten und weisen Dinge zu tun.

00:20:00: Und interessanterweise China macht es auch.

00:20:03: zum Beispiel.

00:20:04: die haben auch große Modelle die sie trainieren aber ganz viele so in diesem National Institute of Technology Konsolzialprojekte, da gibt es ganz viele kleine und mittelgroße Modelle die auch bereitgestellt werden dass die Firmen das dann selber nutzen.

00:20:18: Das wäre jetzt nicht meine Argument sozusagen, dass das gut für die Wirtschaft wäre.

00:20:24: aber ich finde schon interessant wenn wir so ein Konflikt aufbauen zwischen die USA und China und der AI-Race und Europas in der Mitte gar nicht hinzugucken was macht China denn eigentlich?

00:20:35: Also ist ja interessant dass sie gar nicht nur riesengroßer schneller besser machen.

00:20:42: Ich würde das ganze Feld jetzt sozusagen einmal aufmachen.

00:20:45: Diesmal von der anderen Seite, du sprichst mit Bildungsverwaltung im weitesten Sinne in Ministerien oder für Parlamente vielleicht auch

00:20:56: kommunale

00:20:57: Akteure?

00:20:59: Was haben die gerade für Fragen oder was fragst Du die?

00:21:03: Also tatsächlich ich bin grad viel auch in Schulen unterwegs und Kombinationsprojekten, auch Schulen in sozusagen Kommunalverwaltungen und so weiter.

00:21:16: Also ich spreche mit denen und die fragen mich Sachen, ich frage sie Sachen usw.

00:21:20: Und wir sehen das ist der erste Punkt den ich sozusagen überall feststelle.

00:21:25: es gibt einen enorm politischen Druck KI einzusetzen.

00:21:28: wo sozusagen die Schulen die sehen sich da konfrontiert mit einer Sache die kommen durch die Schülerinnen selber natürlich aber auch die Lehrkräfte haben Fragen irgendwie KI einzusetzen.

00:21:40: Der kommt irgendwo her, ne?

00:21:41: Ich wollte gerade

00:21:42: sagen was ist polit... Also woher kommt er denn?

00:21:44: Na der kommt sozusagen von der KMK also Kultusministerkonferenz oder sozusagen in den Kommunen von den Lokalpolitikerinnen oder in den Parteien innerhalb der Parteien von den Bundesländern pröpfelt das sozusagen merkt man so da ist irgendwie habt ihr denn schon etwas mit KI gemacht wann macht ihr es dann?

00:22:02: Warum geht es nicht schneller?

00:22:03: habt ihr nicht andere Sachen ausprobiert?

00:22:05: Das ist so eine erste Feststellung, eine erste Wahrnehmung.

00:22:07: Kommt

00:22:08: es aus einer diffusenöffentlichen Erwartung?

00:22:10: Oder

00:22:10: welche Interessen würdest du dahinter sehen?

00:22:12: Oh das ist schwierig!

00:22:13: Ich glaube... Also ich glaube da gibt's verschiedene Sachen.

00:22:17: Das ist jetzt sozusagen weit außerhalb meines wissenschaftlichen Kompetenzbereichs.

00:22:21: Ich spreche jetzt einfach hier mal als interessierter Bürger mit einem educated guest vielleicht.

00:22:28: Das Eine ist glaube ich dass man Die positive Motivation ist so eine ganz wahge Vorstellung, dass irgendwie KI alles besser macht und gerade bei den schweren Problemen irgendwie helfen kann.

00:22:44: Manche Leute sagen auch KI ist ein bisschen wie so einen Rohrschachtest, fragt die Leute was sie mit KI machen wollen und sie geben dir ihr größtes Problem... Nichtsdestotrotz.

00:22:53: Also sozusagen so überlegen, ja irgendwie Lehrkräftemangel und irgendwie Klassenbücher hast du schwierig und so viel Dokumentation.

00:22:58: Sondern dann denkt man so an ganz viele Sachen irgendwie wo einem das wirklich helfen kann.

00:23:02: ob das so ist?

00:23:03: Ist eine zweite Frage.

00:23:04: die können wir gleich mal diskutieren.

00:23:05: aber dieser Wunsch dieser Druck dieser Druck ist da.

00:23:09: Und ich glaube der zweite Punkt ist ein bisschen.

00:23:15: Ich glaube es gibt so eine andere Eindruck, dass Deutschland ein bisschen die Digitalisierung verpasst hat oder zumindest sehr langsam ist.

00:23:22: Kann man auch diskutieren ob das so ist?

00:23:24: Weil Deutschland einfach eines der größten Industrienationen mit eighty Millionen Menschen hat.

00:23:30: Das jetzt nicht irgendwie.

00:23:31: da kann man nicht mal wie in kleineren Staaten kurz sagen wir machen das so.

00:23:35: Also die Frage ist Wie gut ist das wirklich angesichts der Umstände aber sei mal hingestellt.

00:23:41: und jetzt kommt da so ne neue Möglichkeit wo man vielleicht sogar zeigen kann nicht hinterher ist, sondern dass man da ganz oben mitspielt.

00:23:48: Ich glaube ich würde jetzt mal so aus der Hohen Hand sagen das sind zwei Sachen die dafür sorgen.

00:23:53: Jetzt sehen sich aber natürlich die Schulen sozusagen auch damit konfrontiert erstmal zu gucken welche ihrer Prozesse sind denn eigentlich Prozisse die ich dadurch irgendwie verbessern kann?

00:24:04: Denn wir müssen uns ja auch daran erinnern Large Language Models in dem Beispiel kann man noch für Bilder oder sowas anwenden Das sind sogenannte probabilistische Systeme.

00:24:13: Also die werden durch große Datenmengen sozusagen konfiguriert.

00:24:18: Manchmal nennt man das auch Training, obwohl ich das für eine Vermenschlichung des Prozesses halte.

00:24:23: Die Systeme lernen ja auch nicht, ne?

00:24:24: Wenn ich in einem Kind ein Bild von einem Tiger zeige weiß es danach was ein Tiger ist.

00:24:29: Wenn ich so einen Large Language Model das zeigen oder so ein Bildmodell dann muss sich halt eine Million Bilder zeigen und irgendwann so... Das ist etwas anderes als Lernen.

00:24:37: Deswegen darf man auch nicht von selbstlernenden Systemen reden oder so.

00:24:39: Und auch nicht vom Autonomen fahren sondern vom automatisierten Fahren.

00:24:42: da muss man bisschen auf die Begriffe achten.

00:24:46: Aber sozusagen in Bezug auf die Lehre ist sozusagen die Frage, diese Systeme sind halt ganz doll trainiert mit vielen Daten und liefern dann ein sogenanntes probabilistisches, also ein statistisches Ergebnis.

00:24:58: Das ist oft richtig, oft nicht richtig.

00:25:03: wenn ich sozusagen so eine modelle Sachen frage, die ich nicht weiß, dann weiß ich ja nicht mal ob es richtig ist, ne?

00:25:07: Also das... Ganz viele systematische Untersuchungen zeigen was weiß ich wie viel vierzig Prozent da irgendwie gut ist usw.

00:25:14: Und jetzt kann man sich natürlich im Bildungkontext mal fragen Ein Modell was sozusagen zufällig öfters richtig ist.

00:25:22: An welcher Stelle sollte ich so etwas einsetzen?

00:25:25: Kann man sich überlegen, naja klar vielleicht so... Was weiß ich?

00:25:28: Ich habe schon von Leuten gehört, na ja so Arbeitsblatterstellung oder sowas oder irgendwie so Tutoring-Systeme und manche Schülerinnen und Schüler nutzen das dann um nochmal Stoff zu lernen und so um da einfach mal eine Stunde lang Frage-Antwortspielchen zu spielen usw.

00:25:43: Aber wenn es ein statistisches System ist sozusagen Nehm ich mir dann die Zeit, das automatisch generierte Arbeitsblatt wirklich in Detail nochmal zu überprüfen oder nicht zu überprüfen?

00:25:52: Also sozusagen wird eigentlich die Qualität da schlechter und welche Art von Fehler können dabei entstehen.

00:25:58: Und der letzte Frage, die finde ich euch am relevantesten, wer trägt denn den Schaden davon wenn es nicht stimmt?

00:26:05: weil bei der Lehrkraft?

00:26:06: also die kriegt ja keine Noten.

00:26:08: Also vielleicht, weiß ich nicht.

00:26:09: Kommt auf die Schule an aber sozusagen wenn da ein Fehler drin ist und dann kommt irgendwie ein Jahr später raus in dem Test hätte die Schülerinnen doch recht gehabt oder so Pech gehabt, wer weiß was daraus wurde.

00:26:23: Und deswegen ist die Kernfrage immer Was ist eigentlich mein Problem?

00:26:26: Und wobei kann so ein sozusagen statistisches System ja helfen?

00:26:30: Es sind oftmals auch Sachen wie Kreativfragen.

00:26:32: oder gibt mir mal irgendeine grobe Strukturen?

00:26:34: soweit Aber ich muss sehr viel weiter daran arbeiten.

00:26:38: Die andere Seite, was mit KI zu machen besteht natürlich aus dem Druck dass die Schülerinnen und Schülern KI benutzen für ihre Hausarbeiten usw.

00:26:47: Das heißt jetzt muss man überlegen macht man sich Finnland wo man irgendwie in der Grundschule KI verbietet oder so was ich eine sehr gute Idee finde aus Gründen die wir nachher noch besprechen können vielleicht aber sozusagen oder nehme ich sie an die Hand und sage, wir machen jetzt mal zusammen, wie man damit einen Text erstellt.

00:27:06: Und mit Veränderungsmodus usw.

00:27:08: zu arbeiten... Also was passiert da eigentlich?

00:27:14: Was ist der Hintergrund dafür, dass die Leute die Schülerinnen und Schüler so viel KB benutzen?

00:27:19: Ich war in Schulen, habe zum Beispiel ein paar Schülerinnen gesagt, naja ... Die Schule macht halt nachmittags zu bei sich Zuhause sind noch drei andere Geschwister Und dann müssen sie sich noch um die Geschwister kümmern und dann sind im nächsten Morgen die Hausaufgaben fällig.

00:27:36: Wann und wo sollen Sie die denn machen?

00:27:40: Die nutzen halt KI, um am nächsten Tag die Hausafgaben zu haben.

00:27:43: Sie lernen dabei nix!

00:27:44: Aber sie haben dann die Haus-Aufgaben.

00:27:47: Ein anderes Beispiel fand ich auch interessant und es sind jetzt wirklich nur so Schlaglichter.

00:27:51: Da hat eine Schülerin gesagt Sie traut sich halt nicht bei der bestimmten Lehrkraft, Nachfragen zu stellen.

00:27:56: Weil das peinlich ist vor der ganzen Klasse und dann vielleicht macht sich die Lehrkraft sogar noch lustig oder so?

00:28:02: Und dann fragt sie doch lieber zu Hause.

00:28:03: so ein System wo man sich auch wieder fragt also das Problem ist doch nicht... Also das Problem is' doch ein anderes.

00:28:09: hier in dem Fall!

00:28:11: Und so kann man natürlich mal durchgucken.

00:28:12: Es gibt sicherlich auch faule Schlaumeier, die sagen ich hab einfach keinen Bock.

00:28:16: Ich hänge lieber mit meinen Leuten rum.

00:28:19: Ist ein anderer anderes Thema natürlich.

00:28:21: aber wir sehen finde ich dass so diese Diese KI-Nutzung in der Schule, zumindest auf Schülerinnen und Schülers Seite.

00:28:27: Auf so einen bestimmten Nährboden eine bestimmte Konstellation fällt bei den Lehrkräften eben auch die sagen wir haben ganz wenig Zeit usw.

00:28:33: Und deswegen sozusagen ist es der eine Strang zu gucken.

00:28:37: was können wir damit machen?

00:28:38: Was ist denn die Nützlichkeit?

00:28:40: und das andere vielleicht auch das ein bisschen als Alarm Glocke zusehen die uns quasi so ein bisschen darauf hinweist wo wir vielleicht gesellschaftlich auch noch mal hingucken sollten.

00:28:49: wie sind die Resonanzen.

00:28:51: Wenn du sagst, guck mal hier vielleicht haben wir grundlegende Probleme mit Hausaufgaben, Rolle der Lehrkraft, Arbeitsbelastung der Lehr Kraft hast du den Eindruck dass dann der Fokus sich verschiebt.

00:29:06: oder sie den nächsten fragen?

00:29:09: Naja das Problem ist so ein bisschen.

00:29:14: ich frag ja nicht nur mich sowieso es wäre auch würde ich ordentlich machen.

00:29:20: Es ist so ein Zwiespalt, weil die wissen ja auch.

00:29:24: Die Einsparung werden immer härter und dann sucht man natürlich nach Auswegen.

00:29:29: und aber rein fachlich.

00:29:31: es ist ja nicht so ich habe ja nicht also Ich bin ja jetzt nicht Teil der Anti-KI Lobby, weil ich davon bezahlt werde.

00:29:39: Sondern... ...ich arbeite halt dazu und sozusagen habe da viel mich beschäftigt damit, lese dazu, schreibe dazu usw.

00:29:48: Und ich kann den nur mitteilen was aktuell die Empirie ist!

00:29:51: Ich hab weder die Wahrheit gepachtet noch habe ich da jetzt sozusagen so einen ganz eigenen Stake, also eine ganz eigene Position.

00:29:58: Das heißt wenn sie dann die Gewichtung woanders legen zum Beispiel in einer Schulleitung sagt Ja, was könnte ja trotzdem klappen?

00:30:06: Wir sind halt hier risikofreudig.

00:30:07: Na ja dann los!

00:30:08: Also macht das aber ich sozusagen... Ich sage nur, was diese Linien gerade sind.

00:30:13: und wenn man sagt und die wollen halt sagen ja wir haben jetzt hier für alle so ein... Wir haben es für alle ChatGPT Lizenzen gekauft und wir gucken mal wo wir da hinkommen muss man immer noch sehen dass das so ein quasi Wissenszentralisierungs- und antidemokratisches Projekt ist quasi gerade bei ChatGDP und OpenAI und Anthropic usw.. Das sind keine Freunde der Demokratie und das sind auch keine Freunde, der Umwelt- und Natur.

00:30:38: Wenn man sich so die Rechenzentren sozusagen kommen wir später vielleicht noch dazu ankommt.

00:30:42: Das heißt all diese Sachen muss man dann sozusagen auch mit da rein nehmen.

00:30:46: Und wenn die Entscheidung trotzdem dahin fällt?

00:30:48: Naja, dann müssen sie es halt ausprobieren.

00:30:50: also ich bin Ich kann das verstehen dass Leute sozusagen trotzdem diese Hoffnung hegen und dann Es gibt ja auch diese Versprechen.

00:30:59: Also jetzt haben wir das Problem gelöst.

00:31:01: uns weiteres Das kenne ich aus anderen Hypes, ne?

00:31:05: Sieger, Neunziger Jahre.

00:31:06: Also so weit bin ich jetzt noch nicht dazu da geforscht hätte.

00:31:08: Aber historisch sollte man sich das schon angucken.

00:31:11: und die gleiche Sache nannte sich dann Expertinsystemen.

00:31:15: Und die würden alle Ärztinnen und Ärzte arbeitslos machen.

00:31:18: Sowieso alle Experten, weil das Wissen der Welt kann ja in diese KI-Star eingebaut werden.

00:31:24: Da merkt man, wird man einfach ein bisschen vorsichtiger.

00:31:28: Du hast eben kurz schon ... eine Metapher, den Rorschacht-Test der KI quasi macht.

00:31:33: Also wenn es richtig viel ergebe irgendwie du zeigst hier beim KI und die Person erkennt darin ihre größten Hoffnungen oder...

00:31:39: Genau richtig!

00:31:40: Ihre großen Probleme.

00:31:41: Ihre

00:31:41: großen Probleme?

00:31:42: Genau ja.

00:31:43: Und ich überlege gerade ob man das noch ausbauen kann dass tatsächlich KI insgesamt so stark als Ich weiß gar nicht, wie man es dann nennen soll als irgendwas wo was zurückkommt.

00:31:55: Aber eigentlich in der Regel immer in der Richtung ist das sozusagen die eigene Richtung bestätigt also ja auch im negativen Sinne dass irgendwie so eine Selbstberuhigung stattfindet.

00:32:03: Ja, das Ding ist ja nicht wirklich kreativ oder?

00:32:05: Ist es nicht wirklich intelligent oder Es kann allen Menschen die ersetzen oder sowas.

00:32:10: Ist es irgendwie so ein Eigenschaft dieses Zeitgeist-Diskurses oder ist es ne vorübergehende Eigenschaft Das tatsächlich im Moment ja nicht tatsächlich Also nach meinem Eindruck ein großes Miteinanderreden stattfindet sondern eher einen Selbstvergewissern, dass man noch richtig unterwegs sei.

00:32:26: Also es finde ich eine sehr spannende Frage weil die auch ja so ein bisschen zur Selbstkritik sozusagen schiebt.

00:32:32: Ich würde sagen das kann sein dass es Akteure gibt, die das als selbst beruhigen nehmen.

00:32:37: Und die gab's auch immer.

00:32:38: ne?

00:32:38: Die KI wird niemals wie ein Mensch fühlen und irgendwie... ...die KI der Mensch hat sowas spirituelles usw.. Ich finde das kann man alles alges Argumentationen sozusagen auch zulassen.

00:32:50: Es fragt natürlich danach, was der Mensch ist.

00:32:53: Wenn ich sage, er ist eh nur eine Maschine und dann kann die KI auch so sein wie der Mensch aber dann liegt es nicht daran das materiell daran was anders ist sondern weil ich das so definiert habe.

00:33:02: Josef Eisenbaum hat selber auch mal gesagt Die Gefahr dieser Menschenmaschinenvergleiche besteht nicht darin die Maschine zu erhöhen dass sie wieder Mensch ist, sondern auch darin den Menschen so zu erniedrigen oder verringern.

00:33:16: Dass er so ähnlich wie die Maschine ist.

00:33:18: also da muss man sich dann schon fragen wenn man sagt wir Menschen sind ja auch nur irgendwie feuernde Neuronen und liebes noch Chemie usw.. Das kann man denken das kann man auch sozusagen in der Philosophie im Leib Seele Problemen gibt es Positionen die das argumentieren ich würde das nicht tun.

00:33:34: Und aber sozusagen dann merkt man, man redet eigentlich sogar über ganz andere Ideen von Menschen.

00:33:39: Dann sollte man das erst mal ein bisschen klären.

00:33:41: was ich aber auch sagen will.

00:33:42: Das heißt diese Selbstberuhigung ist manchmal eine Funktion.

00:33:46: Ich glaube es ist aber auch manchmal eine Selbstber ruhigung einfach mit dem Hype mitzulaufen Die selbst beruhigen dass man auf der richtigen Seite ist und alle anderen die gibt ja auch die Diskussion.

00:33:55: Das sind so die Luddites, also die Maschinenstürmerinnen und so weiter von damals.

00:34:00: Die jetzt nicht... Es wird ja auch oftmals von KI-Proponenten so gesagt das ist die Zukunft, dass es die Welt und alle anderen stehen dagegen.

00:34:10: Sie sind gegen Fortschritts, sie sind rückwärts gewandt usw.

00:34:14: Da merkt man, dass sozusagen dieses Fürsprechen fast unangeschränkt so ein Mark Andres' Technooptimism oder Tech-Youtopia-Nasm ist dann so die Begriffe dahinter, die ideologischen Fundamente.

00:34:25: Da ist es auch eine Selbstvergewisserung gleichzeitig anders zu sein, weil man sozusagen auf der Seite des Fortschritts steht.

00:34:32: Und dann kann man natürlich auch wieder fragen was Fortsschritt für wen und so weiter.

00:34:35: also in dem Sinne würde ich glaube ich eher sagen In der kritischen Betrachtung zu gucken wo kommt eigentlich die Ansicht her dich vertrete?

00:34:44: Welche Empirie habe ich welches sozusagen?

00:34:46: Wo fangen Hinweise an und wo gehen wir ins spirituelle?

00:34:52: Ich sag jetzt mal, verweigerern genauso einen spirituellen Anteil.

00:34:56: Bei den Befürworter habe ich auch manchmal das Gefühl, dass es eine Sektor ist.

00:35:00: Also wenn man sich auch und leider geht es bis in die höchsten politischen Ebenen bei Ursula von der Leyen als sie gesprochen hat über KI-Entwicklungen in Europa

00:35:10: usw.,

00:35:14: völlig neue Art von Technologie usw.

00:35:17: sozusagen einen offenen Brief von Wissenschaftlern, den ich dann selber auch mitgezeichnet habe und mit der Nachfrage, was denn die empirische Basis ist für diese Aussagen?

00:35:27: Und da kam erst eine Weile nichts.

00:35:28: Dann wurde es durch so ein Informationsfreiheitsanfrage rausgeholt und dann gab's ne Antwort und sie waren einfach mehrere Seiten von Aussagen von

00:35:39: KI-Firmen."

00:35:40: von Anthropic, von Open Air und so weiter.

00:35:42: Und da denke ich mir doch das ist auch keine Grundlage.

00:35:45: Ich sozusagen bin da auch kritisch eingestellt aber ich kann es durchargumentieren bis zum letzten CO-Zwei-Emission in irgendwie riesen Datacenters warum wir da vielleicht ein bisschen vorsichtig mit umgehen sollten.

00:36:02: Das ist glaube ich die Frage diese Selbstkritik.

00:36:04: dann kommt doch eine Antwort und die kann ja immer noch sein Ich bin da kritisch, bin da risikofreudig oder ich finde das ist irgendwie die Zukunft der Menschheit.

00:36:13: und jetzt sollten wir alle Transhumanisten sein und uns Chip einbauen lassen.

00:36:17: Schlechte Nachricht?

00:36:18: Der Chip wird wahrscheinlich von Elon Musk sein also weiß nicht aber gut

00:36:23: Was ist die Konvivialität von Technologie?

00:36:29: Wenn wir das mal mit der Frage davor verbinden sozusagen die Frage der technischen Entwicklung ist quasi so eine Denkrichtung, die aus den siebzigern kommt von Ivan Ilych.

00:36:42: Der war Technikphilosoph, der hatte glaube ich auch ein bisschen theologischen Hintergrund und hat sich mit Industriegesellschaft aber auch mit Bildungen beschäftigt und sozusagen... Mit der Richtung wie Gesellschaften sich organisieren und insbesondere in dem Beispiel jetzt Technik verwenden.

00:36:59: Und er hat quasi diese... In seinem Buch Tools of Conviviality hat er quasi ne Denkweise geprägt, die so als Kompass dienen kann warum wie Technik eingesetzt wird.

00:37:11: Und er hat sozusagen man kann sagen es sind so zwei... ich vereinfache jetzt sehr grob aber so zwei Elemente zum Beispiel zwei Säulen.

00:37:19: Die erste Säule ist die zu sagen die instrumentelle Herangehensweise also quasi die Industrielle Herstellung von Gütern.

00:37:29: Oder, wie er gesagt hat auch die industrielle Bildung.

00:37:32: Da kommen dann Schülerinnen und Schülern in die Schule, kriegen alle das gleiche Lehrbuch... ...und dann gehen sie durch so eine.

00:37:39: Hans von Förster hat, dass man eine Trivialisierungsmaschine genannt.

00:37:42: Vorher haben alle Fantasie- und Motivationen usw.

00:37:44: Und danach kommen die Leute raus und sagen alle zwei plus zwei, gleich vier.

00:37:48: Nee ich übertreibe so!

00:37:50: Und sozusagen Illych hat gesagt, naja diese industriellen Herstellungsweise funktioniert immer nur fürs ganz konkrete kleine Problem und schafft aber an anderen Stellen fünf neue.

00:38:06: gesamt sich dahinter steckt.

00:38:08: Wir wollen uns irgendwie individuell bewegen, also nehmen wir irgendwie Öl und bauen Autos und dann haben wir Klimakatastrophe an anderen Stellen.

00:38:16: Dann kommt die nächste Idee naja wir könnten ja Carbon Capture and Storage machen und dieses CO² in die Erde rein drücken, dann bauen wir solche Systeme die auch nicht groß genug und effizient genug sind usw.

00:38:25: Und dann entstehen dabei Erdbeben und so weiter.

00:38:27: Und man merkt so und da meint ihr eher das ist diese klassische industrielle Denkweise.

00:38:32: davon müssen wir uns lösen!

00:38:33: Wir müssen sozusagen die Problembeschreibung größer und kontextueller beschreiben.

00:38:37: Und dann muss man Technik konvivial benutzen, wenn sie quasi sozusagen für den Menschen und nicht nur den einen Menschen verkauft oder benutzt sondern immer in so einem großen globalen Kontext zu sehen.

00:38:48: Und das zeigt uns bringen zu der zweiten Säule nämlich der Interdependenz wo sozusagen in dieser Denkweise gesagt wird na wir müssen halt... Wir können nicht.

00:38:58: die Gesellschaft ist kein Motor wo wir einfach eine Zündkerze austauschen.

00:39:01: Das sind alles Netzwerke aus Verbindungen zwischen Menschen, wie wir zueinander uns verhalten.

00:39:08: Die meisten Sachen die wir tun sind eigentlich soziale Beziehungen.

00:39:11: selbst ein Handel oder so wenn man es ökonomisch sehen will ist eine Sozialbeziehung.

00:39:15: aber es gibt auch die Beziehung zu der Tier- und Pflanzenwelt.

00:39:19: also wenn man sagt ja ich bin ja ein autonomes Subjekt und ich bin unabhängig da würde halt Ivan Ilsch sagen dann halt mal die Luft an und gucke wie lange du autonom bist.

00:39:27: Also sozusagen die Anerkennung der Abhängigkeit von Tieren, Pflanzen, Bienen usw.

00:39:35: Und nicht nur weil man selber das braucht sondern auch so eine eigene Wertschätzung zu dem Leben von Mensch und Tier und sozusagen Pflanzen und sozusagen den ganzen Umweltsysteme und sich selbst als Teil dessen zu sehen und nicht als Herrscher oder Herrscherin dessen.

00:39:55: Jetzt kommen wir mal zurück mit dieser konvivialen Sicht.

00:39:58: Da würde man, später wurde Andrea Fetter zum Beispiel hat auch eine schöne Arbeit jetzt ihre Dissertation da zwei achtzehn oder neunzen oder so gemachtes Buch kommt jetzt raus auch zu konvivaler Technik.

00:40:10: also kann man sich ein bisschen aktualisierter mal angucken und wenn man jetzt mit dieser Konvivalen Brille sozusagen auf KI blicken würde würde man sehen wow!

00:40:19: Da bauen wir also einen System.

00:40:22: Ich überspitze jetzt mal ein bisschen für die Erklärung.

00:40:25: Wir bauen also, wie als Menschen oder in paar Menschen, Bauneinsystemen.

00:40:29: was weltweit alles Mögliche Wissen abgrast – die gesamte Kultur.

00:40:34: ob jetzt illegal oder nicht sei immer dahingestellt ist natürlich illegal aber egal.

00:40:39: In dem Fall dieses ganze Wissen zentralisiert in die Hände von einigen wenigen.

00:40:45: In diesem Zuge gibt's was weiß ich, sechshunderttausend, siebenhunderttausend Unterbezahlte und also präkerste Datenarbeiterinnen.

00:40:53: Die Umweltauswirkungen der Rechenzentren sind absolut.

00:40:57: das neueste geplante Rechencentrum von Amazon in den USA wird fast so viel Emission haben wie die Niederlande.

00:41:05: ein neues geplantes Rechen-Zentrum.

00:41:07: jetzt bauen wir so eine Maschine dahin und der Nutzen ist dass das ganze Wissen den Leuten dann zurückverkauft wird.

00:41:15: Ja, muss man halt bezahlen und dann können Menschen und Firmen das nutzen.

00:41:20: Und dabei kommt auch noch die Hälfte falsch raus und das Netz füllt sich gerade mit all diesem gequirlten Kram.

00:41:28: Jetzt mittlerweile sind über fünfzig Prozent glaube ich der neuen Bücher auf Amazon haben sozusagen teilweise KI generiert und zerstören uns eigentlich diesen kulturellen Unterbau.

00:41:39: und diese Machtzentralisierung findet dann auch noch statt bei wirklich anti-demokratischen bis faschistischen Kräften.

00:41:48: und da würde man dann sagen, Konvivial.

00:41:49: Warum machen wir das noch mal?

00:41:52: Was ist jetzt der Sinn?

00:41:53: Ach so!

00:41:54: Wir können jetzt einfacher unser Wochenende planen.

00:41:56: Ja super oder wir können einfach einen Arbeitsblatt in Geografie schreiben lassen.

00:42:04: Und da wurde sozusagen diese konviviale Sicht unserer Fragen ja was macht es mit den Schülerinnen und Schülern mit den Lehrkräften mit der Umwelt usw.

00:42:10: und so eine Antwort geben.

00:42:12: Und sagen, das ist sehr wahrscheinlich keine konviviale Technologie.

00:42:17: Ist deine konviviale Umgestaltung denkbar?

00:42:20: Das ist ein bisschen so eine Frage.

00:42:24: Es gibt aktuell ganz viele Versuche, dass auch irgendwie effizienter zu machen die Modelle zum Beispiel wo um diese ökologischen Fragen anzugehen oder was wir vorhin schon hatten zum Beispiel offene Modelle zu machen, dass mehr Leute die nutzen können.

00:42:40: ich sehe aber aktuell, das haben wir in einem anderen Paper so ein bisschen warum rissen sehe.

00:42:47: ich sehe noch ein wesentliches Problem bei diesen Riesenmodellen weil die sozusagen per Definitionen im Riesen groß sind.

00:42:54: Das heißt ne offene Modelle haben wir schon drüber gesprochen.

00:42:58: aber zum Beispiel Energieeffizienz ist leider In der Art wie wir gerade sozusagen die Digitalwirtschaft organisieren reicht Effizienzen halt nicht aus.

00:43:09: also teilweise werden die Modelle effizienter.

00:43:11: Jetzt gibt es die neuen Modelle mit irgendwie eine Anführungsstrichen Reasoning und Anführungstrichen Chain of Thought, die funktionieren besser weil sie sozusagen so Zwischenschritte machen.

00:43:20: Also leicht besser haben aber den Fünfhundertfachen-Ressourcenabdruck.

00:43:25: also sozusagen da hat man an so drei Schrauben gedreht oder drei tausend Schraubengedreht um bestimmte Schritte effizienter zu machen.

00:43:31: und dann gibt's sozusagen die neue Version und die hat dann den fünfhundertfachen Abdruck größer als besser.

00:43:38: Und da merkt man so ein bisschen, und das ist auch die Einladung der Konvivialität zu fragen.

00:43:44: Welche Rolle sozusagen der Kontext dieser Technologie hat?

00:43:48: Also gar nicht mal darauf zu gucken jetzt ist sie da wie können wir sie anders nutzen sondern wie entsteht sie eigentlich?

00:43:53: welche Machtverhältnisse haben dafür gesorgt dass es diese Art von Technologie gibt?

00:43:59: oder sozusagen Also Risiken und Chancen, Risiken für wen und Chansen für wen.

00:44:05: Und in dem Sinne wäre die Antwort wahrscheinlich auch zu sagen Es aktuell sieht es nicht so aus als wären diese Großmodelle auf irgendeiner Art sozusagen konvivial nutzbar?

00:44:17: Die Frage ist natürlich noch offen aber ich sehe da gerade keine Anzeichen Gerade wenn das groß schon im Namen steckt.

00:44:24: also sozusagen

00:44:25: und gehen diese Bemühungen die man dann vielleicht Gerade europäisch denkt von Souveränität und Alternativen usw.

00:44:33: in eine solche Richtung, oder ist es das Gleiche nur mit Europa davor?

00:44:39: Ja, das ist eine sehr spannende Frage dieser Diskussion über den Sinn-und Unsinn von Digitale Souveranität.

00:44:47: Die ist sehr spannend und da haben ja auch zum Beispiel Julia Polo und andere sehr schön das sozusagen ausdifferenziert.

00:44:55: Für manche ist sozusagen digitale Souveränität so ein internationalistisches Projekt, wo es darum geht quasi Infrastrukturen zu demokratisieren.

00:45:03: Und das auf aller Fälle sozusagen ein schönes finde ich ein lohnenswertes Ziel was eben auch mit den proklamierten Werten der zum Beispiel EU oder so.

00:45:13: Realität ist immer eine schwierigere Frage.

00:45:16: aber also was dementsprechend würde.

00:45:20: Wenn jetzt aber natürlich digitale Souveranität bedeutet Wie du angesprochen hast, wir wollen jetzt irgendwie ein Palantir haben.

00:45:27: Aber das soll halt open source und europäisch sein.

00:45:30: Da merkt man da hat man auch ein Problem damit.

00:45:32: Und sozusagen ich glaube die eher ökonomische Sichtweise würde sagen naja gut aber wenigstens ist Europa.

00:45:38: und manche Grundrechtsvertreterin würden auch sagen na ja gut aber es ist Europa.

00:45:42: Ich würde dann sagen aber dann lass uns doch über die Demokratisierung von Technik und Infrastruktur nachdenken.

00:45:48: und Palantier ist halt ein militär polizeilich sicherheitliches Projekt, die ganze Idee ist schon kommt.

00:45:55: Schon daher wieder sozusagen Informationen zusammenzuführen und sozusagen einem Akteur diesen Wissensforschung zu geben so dass er dann was für sich in Gaza bomben kann oder in den USA irgendwelche Leute irgendwelcher Verdächtigen festnehmen können oder in Hessen die Recherchen unterstützen kann.

00:46:14: So da merkt man schon wieder sozusagen auch digitale Souveränität, geht es darum Geld für sozusagen freie Software auszugeben und die entsprechenden Infrastrukturen dafür zu schaffen?

00:46:26: Freies Software als notwendiges aber nicht hinreichendes Element.

00:46:32: Für digitale Souveranität oder geht's tatsächlich wirklich gerade nur um Wirtschaftsvorteil?

00:46:38: Das haben wir auch gesehen mit dem Deutschlandstack in der Diskussion.

00:46:42: da merkt man auch so okay das ist digitale Das hat so eine Souveränität im schwarz-rot-golden Anstrich.

00:46:50: Es ist was anderes, als man eigentlich vielleicht erwarten würde und man muss auch überlegen, Souveranität... Ich weiß nicht ob Deutschland jetzt selber Nvidia Chips herstellen wollte?

00:47:01: Ich glaube es schafft das nicht!

00:47:04: Und wenn man digitale Souverenität Auch selbst wenn wir diese ganzen Annahmen jetzt nehmen würden, ernst nimmt würde mir zuallererst mal auch noch viele andere Baustellen einfallen.

00:47:13: Also wenn Schulen – was weiß ich?

00:47:18: Offiziell oder inoffiziell irgendwie Google Docs nutzen oder bei Microsoft sind oder so.

00:47:23: Da frage ich mich doch so ein bisschen dann lass uns doch nicht über… Milliarden verschlingende Großmodelle diskutieren, wenn Trump sagt.

00:47:31: Aber ihr macht zu viel Vorkenkram bei euch drehen wir jetzt irgendwie den Hahn zu.

00:47:37: Da würde ich vielleicht da zuerst anfangen und die Sachen... Also die Projekte gibt's ja von Open Desk

00:47:44: usw.,

00:47:44: Internationale Strafgerichtshof stellt ja gerade um aus politischen Gründen usw.. Da frage ich mich, wo jetzt dieser Fokus herkommt.

00:47:55: In dem Sinne die Richtung finde ich ist interessant und die öffnet so paar Tore.

00:48:00: Die Antworten darauf... Ich glaube da müssen wir noch ein bisschen politisch streiten um das dahin zu kommen was ich sozusagen aus einer konvivialen demokratisierten und genau sichtweise so hinkommen würde.

00:48:15: Kurze Frage oder bitte meinen kurzen Ex Kurs von dir als Informatiker, du hast das zweimal angeschnitten mit der Offenheit von bestimmten System.

00:48:23: Da wird dann auch gerne gesagt ja es gibt ja auch Open Source Was hast Du für Probleme damit?

00:48:27: Genau ich habe das vorhin glaube ich mal ein kleines bisschen angerissen.

00:48:32: Der Punkt ist Ich finde Open Source und Open Source Software und so finde ich super großartig.

00:48:38: Also vor mir steht hier auf dem Rechner da läuft auch Freisoftware drauf und so weiter.

00:48:43: Mein Telefon ist Android aber Google frei usw.

00:48:47: Aber das darf man alles nicht so individualisieren.

00:48:49: Die Frage ist natürlich, welche Funktion hat es eigentlich?

00:48:53: Und die Funktion von Open Source oder freie Open Source, eine Software ist sozusagen in den Code zu gucken, den anpassen zu können und so weiter.

00:49:04: Das darf man aber nicht individuell verstehen.

00:49:06: Das kann, was weiß ich, Dataport für mehrere Bundesländer Dienste breitstellen.

00:49:12: Es ist einfach die grundlage, die technische Grundlage um nicht von einem Hersteller abhängig zu sein und dann sozusagen wie so eine Community oder eine Gemeinschaft oder Gesellschaft, sozusagen in dieser Technik auch diese demokratischen Prinzipien abbilden zu lassen.

00:49:30: In der Demokratie haben wir Wahlen und haben andere Möglichkeiten da irgendwie einzuwirken mit welcher Richtung es geht.

00:49:35: und wie sieht das dann in der Technik aus?

00:49:37: Da braucht man auch so eine... Und das ist diese Offenheit an der Stelle!

00:49:41: Bei Software alleine funktioniert das ganz gut weil ich Was weiß ich, als Communities oder als Kollektiv kann ich dann halt so unter Sachen betreiben auch für die Leute, die weniger Ahnung haben.

00:49:52: Oder eine Schule kann es für die Lehrkräfte bereitstellen oder einen Bildungsministerium kann das für alle Schulen bereitstellen.

00:49:59: Das ist alles sozusagen möglich und ist auch eine gute Idee.

00:50:05: jetzt haben wir aber bei IKI gerade den Fall dass dieses Glitzern des Open Source sozusagen man sagt dann in der Wissenschaft sozusagen so partizipative Designpraktiken möglich sind, die bei Software tatsächlich funktionieren.

00:50:19: Bei KI-Modellen ist es so, die, die jetzt als Open Source AI benannt werden was ist ich?

00:50:25: Olamah oder so weiter?

00:50:27: das sind ja Modelle die sind offen im Sinne von die mathematischen Formeln, die da drin sind.

00:50:32: Die sind offen und die Gewichte da drinnen kann man sich dann mal vielleicht mal bei Wikipedia oder so angucken... ...und nicht nur bitte beim Chatbot wie sozusagen solche Open-Wade Modelle funktionieren.

00:50:44: aber die Kurzversion ist quasi dass die internen Gewichtungen, quasi die mathematische Parameter dieser Gleichungen, die sind open und da kann man ein bisschen dran rum schieben, wenn man das anders haben will.

00:50:57: Und man kann es vor allem auch lokal laufen lassen auf dem eigenen Server oder auf dem Schul-Server oder aus dem Unternehmensserver oder so ein Immestral und sowas machen, als Firma, als französische Firma.

00:51:07: Der Punkt ist nur... Das Versprechen von Open Source ist ja ich gar als Schule kann das machen Ich kann dieses Software auch anpassen oder selber bin und so weiter Bei diesen großen Modellen, ich kann die dann lokal Laufen lassen.

00:51:21: Ich kann sie benutzen also Access.

00:51:25: Jetzt ändert sich aber die Datenlage im Netz.

00:51:27: Diese ganzen großen Modelle auch ChatchiPity und so weiter, die werden ja regelmäßig alle paar Monate neu trainiert auf allen Milliarden Datensätzen aus dem Netz und sonst woher Büchern

00:51:37: usw.,

00:51:38: das kann ich nicht mehr selber machen.

00:51:40: Das heißt Open Source AI impliziert selber laufen lassen und vielleicht Zugängigkeit.

00:51:49: Aber diese Trainingsfragen da wo ich eigentlich weichen stellen kann Welche Daten nehme ich mehr, welche nehme ich weniger?

00:51:57: Will ich was weiß ich.

00:51:59: Was ist mit Indiginen im Wissen und diese ganzen Diversitätsfragen

00:52:01: usw.?

00:52:02: All diese Sachen kann nicht beeinflussen wenn ich nicht zufällig fünf Datacenter habe Und deswegen sozusagen wäre ich vorsichtig damit sozusagen Open Source AI wie Open Source Software zu behandeln weil das versucht diesen Begriff zu entfremden.

00:52:16: uns übertragen auf eine Sache die prinzipiell weil das so riesengroße Anforderungen sind überhaupt nicht demokratisiert werden kann, allein auf so einer technischen Ebene.

00:52:25: Politisch weiß ich gar nicht... Ich meine es gibt auch Frauenhofer die bauen so einen teugenden NB also eigene Modelle trainiert auf allen Sprachen der EU und so weiter.

00:52:33: da wird das versucht.

00:52:35: aber diese technische Zentralisierung finde ich immer noch sehr schwierig zumal halt die Use Cases immer noch so schwach sind eigentlich.

00:52:52: Also es gibt sie.

00:52:53: Aber wenn wir jetzt Praxis, und da sehen wir dann Menschen in einem Kultusministerium oder beim Träger oder einer Schulleitung vielleicht auch eine konkrete Lehrkraft die entscheiden muss zwischen Verführung das praktisch.

00:53:14: für mich hilfreich sein kann zwischen einem Druck, den du vorhin beschrieben hast.

00:53:17: Es gibt irgendwie so eine diffuse Erwartung aus Öffentlichkeit Eltern Träger Politik was auch immer.

00:53:23: wir müssen jetzt etwas mit KI machen und entsprechend angeboten das ist ja auch da.

00:53:31: wie kann die handlungsfähig bleiben nachdem sie jetzt von dir vollkommen verunsichert wurde in Sachverantwortungsvolle Umgang?

00:53:38: also ich glaube der Punkt ist.

00:53:40: ich habe mir ein paar mal gesagt nicht Ich formuliere auf Sachen gerade auch ein bisschen spitzer.

00:53:47: Dafür haben wir dich ja auch

00:53:47: eingeladen, das muss mich auch ganz klar sagen!

00:53:49: Genau, weil die andere Richtung ist mit der Verlangs aus Wirtschaft und Politik so präsent.

00:54:00: Das muss niemand noch mal sagen jetzt.

00:54:01: Die Hochglanzbroschüren liegen überall im übertragenden Sinne.

00:54:07: Was wichtig bei diesen Entscheidungen sind ... angerissen erstmal zu überlegen, was ist eigentlich mein Problem?

00:54:17: Also so selber auch zu reflektieren sind es die Klassenbücher.

00:54:21: Sind's die Lehrmaterialien?

00:54:22: Ist das die Organisationen?

00:54:24: Was weiß ich?

00:54:24: Ist der Krankenstand?

00:54:25: Es ist also sozusagen...was ist das Problem?

00:54:29: Worum gehts mir?

00:54:32: und Da muss man natürlich auch mit den Lehrkräften sprechen und vielleicht auch wenn es Schulleitungen sind, mit anderen in der Schulleitung oder wenn es sozusagen Bildungsverwaltungen sind.

00:54:42: Mit anderen Bildungs Verwaltung und die vorhin gibt's ja auch ich glaube da gibt ganz viel und dann würde ich auch so sagen die Antworten nicht vorweg nehmen sondern eher so ein bisschen die Frage stellen das zusammen zu überlegen und zu durchdenken Und dann zu gucken vielleicht gibt's in dem Vielleicht gibt's die was für sich drei Sachen wo wir das wo man das mal ausprobieren kann Dann kann man ein Projekt pilotprojekt machen Wo dann eben die Vorteile, die Risiken, die ich alle genannt habe oder zum Teil ausgleichen usw.

00:55:10: Und dann kann man so Pilotprojekt starten.

00:55:13: Ich glaube und man kann das nicht alleine machen als alleine sozusagen diese Überforderung ist ja ganz normal.

00:55:21: Die individuelle Überforderungen sind ein Zeichen von Körper und Geist, der sagt Achtung jetzt geht es gerade um was?

00:55:27: Das ist bisschen wie so... Risikosituationen und das dann zu nutzen als Motivation, das mal anzugucken.

00:55:37: Dann die Fragen, das habe ich vorhin kurz angerissen sozusagen Vorteile, Nachteile, Werträge, die Vorteile?

00:55:42: werträgt die Nachteiler ist sozusagen den Risiko für Schülerinnen und Schüler zurechtfertigen wenn es irgendwie der Lehrkraft fünf Minuten spart.

00:55:51: also nur mal.

00:55:51: als ganz konkretes Beispiel letztes Jahr vorletztes Jahr gab's das Phobis Tool in Rheinland-Pfalz vom Bildungsministerium quasi freigegeben zur Benotung von Schularbeiten.

00:56:04: Das heißt, Erdkundelehrerinnen, Physiklehrerin und so weiter, sozusagen alle die jetzt nicht informatisch sind, die konnten halt dieses Tool nutzen um einfach Schüler arbeiten zu kontrollieren.

00:56:16: Und dann haben sich das Martin Henningsen und Rainer Müllhoff, zwei Wissenschaftlerin, die auch in diesem Bereich arbeiten, die haben sich konkret mal angeguckt Und die haben halt gesehen, diese Bewertungen fluktuieren.

00:56:28: Die gleiche Arbeit mehrmals bewertet gibt verschiedene Noten.

00:56:31: Wenn die Vorschläge, die das Tool gibt eingearbeitet werden wird es danach mal besser mal schlechter und der Knaller war... ...die Arbeiten, die am besten bewerted worden sind, sind Arbeiten mit KI geschrieben gewesen Und das sind dann die Tools, die sozusagen auf Lehrkräfte losgelassen werden.

00:56:51: Das ist das was ich meine, da muss man sich dann mal ein bisschen auskennen und ein bisschen offensichtlich nicht... Da muss man einen Pilotprojekt starten und dann auch wirklich validieren!

00:57:00: Was machen diese Systeme?

00:57:02: Was geben sie vor

00:57:02: usw.?

00:57:03: Und dass es die Messlatte und dann ist leider aufwendig aber das ist halt so.

00:57:08: Spart das wirklich Zeit wie sind die riesigen Verteilen

00:57:11: usw.,

00:57:11: das muss man alles mal machen.

00:57:15: Wer ist Mann?

00:57:16: Na sozusagen die Bildungsverwaltungen oder diese Entscheidungen treffen.

00:57:21: Oder sie müssen nach oben kommunizieren, dass das notwendig ist.

00:57:24: Oder Sie müssen nach unten kommunizierend... Das ist jetzt gerade ein Testfall!

00:57:28: Vielleicht macht ihr das nicht im Live-Betrieb, sondern wir wollen erst mal eine Meinung hören und so kann man sich beliebige Sachen ausdenken.

00:57:35: Und ne Frage ist auch Langfristigkeit und Abhängigkeit.

00:57:39: Eine Sache, die mir persönlich noch zu wenig vorkommt, es gibt aktuell kein Geschäftsmodell für large language Models.

00:57:46: Da sind jetzt seit den letzten, sagen wir mal, fünfzehn Jahren eine Eins Komma Fünf Billiarden also Trillion Dollar in Infrastruktur und Entwicklung geflossen.

00:57:57: Und die Risikokapitalgeber wollen jetzt langsam mehr Geld zurück haben.

00:58:02: Und es gibt aber sozusagen langsamer Macht an Thropic so ein klein bisschen Plus Aber das reicht überhaupt nicht, da irgendwas so zu machen.

00:58:13: Die Firmen rufen jetzt dafür, dass die USA fünf Prozent Anteile kaufen soll.

00:58:17: Elon Musk gelügt sich dahin mit Börse und so weiter um da irgendwelches Geld über SpaceX umzuleiten auf XAI.

00:58:25: Und sozusagen diese... Also sozusagen ist es überhaupt nicht klar wie damit irgendwie Geld verdienen werden kann.

00:58:34: Das heißt, es könnte auch sein und die Anzeichen mehren sich Schreibt auch irgendwie Financial Times und The Economist usw.

00:58:43: Da gibt es schon auch diese Stimmen, das ist jetzt keine... Irgendwie kommt jetzt nicht aus dem kommunistischen Blättchen oder so.

00:58:50: Also was passiert denn wenn in zwei Jahren die KI-Blase platzt?

00:58:54: Und sozusagen all diese Sachen sind halt nicht mehr nutzbar!

00:58:58: Die sind weg oder die sind anders usw.. Da muss man natürlich auch ein bisschen überlegen auf welches Pferd setzt man dann.

00:59:03: Oder werden vielleicht coole finnische Schul-Apps, die gar nicht KI haben.

00:59:08: Aber die supergut im Klassenverbund irgendwie Sachen.

00:59:10: Vielleicht wäre das die viel schlaure Investitionen?

00:59:13: Weiß ich nicht.

00:59:13: Das muss man so angucken.

00:59:15: Genau!

00:59:17: Ich würde gerne nochmal an dem Mann... also wer sind die Handel in den Aktuellen

00:59:20: nachbohren?!

00:59:21: Weil ja, wir in diesem Schulsystem die seltene Situation haben.

00:59:26: Mit dieser irgendwo habe ich abgeguckt mit meine lose-feste Kopplung.

00:59:30: also einerseits fest weil es immer total vorgesehen ist wer zu welcher Zeit was wo macht aber lose weil wie es dann da gemacht wird ganz viel noch vor Ort entschieden werden.

00:59:38: Also

00:59:38: prinzipiell kann ja so eine Lehrkraft für alle forty fünf Minuten neu entscheiden individuell entscheiden.

00:59:43: das gibt ein paar Sachen die sich letzten jahren sozusagen bisschen hochgestuft worden sind, also beispielsweise weiß ich nicht welche Materialien nutzen.

00:59:50: wir dann eine Fachschaft entschieden.

00:59:52: Ja stimmt

00:59:53: digitalen System hat vielleicht auch einen Träger schon für mehrere Schulen was entschieden.

00:59:56: Bundesland hat entschieden welche Tools freigegeben werden.

01:00:00: ist das ein Trend wo du sagen würdest es setzt sich noch fort dass eigentlich in den unteren Ebenen eher wenig entschieden werden kann weil die Entscheidung kaum noch zu überblicken ist oder auch nicht mehr individuell zu treffen ist welches KI-Systemtool was auch immer so gerade ist in dem jeweiligen Zeitgeist.

01:00:21: Was hat die individuelle Person, da tatsächlich für Gestaltungsspielraum noch?

01:00:27: Ich glaube das ist ein bisschen so ein Problem weil im Moment es gibt ja noch keine gemeinsame Position und ich kann mir vorstellen dass das auch... Also das müsste man jetzt gucken, ich kenne also ein paar Fälle kann es jetzt aber nicht, dazu müsste man jetzt ein bisschen systematisch mal das erheben.

01:00:50: Aber sozusagen mein educated guest dabei ist dass diese Freiheit glaube ich nach wie vor erhalten bleibt und im besten Fall kommen jetzt einfach noch weitere Werkzeuge dazu die genutzt werden können weil soweit ich es jetzt sehe, gibt's ja auch bei allen möglichen Machungen von Tools keine Pflicht zu nutzen.

01:01:09: Also die Lehrkraft, die sagt, ich nehme jetzt dieses Buch und ich mach das auch weiterhin weil ich was weiß ich x Jahren so mache

01:01:15: usw.,

01:01:16: die kann es ja auch weiterhin machen.

01:01:21: also dass ist sozusagen dann diese diese lose Koppelung an der Stelle.

01:01:23: ganz zum Schluss weiss man nicht wie das innerhalb der Schulen dann...

01:01:27: Ja, ich überlege fast der Fürsprecher, dass er sozusagen erhalten bleibt.

01:01:30: Genau!

01:01:30: Also

01:01:31: ich... Sprechen alle nicht dafür?

01:01:36: Na ja, also da muss man wahrscheinlich auch ein bisschen so in die Bildungsforschung gehen und die Bildungstheorie.

01:01:41: Und da gab es ja... Ich würde jetzt mal ganz, ganz grob in den letzten zwanzig Jahren dieses Jahr irgendwie mit Frontalunterricht gestartet und dann kam so Mensch nee braucht man nicht wir müssen Projektarbeit und alles selber!

01:01:54: So wie ich die Forschung verfolge ist eigentlich so die letzten sagen wir mal, vielleicht zehn Jahre oder so eher wieder zu einem Kommt drauf an.

01:02:02: Manche Lehrer in Typen funktionieren frontal super gut und die bei denen funktioniert Projektarbeit nicht gut weil die Relationalität da so relevant ist.

01:02:11: Weil kommen wir wieder zu dem Punkt, es kann dieses Thema lernen nicht, weil Lernen ein sozialer Prozess ist.

01:02:17: aber Schüler hinlernen nämlich von und mit den Lehrkräften, kann man vielleicht ein bisschen was auch von demokratischen Schulen und demokratischer Bildung lernen.

01:02:25: Was sie eigentlich lernen wollen

01:02:27: usw.,

01:02:28: aber ich glaube wir sind auch wieder mittlerweile weg von diesem sozusagen Verteufeln von Frontal und aber irgendwie hoch leben lassen von nur Projekt usw.

01:02:37: Und das ist jetzt so.

01:02:39: meine Position wäre zu sagen Wir müssen halt aufpassen dass diese Freiheit schon erhalten bleibt weil auch die Lehrkraft selber Also, wir haben schon zu wenig Lehrkräfte.

01:02:53: Und wenn dann auch das Verständnis noch ist... Na die Lehrkräften sind ja nur noch die, die die KI bedienen.

01:02:57: werden sie die SchülerInnen so?

01:02:59: Das ist nie der Fall gewesen.

01:03:02: Es war immer ganz relevant diese Lehrkräftel wie zentral Die Arbeit mit den SchülerInn und den sozialen Elementen, die noch dazukommen usw.

01:03:13: verbessert sich ja jetzt auch mit Schulen, mit sozialen und sozusagen psychosoziale Unterstützung usw.

01:03:18: Aber ich würde sagen wir müssen dafür kämpfen dass diese Freiheit erhalten bleibt denn genauso kann es ein Werkzeug sein was bestimmt mit bestimmten Schülerinnen und Schülern auch gut funktioniert.

01:03:29: das Beispiel was ich vorhin genannt habe vielleicht gibt's ja Schülerinnen die sich wirklich nicht trauen auch in dem safest space possible.

01:03:40: Naja, vielleicht ist es für die besser sozusagen dass sie ein bisschen mit Anleitung.

01:03:45: Mit ihrem Chatbot diese Diskussion macht zu dem Thema weil sie einfach nicht vor der Klasse sprechen will aus ganz vernünftigen Gründen dann ist das vielleicht auch eine gute Möglichkeit Leute die sozusagen bestimmte Bedürfnisse haben, sozusagen auch mit reinzuholen in den Lernprozess.

01:04:04: Und bei anderen ist es besser wenn die nicht in die Nähe von KI kommen und das sind aber dann die Lehrkräfte, die das glaube ich entscheiden können.

01:04:10: Also würde ich sagen, die Werkzeuge müssen ordentlich durchgecheckt sein, die dann die Leerkräfte an die Hand kriegen.

01:04:17: Das ist sozusagen die Engführung... Ich kann nicht einfach so ein Fobius-Tool sagen, mach doch mal so irgendwie hier Religionsunterricht Und dann die Weitführung.

01:04:26: aber sozusagen, die guten Tools, die es gibt.

01:04:29: Die dann den Lehrkräften und vielleicht auch den Schulen.

01:04:31: Es gibt ja verschiedene Schularten, die dann noch sagen wir wollen aber eher so oder so weiter alles vor dem Hintergrund dieser ökologischen Fragen und Abhängigkeitsfragen, die ich gerade genannt habe.

01:04:42: Aber das wäre jetzt ein bisschen meine spontane Bildungswissenschaft aus der Kombination.

01:04:53: vielleicht auch Bildungspolitik und sozusagen KI-Einsatzszenarien.

01:04:56: Und man kann vielleicht noch sagen, es gibt den Bereich AI and Education oder Critical AI and Educational Studies irgendwie so Homes und Batesen

01:05:06: usw.,

01:05:07: da gibt's auch spannende Arbeiten die sich angucken wie die Verlagerungen von Kognitiver Arbeit was das mit Schülerinnen macht und was ein guter Einsatz wäre und wo wir aufpassen müssen wo sozusagen psychische Spezielle Bedürfnisse sind doch sogar verschlimmert werden durch den Einsatz von KI und so weiter, das alles einfach auf dem Schirm zu haben.

01:05:25: Magst du dich auf eine schnell Anforderrunde einlassen?

01:05:28: Ja voll gerne!

01:05:29: Machen

01:05:29: wir einen Endsport.

01:05:30: Na voll gerne ja.

01:05:32: Jenseits von solider empirischer Evidenz gibt es anektotisch beste oder gute Praxis die Du in deutschen Schulen oder Schulministerien oder sowas siehst.

01:05:45: Ich glaube die gute Praxistie ich gerade sehe ist sich diesem Thema strukturiert zu nähern und Foren zu schaffen, um das auszudiskutieren.

01:05:56: Das ist glaube ich ein Punkt.

01:05:57: irgendwie es muss irgendwo stattfinden und ich sehe gerade dass es tatsächlich stattfindet.

01:06:02: Was spricht dafür KI in der Grundschule zu verbieten?

01:06:09: KI in Form von large language models nimmt einem bestimmte kognitive Arbeiten ab die man in der grundschule aber grade überhaupt erst lernt Und sich was abnehmen zu lassen, was man schon kann ist etwas anderes als das machen zu lassen und damit nicht mehr lernen zu können.

01:06:28: Und es sehen wir auch in den Zahlen tatsächlich dass das passiert wenn die mehr die Leute sozusagen oder die Schülerinnen und Schüler solche Modellen nutzen.

01:06:38: Ach so kurzrunde ich bin fertig!

01:06:41: Ist eine große KI-Maschine vorstellbar?

01:06:44: Die heute pädagogisch wertvoll arbeitet und morgen nicht ein Kontrollinstrument sein könnte?

01:06:50: Tendenziell eher nein.

01:06:54: Also ich stimme... Ersteins'

01:06:55: richtig kurz!

01:06:56: Guckst du, jetzt zerbreche ich die eigenen Vorgaben hier und magst du kurz ein Exkurs machen?

01:07:01: Ich hab von dir in einem anderen Podcast vom Beispiel Hong Kong auf großer Ebene dieses Muster kennengelernt.

01:07:10: Naja das Problem ist natürlich bei dieser Großmaschine wir haben ja schon mal auch vor ein bisschen gesprochen dass sie nur halt von bestimmten Playern noch bereitgestellt werden kann.

01:07:19: und dann erkennt man natürlich Gerade in der Bildung ist dann die Aussage, ja wir können individuelle Lernpfadere erstellen automatisiert sozusagen basierend auf den Fähigkeiten der Schülerinnen und dann können wir bei Bedarfsorientiert automatische Tutorsysteme usw.

01:07:35: Dazu muss ich aber natürlich meine Schüler und Schüler exakt kennen wirklich inklusive ihrer psychischen Spächen.

01:07:45: Länder-Ebene oder Kontinent oder global ausrollen kann, was sich ja muss.

01:07:49: Weil ich so ein großes Ding bauen muss, was auch finanziert werden muss habe ich damit quasi all diese Daten von allen Schülerinnen und Schülern und kann Aussagen über Gesellschaften, über Länder, über... Ich kann Sachen vielleicht sogar anfangen vorherzusehen.

01:08:04: Ich kann anfangen.

01:08:07: also weiß ich nicht wenn jetzt GROCK der Kern ist von so einem System Weiß ich nicht, ob dann in der Biologie noch dran kommt.

01:08:16: Dass diese zweiergeschlechter Geschichte die noch nie stimmte?

01:08:22: Wenn er das nicht findet, dann kommt es auch nicht mehr vor.

01:08:26: Ich glaube da ist sozusagen ... Die Verlockung und die Macht wird nicht liegen gelassen werden wenn es irgendwo ist.

01:08:34: Und deswegen würde ich sagen... Tendenziell glaube ich nicht, dass es das geben kann was nicht dann automatisch auch zu dem anderen führt.

01:08:43: Wenn man dir jetzt gegenüber sitzt und mit dir eine Stunde redet hat man den Eindruck, dass bei diesem Podcast oben drüber steht.

01:08:50: so dieses Auftragaufbruch ist bei dir schon sehr lebendig.

01:08:54: also das ist für dich nicht nur nüchtern in Sachen wo du halt irgendwie tagsüber dein Geld verdienst sondern du engagierst sich noch einen ganz vielen Foren darüber hinaus.

01:09:02: Es hat viel nach meinem Eindruck ... die als Person auch zu tun, was dich umtreibt.

01:09:06: Ja,

01:09:07: stimmt!

01:09:07: Was ist das wo du trotz der ja sehr schwierigen Perspektiven... ...die wir da gerade haben?

01:09:14: Was für dich so ein bisschen der innere Auftrag ist?

01:09:17: Ja ich glaube also ganz im Kern mein innerer Auf- oder was mich sehr motiviert ist,... ...ich habe natürlich auch Philosophie studiert.

01:09:24: aber wenn ich jetzt mal als Techniker rede.... Ich finde wir haben sozusagen... Mit dem Internet und mit so den technischen Entwicklungen, die wir haben.

01:09:35: So sozusagen auch technisch wundervolle Werkzeuge und Möglichkeiten geschaffen sodass es mir aus ein bisschen als Techniker in der Seele leidtut dass wir den Kram hauptsächlich für irgendwie Kommerzkrieg und Unterdrückungen nutzen obwohl man damit so schöne Sachen ich meine Selbst wenn man jetzt irgendwie Wikipedia sich anguckt, die Welt organisiert sich ihr Wissen oder Open Science.

01:10:00: Oder was weiß ich?

01:10:02: Freie Kartendaten oder auch kreativste Systeme wo solidarische Landwirtschaften sich selbst organisieren können und Schichten verteilen an wie vielen Stellen.

01:10:13: Es gibt ja auch Arbeiten, die schreiben die Informatik könnte als Leitbild Anarchistische Werte übernehmen oder es gibt auch so Ideen in der Informatik des sozusagen heterodoxen Engineerings, also wie man Technik anders bauen könnte.

01:10:27: Dass ich so ein bisschen denke dass sagen die diese Kontrolle und drücken was mir so n bisschen.

01:10:32: Was wir weltweit sehen, ist das eine.

01:10:34: Aber das andere ist eben was für ein cooles Tool wieder eigentlich haben.

01:10:38: und wenn wir sehen irgendwie auch auf sozusagen Südamerikanischen Ländern oder in afrikanischen Ländern wo auch andere Wertesysteme wie Boan Vivir oder Ubuntu oder so stattfinden, was ein bisschen auch andockfähig ist würde ich sagen an die Konvivialität oder selbst in China sowas wie dauestische Ideen oder so diese Interdependenzen mit... dass dann eigentlich mit den ähnlichen technischen Methoden einfach ganz andere Anwendungen möglich wären und die auch anders produziert werden müssten, Stichwort Konfliktmineralen.

01:11:12: Und so weiter.

01:11:13: das muss man alles natürlich auch dekolonialisieren bis ganz runter völlig klar.

01:11:18: aber das finde ich sozusagen auch irgendwie sozusagen Ja traurig, dass wir da gerade so daran vorbei engenieren was wir uns eigentlich für eine coole Welt bauen könnten.

01:11:29: Und das ist ja auch der Punkt, deswegen bin ich auch im FIF, also FIF aktiv, was übrigens auch von Weizenbaum selber mitgegründet wurde zusammen mit Christiana Fleut und anderen.

01:11:40: Deswegen finde ich immer ein bisschen interessant, dass ich jetzt am Weizenbau-Institut arbeite sozusagen und deswegen finde ich es aber auch so gerade die Wissenschaft Prozessen und wirklich sorgfältigste Arbeit sozusagen dann auch so ein Gegenpol zu haben, von lass uns mal eine Demo machen.

01:12:00: Ich muss jetzt gerade nicht das Paper referieren sondern da zeichnen sich Linien ab und wir müssen mal Sachen diskutieren usw.

01:12:07: Das macht mir jetzt nicht in einem Forschungsinstitut.

01:12:11: Da macht man natürlich Transfer und hält sich mit Zivilgesellschaften und Politik

01:12:15: usw.,

01:12:16: aber da finde ich es ist grade dass FIF hat halt so ne Rolle für mich zumindest auch die Sachen dann sozusagen dieses kreative Denken, Technik Utopien und so weiter.

01:12:27: Dass man einfach so ein bisschen breiter und ein bisschen freier und ein bissel ein bisschen interaktiver, nicht nur menschlich zwischen zwei Leuten interaktiv, sondern da reden mal die Hacker mit den Ökos und da reden einmal die Decolonial-Leute, reden mal mit denen, die nichts mit Technik zu tun haben und dann gucken wir mal wo man dahin kommt?

01:12:50: Genau, also das ist glaube ich das was mich da so interessiert.

01:12:54: Und vielleicht die letzte Sache als Person... Also ich bin jetzt quasi ein weißer Mann mit einem deutschen Pass der sich mit Technik auskennt und sagen in all diesen Kategorien kann man glaube ich relativ einfach sehen warum das gerade warum man da auch so ein bisschen eigentlich auf dem Sahnhöppchen der Welt gerade steht.

01:13:17: Und das ist ein bisschen, dass FIFS selber es ja auch aus der Militarisierung der Gesellschaft mithilfe der Informatik entstanden als Gegenbewegung.

01:13:26: Weizenbaum hat nicht nur gesagt oder gibt's ethische Probleme sondern Josef Weizenboom hat die Informatiker in angesprochen und hat gesagt Leute weigert euch!

01:13:35: Also ihr könnt über Verantwortung reden usw.. Aber Worte sind Worte und da werden gerade Atomraketen mit Software bestückt.

01:13:42: Ihr müsst euch weigern, ihr müsst eure Stimme erheben eher als MIT-Wissenschaftler irgendwie Forefront of AI Research in den fünftiger, sechziger, siebziger Jahren so.

01:13:54: Da könntet ihr weigert euch bei der ich glaube seine Begrifflichkeit in den Blättern damals war irgendwie bei dem Wahnsinn unserer Zeit mitzumachen?

01:14:01: Und ich glaube... Deswegen heißt das FIFF ja auch für sozusagen Forum Informatik und für Frieden gesellschaftliche Verantwortung.

01:14:08: Ich glaube, da ist auch noch das letzte Element sozusagen so der Motivation auch eine weiß ich nicht ob jetzt Verpflichtung aber aber sozusagen wenn ich sage jetzt mal wir sozusagen uns damit mich nicht beschäftigen wären sonst also dann muss man doch die Leute die keine Stimme haben auch unterstützen und diese Sachen weiter transportieren weiß ich nicht sozusagen, von Genozid bis Gentechnik.

01:14:35: Diese technischen Fragen kontextualisieren und diese Verantwortung derer die sie bauen auch mal explizieren ob es nur Firmen sind oder Politikerinnen oder andere Technikerinnen usw.

01:14:47: um das sichtbar zu machen diskutierbar zu machten.

01:14:49: und dann was weiß ich zu besprechen?

01:14:53: Oder vielleicht setzen sich Leute dann auch mal vor den Eingang von einem Rechenzentrum.

01:14:59: Wenn jetzt jemand sagt, jetzt habe ich diesen Podcast gehört und das sind doch ziemlich immer noch.

01:15:04: Hast du eine Anlaufstelle wo sagst da weiterlesen?

01:15:07: oder gucken, oder hören.

01:15:09: Also wenn die Leute sozusagen aus Berlin und Umland sind oder Lust auf Reisen haben am dreißigsten, zehnten bis ersten Elften ist die zweiundvierzigste FIFF-Konferenz also weil es FIFFS vor zweiundviertzig Jahren entstanden hat.

01:15:22: und zweiund vierzig ist ja die Antwort auf alle Fragen.

01:15:24: da gibt's in berlin die fifft Konnen.

01:15:25: Da kann man vorbeikommen sich ein Ticket klicken gibt doch einen Solidarity Ticket.

01:15:29: wer jetzt nicht so dicke hat alle sind willkommen.

01:15:32: da wirds um die Frage generell Resilienz in der Poli Krise keine Panik Das ist so der erste Punkt.

01:15:38: Und der zweite Punkt, also gerade das Beziehungsbäumennetzwerk glaube ich hat sehr viel.

01:15:43: wir haben da auch Vorträge und so weiter.

01:15:45: Das kann man sich angucken von da gibt es viele Verweise.

01:15:49: Da gibt's die Online Aufzeichnungen in den letzten Konferenzen, der großen und kleinen Konferenz.

01:15:55: Wir haben schon zwei Veröffentlichungen.

01:15:57: Es gibt ein Beziehung Bäume Buch auf Deutsch von zweieinneunzendem.

01:16:00: Es gab eine englische Veröffentlichtung von zwanzig, dreinzwanzig.

01:16:04: Alles Open Access, alles im Netz so verfügbar und da verzweigen sich dann sozusagen auch ganz viel.

01:16:09: wenn gerade das Thema KI da sind wir jetzt dabei so ein bisschen so eine Kampagne zu planen.

01:16:13: auch Da kann man gucken Und das ist glaube ich super.

01:16:19: Also diese zwei Sachen würde ich erst mal nennen.

01:16:20: So kurz und kurz bündig Wir

01:16:23: verlinken

01:16:24: Super.

01:16:25: Reiner Ganz herzlichen Dank für die Einblicke und gedankliche Ausflüge.

01:16:29: Ich wünsche dir alles Gute erstmal für die weitere Arbeit.

01:16:32: Herzlich Dank für die Einladung und die sehr guten Fragen, fand ich.

01:16:34: Da hat mir auch viel Freude gemacht!

01:16:36: Und an alle Menschen, die das jetzt gehört haben, Auftragaufbruch

01:16:40: bemüht

01:16:40: sich Themen mehr so zu behandeln dass sie über die Tagesart aktuelle Diskussionen hinaus relevant bleiben.

01:16:45: insofern lohnt es sich ja auch immer in die früheren Folgen mal reinzugucken und zu stöbern.

01:16:50: und wer's noch nicht getan hat man kann diesen Podcast wie alle guten Podcasts abonnieren und kriegt dann Bescheid sobald es die nächsten Folgen gibt.

01:16:58: also alles Gute

01:17:00: bis bald.