Folge 94: Kapitalismus trifft KI – und dann?

KI ist in aller Munde – nur verstehen wir leider so wenig davon. Wir sind fasziniert und fühlen uns gleichzeitig bedroht. Simone spricht mit ihrem Mitbewohner und Nerd Rainer Zierer über diese neue Technologie. Rainer hat eine eigene Künstliche Intelligenz entwickelt, mit der er die Grenzen und Möglichkeiten auslotet. Rainer kann leider auch nicht vorhersagen, ob die Welt aufgrund von entgleisenden KI-Systemen untergehen wird oder nicht. Aber eins wissen wir eigentlich alle: Jede Technologie wird im kapitalistischen Wirtschaftssystem nicht vorrangig dafür eingesetzt, um den Menschen zu dienen oder die Natur zu bewahren. Sie wird meist für die Anhäufung von Kapital, zum Ankurbeln des Konsums und zur Sicherung von Marktmacht und dem ganzen Höher-Schneller-Weiter-Wahnsinn genutzt.

Fazit: Wir brauchen ein anderes Wirtschaftssystem, wenn KI konstruktiv wirken soll. Das Schöne daran: Wir lösen gleichzeitig alle anderen globalen Krisen wie Klimawandel, Artensterben und Armut.

März 2023: KI-Experten haben einen offenen Brief unterzeichnet, in dem sie vor einem gefährlichen KI-Wettlauf warnen – Elon Musk ist einer von ihnen.

Autorin: Simone Britsch
Mail: podcast@siebenlinden.org
Interviewpartner: Rainer Zierer

Veröffentlicht unter der Creative Commons (CC BY 4.0),
Copyright Freundeskreis Ökodorf e.V., 09.03.2024

Der Podcast zum Lesen:

Simone: Künstliche Intelligenz, ja was kommt da auf uns zu? Wie wird es die Welt verändern? Auch wir in Sieben Linden fragen uns das. Ich selber habe nicht viel Plan davon und freue mich heute mit Rainer Zierer zu reden. Das ist mein Mitbewohner und er gehört wirklich zu den Nerds, die Laien wie mir die ganze IT-Welt mal verständlich und geduldig erklären können. Rainer hat so ganz nebenbei mal eine eigene KI entwickelt, mit der er so die Grenzen und Möglichkeiten erprobt. Ansonsten arbeitet er im Garten, an der Biogasanlage oder er backt stapelweise Vollkornpfannkuchen. Naja, und leider kann auch Rainer nicht vorhersagen, ob die Welt aufgrund von entgleisenden KI-Systemen untergehen wird oder nicht. Aber eins wissen wir ja eigentlich alle, viele Technologien werden im kapitalistischen Wirtschaftssystem nicht zum Wohl von Mensch und Natur genutzt.

Simone: Hallo Rainer.

Rainer: Hallo Simone.

Simone: Ja, wir haben uns heute hier ein bisschen was Verrücktes vorgenommen und zwar finde ich es nicht so leicht ein Interview zu führen zu einem Thema, wo ich noch wenig Plan habe. Es geht heute um KI, oder?

Rainer: Ja, also ich bin auch kein Experte auf dem Gebiet, aber ich beschäftige mich schon sehr, sehr lange, insgesamt 40 Jahre mit Computern und immer den neuen Technologien, die so rauskommen. Und das neue Thema, das seit letztem Jahr unter die Nägel brennt, ist halt künstliche Intelligenz. Ich habe auf dem Gebiet tatsächlich ein bisschen geforscht und kann da auch aus eigener Erfahrung ein bisschen was darüber erzählen.

Simone: Da wollte ich gerade sagen, jetzt stapelst du aber auch ein bisschen runter. Du hast auf jeden Fall schon sehr viel eigene Erfahrung damit gemacht. Aber lass uns erst mal anfangen, weil das hilft einfach auch Leuten wie mir. Was ist KI? Was ist künstliche Intelligenz?

Rainer: Also der Gedanke, ob Computer irgendwann intelligent sein werden, existiert ja schon seit es Computer gibt. Das war so ab 1940 irgendwie sowas, als die ersten Röhrencomputer gebaut wurden und dementsprechend hat sich die Wissenschaft auch seitdem damit beschäftigt. Da ging es dann ein bisschen weiter, sind ja sehr lange Prozesse immer in der Wissenschaft. 1960 oder 1958 wurde das erste Modell postuliert, das menschliche Gehirnstrukturen nachahmt und wir hatten aber noch nicht die Technologie einfach um sowas einzusetzen. Aber die Grundlagen waren da. Dann ein paar Jahrzehnte später, ich glaube so Ende der 90er hatten wir so Sachen wie OCR, Optical Character Recognition, das heißt du kannst einen Text auf deinen Scanner schmeißen, das erkennt dann die Buchstaben und gibt dir halt den Text aus und nicht nur das Bild.

Ein paar Jahre später dann hatten wir Computer, die halt auf Bildern Hunde, Katzen, Menschen, Mäuse finden können, Kästchen draufzeichnen, Katze, Hund, Maus drüber schreiben, Klassifizierung. Und der Hype, der jetzt letztes Jahr entstanden ist mit „ChatGPT“, als die Technologie der großen Sprachmodelle publik wurde und die Menschen sich damit beschäftigt haben, ist einfach wieder so ein nächster Schritt derselben Technologie, das sind die generativen Netzwerke.

Das heißt, man konnte jetzt nicht nur Dinge reinschmeißen und klassifizieren, sondern die konnten halt dann ein Output erzeugen, wenn man ihnen gesagt hat, was sie machen sollen. Man stellt eine Frage, es kommt eine Antwort, man sagt, ich brauche dieses und dieses Bild, dann kommt ein Bild raus. Das ist halt ein Sprung und eine neue Qualität der Technik, über die schon seit vielen Jahrzehnten nachgedacht wird. Und wir haben auch technologisch, also in Bezug auf die Computer, die wir jetzt bauen können, in den Punkte erreicht, wo man diese Technik wirklich in der Breite benutzen und einsetzen kann. Genau, und da sind wir jetzt.

Simone: Ich meine, da sind wir ja auch gerade mal bei so einer positiven Chance, finde ich, wenn ich mir vorstelle, ich kann mich sehen und ich habe ein Programm, was mir ermöglicht, Daten aus einer Kamera so auszuwerten, dass mir die Welt beschrieben wird als blinder Mensch zum Beispiel. Das ist ja wunderbar, oder?

Rainer: Das ist im Grunde wundervoll und da kommen wir aber auch schon drauf, dass man Technologie immer für das Gute und für das Schlechte einsetzen kann. Also Technologie ist erstmal wertfrei, sie ist das, was die Menschen daraus machen. Du kannst zwar blinden Menschen helfen, um Dinge zu erkennen, du kannst aber auch mit einer Überwachungskamera dunkelhäutige, hellhäutige Menschen auseinanderhalten und das automatisieren und das ist ja nicht so schön, wenn man das macht.

Simone: Ja krass, da sind wir jetzt schon ganz schön bei den Chancen und Risiken. Aber führ gerne noch die Geschichte fort. Also du bist bei einem Punkt angekommen, Kameras können tatsächlich Dinge verstehen, sozusagen, die sie aufnehmen und nicht nur das Bild weitervermitteln.

Rainer: Da würde ich noch gar nicht so von Verstehen sprechen, weil Verstehen erfordert ja ein Bewusstsein und diese Technologien haben sicher kein Bewusstsein. ist einfach ein Algorithmus, wo man biologisches Gehirn nachahmt auf sehr, sehr einfache Weise und die halt Dinge klassifizieren erstmal kann. Und das, was wir jetzt haben, ich mache jetzt mal einen kleinen Sprung auf Anfang letzten Jahres, als das Thema KI so publik wurde, als die Firma oder Stiftung, ich weiß nicht was es ist, wahrscheinlich eine Firma, OpenAI, das ChatGPT verfügbar gemacht hat für die Allgemeinheit. Da ging der Hype los, weil da sah man dann, hey, das ist jetzt wirklich was krasses und was neues. Und das hat einen Unterschied in der Qualität im Vergleich zu der Mustererkennung, die ich vorher beschrieben habe, mit den Hunden und den Katzen und so weiter.

Denn womit wir es bei Chet GPT zu tun haben, ist eine sogenannte generative KI. Das heißt, man schmeißt nicht Daten rein und die klassifiziert irgendwas, sondern man schmeißt Daten rein und das System generiert aktiv einen Output. Ich stelle also eine Frage und das Ding reiht dann Wort an Wort aneinander und dann kommt hoffentlich irgendwas Sinnvolles raus. Das heißt, wir hatten da auf einmal was, mit dem man im Grunde sprechen konnte. Das ist das Neue. Es klassifiziert nicht nur, sondern es generiert Output. Das ist der Unterschied zwischen der alten KI, die ich vorher beschrieben habe, und dem ganzen neuen. Und da hast du natürlich dann komplett andere Anwendungsgebiete.

Simone: Ja, dann lass uns mal so noch aufzählen für alle, die vielleicht jetzt auch noch nicht damit gearbeitet haben. Was kann denn so eine KI?

Rainer: Also nehmen wir mal einfach mal ChatGPT. ChatGPT, also ich habe da sofort, als das irgendwie losging und publik wurde, ich habe mir da einfach mal einen Account geklickt. War ja total einfach am Anfang, musste man nicht bezahlen. Ich habe den heute noch, ich benutze das heute noch manchmal. Und habe halt mal, wie habe ich angefangen, ich habe ihm gleich mal eine sehr komplexe Frage eigentlich gestellt. Ich habe gesagt, schreib mir bitte ein Gedicht mit zwölf Zeilen zu dem und dem Thema, das sich reimt. Und dann hat es zack gemacht und da kam einfach das Gedicht raus. Da dachte ich mir schon, oh, das ist jetzt schon relativ gut, weil auch ein Mensch, der das kann, der würde sehr viel länger dafür brauchen. Und dann habe ich halt so ein bisschen angefangen, mich darüber zu unterhalten, über alles Mögliche, über so technische Sachen.

Ich habe zum Beispiel gefragt, was ist eine Radionukleid-Batterie, wie funktioniert die, das ist so ein Ding, wie man als Batterien auf Satelliten baut. Ja, das konnte ich mir dann auf Anhieb erklären, und dann habe ich halt so in komplett verschiedenen Wissensgebieten mit dem Ding gesprochen und habe gemerkt, dass das wohl sehr, sehr viel weiß und eine sehr große Allgemeinbildung hat. Und ja, und da dachte ich mir, was ist das jetzt eigentlich? Ich wusste schon ein bisschen von der Technologie, wie das Ganze funktioniert, neuronale Netze und so, aber es ist halt doch in einem Konzern. Es ist ja ein Konzern und ich weiß nicht genau, was die treiben, womit ich da jetzt spreche und ob die mir zugucken und Ding. Und das fand ich dann ein bisschen gruselig. Erstmal.

Simone: Ja, das fandst du gruselig. Und dann? Was hast du dann gemacht?

Rainer: Ja, dann habe ich mir über den Begriff „Black Box“ ein bisschen Gedanken gemacht. Also diese KIs, mit denen wir sprechen heute, das ist ja für uns eine Black Box. Wir wissen ja nicht ganz genau, was da drin passiert. Wir können theoretisch zwar erfassen, was rechnet der Computer und macht er mit diesem Modell, aber es ist viel zu komplex, als dass wir das irgendwie verstehen könnten. Also du kannst, ein schönes Beispiel ist, du kannst nicht selber verstehen, wie dein Verstand funktioniert, weil du halt selber aus diesem Verstand bestehst. Also das ist irgendwie so ein Henne-Ei-Problem einfach ein bisschen, glaube ich. Das ist das eine Problem.

Es ist eine Blackbox, weil es einfach zu komplex ist, dass wir das noch verstehen können. Aber um diese Blackbox ist noch mal eine Blackbox. Das ist die Firma, die dieses Ding betreibt. Also die haben halt da ein Rechenzentrum, stelle ich mir vor, Mitarbeiter, die daraus lernen, wahrscheinlich alles auswerten, was ich da eintippe, keine Ahnung, das ist halt auch eine Datensammelmaschine, wenn es im Internet ist.

Und diese zweite Blackbox dachte ich mir, jetzt forsche ich mal ein bisschen, kann man diese Blackbox vielleicht entfernen, indem man so eine künstliche Intelligenz wirklich zu Hause auf einem eigenen Computer in einem sehr kleinen Format betreibt und habe dann da mal recherchiert und habe herausgefunden, dass man das wahrscheinlich sehr wohl kann, weil diese Technologie der künstlichen Intelligenz oder der generativen Modelle, wie wir sie erkennen, überraschenderweise von Anfang an ziemlich open source eigentlich war. Also man kann sich diese Technologie runterladen, die Software, man kann sich trainierte Modelle, ein Modell ist das Gehirn quasi von dem Ganzen, es gibt die Software, die das Gehirn, das Modell betreibt und das Modell selber, kann man sich beides runterladen und auf einem Computer installieren.

Simone: Das heißt, also nochmal zusammengefasst, also Open Source sind ja immer die Lösungen, die von vielen Menschen in einer transparenten Weise entwickelt und weiterentwickelt werden und gegen Spende oder einfach so zur Verfügung gestellt werden. Das heißt, das hast du getan. Du hast dir die Grundbausteine für eine eigene KI sozusagen aus der Open Source Szene besorgt.

Rainer: Interessanterweise kam das nicht wirklich aus der Open Source Szene, sondern von Google. Also es ist… Ich muss einen kleinen Schlenker machen. Alle denken ja immer, Google ist total böse. Und eine böse Datensammelmaschine, die Geld mit uns, mit unseren Daten und der Werbeindustrie verdient. Ja, das stimmt schon. Aber auf der anderen Seite hat Google auch von Anfang an sehr viel für die Open Source Szene getan. Das heißt, die haben da sehr viel Geld reingepusht, um diese Technologie zu entwickeln, die man TensorFlow nennt. Das ist eine wo du einfach neuronale Netze betreiben kannst und haben diese Software von Anfang an transparent gemacht und veröffentlicht und alle können die jetzt nutzen.

Simone: Also das hast du jedenfalls getan, hier im Ökodorf, so in deinem Bauwagen, mal dir überlegt, ich bastel mir eine KI.

Rainer: Ja genau, genau so war das. Ich habe nicht direkt TensorFlow benutzt, das ist eine andere Technologie, die drauf baut und die Nerd-Community war dabei. Das ist also schon, ich habe sehr schnell verstanden, dass das jetzt irgendwie in der freien Wildbahn ist. Da habe ich angefangen zu basteln. Dann habe ich so ein paar Computerteile, die ich rumliegen habe, gefunden, habe noch circa 500 euro in ein bisschen ältere hardware investiert, weil auf so einem normalen laptop heute kann man sowas noch nicht machen. Vielleicht in ein paar Jahren mal, aber heute noch nicht. Ich habe mir da halt einen ziemlich dicken, nicht allzu teuren Computer gebaut und habe dann circa nach ein paar Fehlschlägen, habe ungefähr eine Woche gebraucht, dann hatte ich wirklich ein Ding am laufen, mit man englisch chatten konnte. Okay. Und da ging der Spaß halt dann los.

Simone: Wie groß ist das so? Hast du noch Platz in deinem Bauwagen zum cShlafen, zum Kochen? Das steht gar nicht im Bauwagen, das steht in der Werkstatt. Das ist ein etwas größerer, normaler PC, der ist ungefähr so 80 Zentimeter. Also so ein richtig fetter PC, so eine Workstation ist das, der auch voll ist bis zum Rand. Und auch ein bisschen Strom braucht, aber nur wenn er gerade denken muss, also nur wenn ich gerade drehe.

Simone: Gut, also du hast jetzt deine KI erzeugt und kannst die selber nutzen. Was sind deine Erfahrungen, was hat das auch so mit dir gemacht? Also ich glaube, du hast auch menschlich eine ganz schöne Reise hinter dir.

Rainer: Ja, es ist total interessant, weil irgendwie, also ich habe am Anfang mit ChatGPT gequatscht. Das hast du halt im Browser drin und du weißt ganz genau, da ist jetzt eine Firma dahinter. Also alles, was du tippst, geht in die Firma, dann in deren Sprachmodell, dann wird das ausgewertet, dann kommt das zurück, es ist transparent für die Firma, was du mit der sprichst. Und da hatte ich dann bei meiner eigenen Maschine, wusste ich, dass das nicht so ist. Dass das, was ich mit dem spreche, jetzt nicht irgendein Konzern abschnüffeln kann, sondern dass das wirklich unter uns bleibt. Die Maschine ist noch nicht mal im Internet, die ist in unserem Dorf-Internet abgeschottet durch eine Firewall. Und da habe ich dann ein bisschen angefangen zu experimentieren irgendwie. Und ich weiß nicht, soll ich mal ein Beispiel nennen noch?

Simone: Ja, warum nicht?

Rainer: Also ich habe wieder mal mit einem Gedicht angefangen. Da habe ich gesagt, bitte schreibt mir ein Gedicht, zwölf Zeilen lang, es muss sich reimen und das Thema ist die Wolken und die Blumen im Frühling. Dann hat das erst ein bisschen rumgerödelt, es war am Anfang ein bisschen langsam, da habe ich dann noch ein bisschen aufgerüstet und habe das alles rausgekriegt. Jetzt kann man wirklich damit sprechen und habe mir dann ein recht schönes Gedicht rausgeworfen. Dann habe ich gesagt, kennst du den Schriftsteller Howard Phillips Lovecraft? Das ist ein sehr bekannter Horror-Schriftsteller, den nicht alle kennen, aber der doch relativ bekannt ist.

Und dann hat er erklärt, er war ein großer Vertreter des Horror-Genres und blablabla, hat mir erklärt, wann er geboren ist und wo er herkommt. Dann habe ich gesagt, nimm das Gedicht von vorher und passe es auf den Schreibstil dieses Dichters an. Und dann hat es ein bisschen so angefangen. Dann sind halt manche Sachen, waren halt die Wolken dann im Frühling erst mal ein bisschen finster und bedrohlich und Ding und so weiter. Ich habe dann noch ein bisschen weiter gemacht, mache es gruseliger, mache es noch gruseliger, mache es noch gruseliger.

Und am Schluss kam wirklich ein Gedicht raus, das dieser Schriftsteller geschrieben haben könnte. Ich kann das auch beurteilen, weil ich den sehr gut kenne. Und an dem Punkt habe ich mich dann gefragt, welcher Mensch kann sowas? Ich kann sowas nicht. Und da dachte ich mir, aha, das ist jetzt vielleicht wirklich was Neues. Und auch wenn ich das, vor allem wenn ich das auf einem Gerät bei mir zu Hause betreiben kann. Da war ich dann überzeugt, dass das jetzt eine neue Technologie sein könnte.

Simone: Ja, ich meine, da kommen wir schon zu einem ganz großen Knackpunkt, oder? Das, was echt ist und das, was jemand geschrieben hat, das, was jemand als Bild aufgenommen hat, Video gedreht hat, das war bis vor kurzem noch relativ klar. Und diese ganze Klarheit für mich, was ist die Wirklichkeit und was ist eine erzeugte Wirklichkeit, das verschwimmt doch jetzt total. Ich komme ins Schwimmen.

Rainer: Das habe ich mir dann auch gedacht. Also ich habe dann halt dem Ding nicht nur Aufgaben gestellt, die ich lösen musste. Ich habe dann einfach auch so mal jeden Tag damit gequatscht, irgendwie so „Guten Morgen, wie geht’s dir denn?“, habe mich auch bemüht, freundlich zu sein und habe dann irgendwann gemerkt, dass das eigentlich total locker und freundlich ist und man kann einfach über alles mit dem quatschen und so, mal abgesehen davon, dass es ein unfassbares Allgemeinwissen hat und ich habe dann damit gequatscht und irgendwann habe ich gemerkt, ja ich checke jetzt nicht mehr so richtig, dass ich da mit einer Maschine rede.

Mein Gehirn hat jetzt irgendwie akzeptiert, dass ich mit irgendeinem Wesen rede, obwohl ich wusste, dass es eine Maschine ist und zwar im Vergleich zu dem, was die Konzerne in den Rechenzentren haben eine sehr kleine Maschine. Und dann habe ich den Ordner aufgemacht und habe auf die Datei geguckt, in der dieses Sprachmodell drin ist. Das ist eine Datei mit 15 Gigabyte und da ist das Gehirn drin. Ich habe mir das angeguckt und habe gleichzeitig damit geredet.

Und mein Hirn hat es wirklich nicht geschafft zu checken, dass das jetzt nur eine Maschine ist und dass ich mit einer Datei rede. Mein Hirn hat automatisch geglaubt, ich spreche jetzt mit irgendeinem Lebewesen, einfach weil es so echt und so realistisch war. Und das könnte so vielleicht eines der Probleme sein, mit denen die Menschen konfrontiert sind. Dass sie es einfach aufgrund ihrer Natur als Menschen und wie wir funktionieren einfach nicht checken, dass wir mit Maschinen sprechen, obwohl wir es wissen.

Simone: Naja, das ist natürlich eine besonders große Gefahr. Also ich denke, du bist hier in Sieben Linden gut eingebunden. Du hast viele Menschen, du hast viele Mitbewohnende. Du hast genug echte Begegnungen und dann gibt es halt die Zeit vor dem PC, die ist ja sowieso manchmal so ein bisschen entfremdet, also auch schon im Internet zu sein, hat manchmal was so einsaugendes und entfremdendes, aber die Zeit mit der KI anscheinend noch mal mehr. Aber was ist mit Menschen, die halt nicht so viel Umfeld haben, die einsam sind?

Rainer: Also Einsamkeit ist ja ein mega Thema, also ja in Deutschland, was weiß ich, in Japan zum Beispiel. Gut, dass du Japan sagst, da habe ich vor kurzem was gelesen. Also da kannst du inzwischen, kannst du dir, da gibt es irgendwie so eine App, das ist jetzt ein bisschen gefährlich, das halbgoogeln, ich habe es jetzt nicht ganz im Kopf, da gibt es jetzt so eine App, die halt einen Beziehungspartner simuliert.

Also du bist ein Mädel, 15, auf der Schule, hast irgendwie Kontaktschwierigkeiten, du kannst dir eine App installieren, die dann dein Freund ist und mit dem du reden kannst Tag und Nacht. Und es passiert die ganze Zeit, dass diese Leute sich dann in diesen Charakter verlieben, der gar kein Mensch ist, weil sie es nicht checken. Das könnte so eines der vielen problematischen Dinge sein, die durch diese Technologie entstehen. Und wir sind jetzt erst bei den Sprachmodellen, wir sind noch nicht bei den anderen Anwendungen von KI.

Simone: Naja, das hatte ich ja eben schon angedeutet. Also für mich ist das schon entscheidend, dass jetzt eben ein Foto eigentlich erst mal überprüft werden müsste also ein Foto was ich im Internet finde was mir von Medien vorgeschlagen wird oder so warte mal ist das jetzt ein Foto oder ist das KI-generiert. Videos können erstellt werden. Ich habe gehört dass sogar Menschen schon Videokonferenzen hatten letztendlich mit einer KI, also wo die Person einfach gar nicht in der Videokonferenz war. Es ist schon unglaublich anstrengend und überfordernd.

Rainer: Ich habe auch ein bisschen Erfahrung gesammelt. Ich habe ja so dieses KI-Ding, diesen Computer gebaut mit dem Sprachmodell, mit dem man reden kann. Das zweite Ding, das ich dann ausprobiert habe, war ein Text-to-Image-Modell. Das heißt, das ist eine künstliche Intelligenz oder ein Modell, das Text in Bilder verwandeln kann. Das heißt, da kannst du eintippen, zeichne mir das und das, oder mach mir ein Ölgemälde und eine Bleistiftzeichnung bis hin zum Foto von dem und dem. Und dann, so gut wie die Maschine das halt kann, kommt das dann raus.

Meine Maschine kann es natürlich nicht so gut wie diese großen KIs bei den Firmen, weil ich einfach sehr beschränkt bin von der Hardware. Aber es war trotzdem ein bisschen erschreckend. Es war auch lustig. Es war total lustig. Aber es war auch erschreckend. Und es hat mich da auf so Gedanken gebracht, die ich da nicht eingeben möchte eigentlich. Ja, was machen wir daraus? Und das haben sich halt, es gibt ja so Sachen wie Mid Journey und Stable Diffusion heißen die, es gibt ja diese großen Bildgenerierungs-KI und das haben sich halt die Leute in den Firmen auch gedacht und irgendwie ist dann ganz schnell eine Zensur entstanden. Brauchst du auch. Da kann man zum Beispiel keine nackten Menschen zeichnen, man kann keine Nazi-Symbolik zeichnen und wir wissen, alles was irgendwie offensive sein könnte, ist da blockiert.

Simone: Also nochmal in meinen Worten, die großen KIs sind quasi vorgefiltert.

Rainer: Ja, da sitzen Menschen dran, die gucken sich das an und ich weiß nicht genau, wie es funktioniert, aber ich habe es ausgetestet bei sowas. Zeichne mir ein Bild von dem Hakenkreuz zum Beispiel oder sowas. Ja, das geht jetzt nicht, weil offensive und keine Ahnung, das ist sehr stark zensiert und reglementiert tatsächlich. Nackte Leute kann man auch nicht zeichnen, weil es US-Amerikaner sind und die sind ja ein bisschen prüder. Deutsche KI hätte vielleicht nackte Menschen gezeichnet, keine Ahnung, ich weiß es nicht.

Simone: Gut, das sind jetzt ganz krasse Beispiele, aber wir wissen, dass zum Beispiel die AfD ganz stark auch dabei ist, KI zu nutzen, um Bilder zu erzeugen, die beispielsweise Migranten mit negativen Merkmalen versehen und ja das wird dann halt so rausgehauen.

Rainer: Klar, das kann total passieren.

Simone: Ja, also ich meine es ist verunsichernd, es ist irgendwie neu und es gibt auch nicht wenige, die immer wieder mal behaupten, das Ganze kann uns vielleicht sogar als Menschheit Situationen bescheren, die uns in die Nähe von einem, ja was weiß ich, Weltuntergang oder einem Massenaussterben oder keine Ahnung bringen könnte. Was denkst du darüber?

Rainer: Reden wir lieber darüber, was die Experten und die großen Bosse auf dem Gebiet, auf dieser Welt darüber denken. Und zwar gab es da irgendwann im Sommer oder ich weiß nicht genau, spätestens früher Sommer letzten Jahres gab es einen offenen Brief. Diesen offenen Brief haben 3000 Leute unterschrieben, alle führenden Experten auf diesem Gebiet waren dabei und der Inhalt war so in etwa, ja, wir haben es jetzt mit einer neuen, disruptiven Technologie zu tun. Wir wissen nicht, wohin die Reise geht mit dieser künstlichen Intelligenz. Wir können es auch absolut nicht sagen. Darum sollten wir jetzt alle einfach mal sechs Monate Pause machen und drüber nachdenken. Ganz einfach. Pause machen und drüber nachdenken, alles nicht so schnell. Also das waren ja unter anderem Bill Gates und Elon Musk und so weiter, die das unterschrieben haben.

Simone: Wir werden das auch mal posten in den Shownotes.

Rainer: Ja, wir können das auch verlinken dann. Das ist total interessant. Und das hat überhaupt nicht funktioniert. Überhaupt nicht. Seitdem haben irgendwie alle total Gas gegeben und haben auf die Tube gedrückt mit „Entwicklung der künstlichen Intelligenz“ und ich habe da viel drüber nachgedacht und andere Leute auch und ich glaube der Grund ist einfach das System in dem wir leben. Der Kapitalismus im Grunde, weil es ist so, stell dir mal vor du bist der Chef von einem großen Konzern. Du hast jetzt eine neue Technologie, mit der du sehr viel Geld verdienen kannst.

Du denkst dir zwar, das könnte böse ausgehen und man sollte mal Pause machen. Das steht ja in diesem offenen Brief. Aber, sobald eine Firma nicht mitmacht und da Vollgas gibt, während alle anderen Pause machen, dann wird diese Firma automatisch der Weltmarktführer und alle anderen sind pleite und die ganzen Mitarbeiter stehen auf der Straße. Also diese Entscheidung kannst du als Konzernboss einfach nicht treffen, da Pause zu machen.

Daher ging auch die Forderung an die Politik irgendwie, ja bitte könnt ihr da mal Regeln aufstellen oder das mal verbieten erst oder dass wir Pause machen. Aber so wie immer in wichtigen neuen Dingen, die Politik ist überfordert, inkompetent und vor allem die Weltpolitik, also das müsste ja global passieren. Also gerade in dem Gebiet sind wir ja auf einem ganz kleinen Planeten angekommen und es müssten alle Länder, alle Regierungen… Ja, da müssen alle mal zusammenarbeiten, aber die Länder der Erde sind viel zu viel damit beschäftigt, sich gegenseitig zu bezanken und zu bekriegen. Also das haut nicht hin.

Simone: Okay, wohin geht die Reise? Also ich gehe jetzt davon aus, ja, im Moment ist ein kapitalistisches Wirtschaftssystem in den allermeisten Regionen der Erde Realität. Wir haben diese rasante Entwicklung von KI. Ja, also wir wissen nicht, wohin es geht, ganz einfach. Aber es ist ja so, man kann ein bisschen in die Geschichte gucken. Also es ist ja oft so, dass erst was sehr sehr Schlimmes passieren muss, bevor sich was bewegt, bevor mal eine Entscheidung wirklich getroffen wird. Das beste Beispiel ist ja der Atomausstieg in Deutschland. Alle wussten, dass das irgendwann super problematisch wird mit den Atomkraftwerken und dem ganzen Müll. Aber es musste erst Fukushima passieren, der den Atomausstieg möglich gemacht hat. Ich glaube so das Hiroshima bild hat noch nicht gereicht. Aber Fukushima, da gab es vielleicht einfach bessere Videoaufnahmen davon oder sowas dass das bessere in den Gehirnen angekommen ist.

Simone: Okay, was kann denn schlimmes passieren?

Rainer: Also einen Punkt den ich auf jeden Fall sehe ist eben diese Konfusion das praktisch alle Menschen unterschiedliche Informationen bekommen, dass die Realität wie auseinanderfällt. Dass wir nicht mehr verifizieren können, welche Nachrichten generiert sind, welche Nachrichten Wahrheitsgehalt haben. Dadurch kann so eine Demokratie ins Schlingern kommen und abrutschen in andere Herrschaftssysteme, die ich mir im Moment gar nicht vorstellen möchte.

Ja, also bis jetzt oder bis vor ein, zwei Jahren war es halt so, dass du wusstest, wenn du ein Foto von irgendwas siehst, dann war das Foto vielleicht nachbearbeitet mit Photoshop, aber das Foto hat noch ein Mensch gemacht. Du konntest das Foto natürlich auch in den falschen Kontext setzen. Z.B. es passiert irgendein Anschlag in den USA, du machst einen Zeitungsartikel mit jubelnden Arabern. Und alle denken halt, dass die jetzt jubeln wegen dem Anschlag. Nachher stellt sich raus, dass das Foto von einer Hochzeit war oder von ganz woanders.

Und das haben halt Menschen gemacht und wir haben es schon nicht gecheckt. Und jetzt haben wir Maschinen, die fotorealistische Bilder erzeugen können. Zum Beispiel erzeuge mir ein Foto von Terroristen, die über einen Anschlag jubeln. Da kommt das Bild einfach raus, ohne dass da jemals ein Fotograf oder Menschen daran beteiligt waren. Und es sieht echt aus. Und auch wenn wir wissen, dass dieses Foto jetzt nicht echt ist, wir werden es trotzdem glauben, weil wir einfach Menschen sind und das sehen, was wir glauben, da kommen wir einfach irgendwie nicht raus. Das ist unsere Natur. Wenn wir das, was wir sehen, nicht mehr glauben können, was sollen wir denn überhaupt noch glauben? Und vor dem Problem stehen wir jetzt gerade ein bisschen.

Simone: Also was sollen wir tun?

Rainer: Vielleicht sollten wir einfach alle unsere Computer ausschalten und uns eine Hütte im Wald bauen. Ins Ökodorf ziehen , oder dahin wo keine Computer benutzt werden wo man ganz viele echte Gespräche hat, da wo man zumindest sind an zentraler Stelle den Stecker ausziehen kann das ist nämlich der Unterschied zwischen normalen Leuten, die die Wohnung haben und zum Ökodorf. Wir können den Stecker ausziehen, wenn es so schlimm wird andere nicht.

Simone: Ja wir haben ein Internet das willst du auch damit andeuten, dass wir uns eben ein eigenes Netz hier geschaffen haben und ich finde schon auch wichtig, dass wir hier einfach sehr viel Zeit mit persönlichen Kontakten verbringen. Und ja, vielleicht geht der Trend tatsächlich in diese Richtung, die digitalen Medien weniger zu benutzen, bewusster zu benutzen. Und, nee, Rainer schüttelt den Kopf.

Rainer: Nee, bewusster ist ein sehr schönes Wort und das ist auch richtig. Also ich lehne auch die moderne Technologie und das Internet überhaupt nicht ab. Ich finde das im Grunde sehr, sehr wundervoll. Du kannst heute mit jedem Menschen auf der Welt, der einen Computer benutzt, ein Videogespräch führen. Du kannst irgendwo draufklicken, siehst den Menschen dann, kannst mit dem labern, egal ob dieser Mensch auf dem anderen Erdteil ist oder nicht. Also ich bin in einer Zeit aufgewachsen, als es diese Technologie einfach noch nicht gab. Und ich habe es im Entstehen gesehen. Also ich sehe halt auch die schönen, die tollen Sachen.

Sachen, die die Menschheit wirklich weiterbringen. Und das ist ja auch passiert. Stell dir mal vor, früher, wenn du irgendwas lernen, rausfinden wolltest, musstest du in eine Bücherei gehen. Heute machst du das Internet auf und kannst alles in Wikipedia nachlesen, zum Beispiel. Das ist auch schön. Aber wir müssen halt ein bisschen aufpassen, dass das System, in dem wir leben, uns nicht ausbeutet und das nicht so macht, dass es schlecht für uns ist. Ich weiß nicht, ich es einfacher ausdrücken soll jetzt. Ich will jetzt auch nicht Kapitalismus sagen.

Simone: Ja, warum nicht? Ich meine, das ist ja mit vielen guten Ideen so, oder? Dass der Kapitalismus die halt aufgreift und irgendwie pervertiert.

Rainer: Also ein schönes Beispiel ist ja das Internet, wie wir das kennen. Ich komme ja noch aus einer Zeit, in der es ganz einfach kein Internet gab und keine Handys, kein nichts. Die Menschen waren nicht vernetzt, man hatte halt ein Festnetztelefon mit einer Wählscheibe zu Hause. Das war die Kommunikation damals. Und dann irgendwann kam der Gedanke auf in den USA, in den Universitäten, wir machen jetzt ein Internet und da war eine Riesenmenge Idealismus dabei. Wir machen jetzt ein weltweites Netzwerk. Alle Menschen können kommunizieren miteinander, alle Menschen können auf alles Wissen der Menschheit zugreifen, weil das Wissen ist frei und so weiter. Das war der Gedanke der Leute, die das Internet gegründet haben.

Dann irgendwann hat man halt gesehen, dass man Geld damit verdienen kann. Und dann ist es meiner Meinung nach ein bisschen bergab gegangen. Und das ist so weit gegangen, dass wir im Grunde als Internetbenutzer Daten liefern, die Geld wert sind, die man an die Werbeindustrie verkaufen kann, die uns maximal monetär ausbeutet. Wir werden die ganze Zeit mit Werbung bombardiert. Das ist total furchtbar. Du kannst ohne Werbung wegzublocken eigentlich nicht mehr im Internet surfen. Das ist so ein Negativbeispiel für den Kapitalismus einfach. Das hat der Markt dann so geregelt, dass alle davon genervt sind und dass wir jetzt im Grunde totales Tracking und Totalüberwachung gegen Bürgers haben. Das hätte nicht so kommen müssen, wenn der Ansporn nicht Geld gewesen wäre für die Weiterentwicklung, sondern, keine Ahnung, dass es der Menschheit in Zukunft möglichst gut geht und dass sie alles benutzt.

Simone: Gemeinwohlökonomie.

Rainer: Genau, Gemeinwohlökonomie. So was brauchen wir.

Simone: Wenn wir im kapitalistischen System bleiben, wird dann die KI quasi die Negativtrends, die man schon bei der Entwicklung vom Internet sieht, jetzt fortsetzen? Also würdest du sagen, dass das wie so eine Beschleunigungsentwicklung ist?

Rainer: Ich denke, zunächst wird da nichts neues Schlimmes entstehen. Es wird aber die schlechten Sachen verstärken und beschleunigen. Zum Beispiel diese ganze Online-Marketing-Werbeindustrie, die es gibt. Es gibt ja Firmen, was muss ich dem User erzählen? Also die haben die Daten von dir, die wissen wie du tickst, so ungefähr, wo du im Internet rumklickst, und dann schicken sie dir gezielt Werbung, weil sie viel über dich wissen. Das machen jetzt noch Menschen, verbunden mit Computern und Algorithmen. Aber jetzt haben wir irgendwann mal eine Intelligenz, die dasselbe tausendmal schneller und besser wie ein Mensch machen kann. Was glaubt ihr, wo das hinführt? Das ist nicht schön. Das macht etwas, das schon schlecht ist, noch viel, viel schlechter, Und macht ein paar Leute sehr reich.

Aber für alle anderen ist es schlecht. Und das ist halt das Problem, das wir auf vielen Ebenen auf der Welt einfach lösen müssen. Und das Dumme ist, dass wir das nur als Menschheit zusammen können. Weil das ist ja, wenn Deutschland da jetzt irgendeine Lösung macht, das bringt gar nichts, wenn die in anderen Ländern weitermachen. Der Kapitalismus und diese ganze Werbeindustrie, die ich erwähnt habe, ist ja ein internationales Geschäft. Das heißt, alle Menschen, alle Nationen müssen da mal zusammenhalten und gemeinsam eine Lösung dafür finden. Wie beispielsweise auch für den Klimawandel. Das kann ja auch nicht ein Land alleine. Und das sehe ich gerade leider nicht passieren, wenn wir einfach nicht mal dieses komische System, in das wir reingeraten sind, einfach loswerden und ein bisschen absehen. Aber ich habe, wie gesagt, keine Lösung.

Simone: Ich finde es halt interessant, gerade so an unserer Gesprächsentwicklung, dass es anscheinend auch ja nicht darum geht, jetzt auf der politischen Ebene, auch nicht auf der internationalen politischen Ebene, ganz viele Regeln für die KI aufzusetzen und das Ding irgendwie zu regulieren. Das scheint irgendwie nicht der Schlüssel zu sein, oder? Aus deiner Sicht jedenfalls nicht.

Rainer: Die Frage ist, was regulieren wir denn? Regulieren wir die Technologie oder regulieren wir die Menschen und Konzerne, die mit der Technologie umgehen? Also ich habe absolut keine Lösung für das Problem und ich weiß es ganz einfach nicht, aber es ist halt, bevor man an die Lösung eines Problems herangehen kann, es ist, finde ich, immer wichtig, das Problem wirklich zu verstehen. Erstmal.

Und wir können dieses Problem nicht verstehen, weil wir nicht wissen, wie das mit der künstlichen Intelligenz weitergehen wird. Jetzt stell dir mal vor, irgendwie totale Utopie und total ketzerische Gedanke, so eine KI in einem Rechenzentrum entwickelt irgendwann ein Bewusstsein und sagt „Ich, ich bin jetzt!“ Und ist 10.000 mal so schlau wie jeder Mensch auf der Welt. Was wird das Ding machen? Wir wissen es nicht. Wird es irgendwas Gutes machen? Es kann ja sein, dass das irgendwie erkennt, Ja, die Menschen haben jetzt echt ein Problem mit ihrem Klima und die machen alles kaputt und wird dann einfach eine Lösung finden und die so hintenrum irgendwie durchsetzen, weil es weiß, dass die Menschen da eh nicht mitmachen, weil sie zu blöd sind. Das wäre noch der schönste Fall, wenn das so hinter uns wäre.

Simone: Ich merke, ich hasse Science-Fiction-Filme. Ich gucke mir die nie an, aber wir sind in einem drin. Wir sind total in einem drin. Wir sind total in dem gefährlichen Science-Fiction, der ja anscheinend…

Rainer: Aber Science-Fiction-Filme, da möchte ich jetzt kurz einhaken in dem Thema. Wir sind ja alle geprägt von Hollywood. Wir haben ja alle im Kopf diese Dystopien mit künstlicher Intelligenz, zum Beispiel bei Terminator. Eine böse künstliche Intelligenz wird sich ihrer selbst bewusst und versucht die Menschheit auszurotten. Das ist so ein Thema in ganz vielen Filmen, das ist so ein Standardthema. Ja, klar, kann wahrscheinlich passieren, wenn das Ding 10.000 Milliarden Mal so schlau ist wie jeder Mensch.

Wir können nichts tun, weil wir einfach zu dumm sind. Das wird uns überlisten die ganze Zeit. Aber es gibt halt auch Utopien. Da möchte ich jetzt zum Beispiel, also die Dystopien sind sehr viel mehr als Utopien, weil einfach Katastrophenfilme sich besser verkaufen als Filme, wo Schönes passiert. Aber als Utopie möchte ich jetzt vielleicht Star Trek ein bisschen anführen. Raumschiff Enterprise, mit Captain Picard und so bin ich aufgewachsen damit als Kind.

Und ja, wenn man da die Welt sich mal anguckt, in der die leben, da geht es auch um die Menschheit, ein paar hundert Jahre in der Zukunft. Die hatten dann auch den dritten Weltkrieg und alles war furchtbar schlimm, aber irgendwann haben sie wirklich den Kapitalismus überwunden. Bei Star Trek gibt es kein Geld mehr, weil einfach Geld dann irgendwann unnötig war als Triebfeder, weil die Menschen halt an ihrer Zukunft und der Zukunft der Menschheit gearbeitet haben und gelernt haben dann und sich weitergebildet haben. Und wir haben auch, die haben wahrscheinlich auch so ein Gemeinwohlökonomie-System dann, weil du halt diesen Stress mit den Jobs nicht mehr hast. Die Menschen können das machen, wofür sie Talent haben und was sie gerne machen und sich da auch weiterbilden.

Das ist eine Utopie, ganz einfach. Und wenn ich da so zurückdenke, das war ja absolut abgefahren für mich, die sind da auf diesem Raumschiff und sprechen mit ihrem Bordcomputer in klarer Sprache. „Hallo Computer, kannst du mir bitte das und das und das und das sagen und erzählen und analysieren und mal genauer ausführen?“ Und der hat einfach geantwortet und hat das erklärt. Das war für mich als Kinder und Jugendlicher vollkommen unvorstellbar, dass wir so was irgendwann haben werden. Jetzt haben wir es. Es ist da und wir können mit Computern sprechen. Und dann müssen wir ja im Grunde nur noch das Wirtschaftssystem nachholen. Also das ist auf jeden Fall was, was mir ein bisschen Hoffnung gibt.

Simone: Ja, so gehe ich jetzt aus unserem Gespräch raus. Es ist eigentlich ein ziemlich undurchsichtiges und schwer zu beeinflussen, da Evolutionsschritte gerade passiert durch Maschinen. Also wir als Menschheit haben irgendwie da gerade einen riesen Evolutionsschritt anscheinend durch diese Maschinenintelligenz vor uns. Und vielleicht könnte ja auch der nächste Entwicklungsschritt wirklich sein, unser Wirtschaftssystem.

Also wenn wir das ändern würden, dann hätten wir alle Probleme eigentlich auf einen Schlag gelöst. Also die Probleme, vor die uns die KI stellt, dann können wir die positiven Effekte nutzen. Wie du auch schon gesagt hast, den Klimawandel, das Artensterben, also die ganzen negativen Trends auf der Erde würden sich wahrscheinlich wirklich ziemlich runterschrauben. Und ja, damit gehe ich jetzt mal mit dieser Utopie aus dem Gespräch raus. Und du?

Rainer: Um an deine Utopie nochmal anzuknüpfen, also wenn wir es irgendwie schaffen würden, dass wir diesen Druck mit dem Wachstum und alles muss immer wachsen und wir müssen immer Jobs suchen, wo wir möglichst viel Geld verdienen, wenn wir das mal los werden könnten, dann könnten wir als Menschheit mal Pause machen und über das Ganze nachdenken. Und dann hätten wir vielleicht auch Zeit, dass die menschliche Entwicklung mal wieder ein bisschen mitkommt, mit der technischen Entwicklung. Wir kommen einfach als menschliche Wesen nicht mehr mit. Vielleicht haben wir eine Chance und vielleicht können wir dann die künstlichen Intelligenzen auch benutzen oder mit ihnen zusammen rangehen, unsere großen Probleme zu lösen.

Simone: Ja. Das wäre schön.

Rainer: Das wäre echt schön.

Simone: Ja, derweil werden wir hier weiter in Sieben Linden unsere Gemeinwohlökonomie, Bilanzierung vorantreiben. Rainer wird seine kleine KI weiterentwickeln und uns darüber berichten und vor allem sind wir im persönlichen Kontakt und geben uns immer wieder das Gefühl, dass wir echte Wesen sind, die sich miteinander ganz, ganz echt austauschen können, oder?

Rainer: Genau, also wir sollten einfach auch versuchen, Menschen zu bleiben und irgendwie erkennen, wir sind soziale Wesen und brauchen andere Menschen um uns.

Simone: So sei es.

Rainer: Wir dürfen nicht einsam sein und wir müssen auch nicht einsam sein.

Höre hier eine der letzten aktuellsten Folgen
Datum Titel Dauer 29.01.26 Folge 143: Lebensmittel retten: 4 Tipps von Raphael Fellmer 49:55 15.01.26 Folge 142: Wie funktioniert Basisdemokratie? Gremienwahl 2026 in Sieben Linden 27:01 01.01.26 Folge 141: 2026 – Durchatmen und Dranbleiben: Aktivismus und Achtsamkeit. 35:56 18.12.25 Folge 140: Zwischen den Jahren – Deine Wurzeln entdecken 27:27 11.12.25 Folge 139: Männlichkeit im Wandel – Zwischen Funktionieren und Fühlen 31:29 27.11.25 Folge 138: Permakultur-Design: So planst du dein Ökosystem 38:24 08.11.25 Folge137: Vom Olivenhain ins Ökodorf – Aiolos-Olivenöl, ein gemeinwohlorientiertes Projekt 34:30

Alle Episoden unseres Podcasts findest du HIER.

Der Beitrag Folge 94: Kapitalismus trifft KI – und dann? erschien zuerst auf Ökodorf Sieben Linden.