KI Gedanken - Gedanken über KI

00:00:01: Hallo und herzlich willkommen!

00:00:06: Ich bin Berbel.

00:00:07: Und dies ist mein Podcast.

00:00:15: Bei Mittagessen sprachen ich und meine Kollegen über die Anwendung von KI, und die Vor- und Nachteile der Nutzungen in unserer täglichen Arbeit – wo uns die KI unterstützen kann und schon tut, wo es überflüssig ist und wo es lächerlich wird.

00:00:30: Ich setze mich gerade mit KI auseinander, weil ich in der Überzeugung bin, dass die KI aus unserem Leben nicht so einfach verschwinden wird.

00:00:38: Momentan gibt es viele interessante aufregende aber auch beängstigende Ideen wie KI unser Leben beeinflussen und steuern kann oder wird!

00:00:49: Und vielleicht gebe ich in einer anderen Folge dazu noch einmal tiefergehende Gedanken?

00:00:54: Heute geht es mir einfach nur um die Unterhaltung.

00:01:00: Es geht darum, was KI macht.

00:01:02: Wo sinnvoll ist sie zu nutzen oder nicht?

00:01:13: Eines der Beispiele die eine Kollegin brachte, die sie nicht gut fand war das Sie von einer Freundin erzählt bekommen hatte dass diese die Mail eines Ex-Freundes von KI also von JetGBT zur Analyse gegeben hat.

00:01:27: Wir haben dann darüber geschärzt Dass man der KI ja gleich die Aufgabe geben könnte über die Beziehung zu entscheiden sozusagen den Chat alleine zu führen ohne uns.

00:01:37: Und wir hatten dann sehr viele lustige Ideen, was die KI mit dieser Sache machen

00:01:42: könnte.".

00:01:43: Genau das, was so lustig war ist gleichzeitig beängstigend!

00:01:47: Denn es ist ja gar nicht soweit davon entfernt, was wir jetzt schon haben.

00:01:51: Wir haben heutzutage schon die Möglichkeit, KI-Agenten einzusetzen, die ganz selbstständig unsere eigenen Nachrichten verwalten – Bankkonten lernen oder füllen können….

00:02:01: Es ist also nicht so weiter Schritt... Dass die KI eine Aufgabe bekommt, die lästigen sozialen Verbindungen zu halten und irgendwann unterhalten sich die KI's dann einfach noch untereinander.

00:02:15: Ein anderes Beispiel das vielleicht weniger KI-und mehr Robotertechnik ist war ein Beispiel dass ein Kollege aus Japan brachte.

00:02:24: Ein Roboter der so programmiert ist dass er verschiedene Sushi Gerichte zubereitet.

00:02:29: Das macht er den ganzen Tag über und die Gäste sind begeistert!

00:02:34: Naja, also ich bin auch begeistert wenn ich im Restaurant bin und die kleine computergesteuerte Roboter Katze mein Essen an den Tisch bringt.

00:02:42: Insbesondere wenn man sie streicheln kann und sie dazu darauf reagiert!

00:02:47: Es ist eine sinnvolle Unterstützung im Service in einem Restaurant wo Serviskräfte immer schwieriger zu bekommen sind – aber ich empfinde es als gefährlich wenn wir uns alles abnehmen lassen….

00:03:00: Was mich bei dem Gedanken zu diesen KI-Lösungen so fasziniert, ist die Diskrepanz von Anspruch und Ausführung.

00:03:08: Gerade wo uns viel abgenommen wird – und das dann auch so verführerisch wirkt – müssen wir genau hinschauen was passiert?

00:03:17: Der Anspruch ist «Die Technik sollte den Menschen dienen».

00:03:22: Bei der Idee dass ein Roboter die Sushi Gerichte zubereitet oder da eine automatische Roboterkatze das Essen an den Tisch fährt… müssen Menschen immer da sein, die der Technik zuliefern.

00:03:34: Es muss irgendjemand geben, der die Schüsselchen füllt aus denen sich der Roboter bedient!

00:03:39: Es muss auch jemand da sein ,der die Bestellungen liest, zubereitet oder auf die einzelnen Regalbretter der automatisierten Katze stellt.

00:03:47: Und letztendlich müsste auch jemand dasein, der JetGBT-Demail gibt und den Auftrag eine Antwort zu formulieren.

00:03:57: Aber was ist wenn die Menschen gezwungen werden, sich für die Technik anzupassen.

00:04:04: Wir werden Dienstleister für das, was uns die Arbeit abnehmen soll!

00:04:08: Wir werden zum Promptoptimiere, wir werden zum Schüsselauffüller und wir werden vom Tablettabsteller.

00:04:17: Zuerst führt sich das wie eine Entlastung an aber wenn die Technik nicht mehr wie ein Hammer oder ein Kompass ist also ein Werkzeug dass meine Absicht und meine Ziele unterstützt sondern wir wie in einer schleichenden Umkehrung die Befehle der KI, die Befehltechnik erfüllen und ihr zuarbeiten müssen.

00:04:40: Und uns dann immer weiter zurücknehmen?

00:04:43: Dann verlieren wir unsere exekutive Entscheidungskraft und wir lagern sie an digitale Systeme aus!

00:04:57: Es ist ein ganz klares Phänomen Wenn ich einem Navi folge und mich irgendwo hin bewege, kann ich den Weg oftmals selber nicht mehr wiederfinden.

00:05:06: Ich bin ja einfach nur den Anweisungen gefolgt.

00:05:10: Und wenn ich in den verschiedenen sozialen Medien mir den Automatisierten auf mich zu optimierten Feed von Neuigkeiten und Angeboten geben lasse, dann entscheide nicht mehr ich selbst was mich tatsächlich gerade interessiert sondern ich werde gefüttert passend für mein Gehirn bestätigend was sich schon selbst weiß oder glaube zu wissen ohne Überraschungen und

00:05:32: Anstrengungen.".

00:05:34: Mit anderen Worten Ein Navigationsgerät, das uns die beste Strecke vorgibt oder der Algorithmus, der nicht mehr nur sortiert sondern unsere Wünsche vorher sagt verschiebt die Verantwortung weg von uns hin zu einer Technik.

00:05:50: Die Technik dient dann nicht mehr uns, sondern wir beginnen uns dem Takt der Technik anzupassen.

00:05:57: Wir sind da nicht mehr die Piloten, die unterstützt werden, sondern die Passagiere Und wir sitzen in einer Maschine, die vorgibt zu wissen wohin Wir wollen.

00:06:08: Das Problem mit den Algorithmen und der KI ist eine intelligente Bevormundung – und hier liegt der Kern des Problems von Algorithm und KI.

00:06:18: Unsere früheren Werkzeuge waren dumm!

00:06:20: Sie taten nur das was wir wollten oder konnten….

00:06:24: Aber ein KI-gestützter Algorithmus isst ganz anders ….

00:06:27: Er ist darauf programmiert unser Verhalten zu optimieren.

00:06:31: Es ist nicht das Problem, dass diese Systeme existieren sondern, dass sie unsere Verteidigung auflösen und senken weil Sie Ihre Logik unter der Maske des Wohlwollens verstecken.

00:06:43: Eine KI entscheidet nicht nach Werten oder Erfahrungen, sondern nach Wahrscheinlichkeiten- und Zielvorgaben – die Zielvorgeben, die er jemand trainiert hat Klicks Verweildauer Profit Und Das Maximum Der Mitte.

00:07:00: Wenn wir diese algorithmischen Vorschläge also ungefiltert übernehmen, dann haben wir den Mensch zuerst Ansatz bereits aufgegeben.

00:07:18: Eine KI oder ein Algorithmus suggeriert Eindeutigkeit.

00:07:22: Sie präsentiert uns eine Auswahl und es macht uns – oder gibt uns das Gefühl – dass wir eine freie Entscheidung haben.

00:07:31: In Wahrheit aber ist es ein fein abgestimmtes Ergebnis von Datenmustern.

00:07:36: Ein Mensch kann Unsicherheit, Widersprüche oder ein Bauchgefühl aushalten.

00:07:42: Ein Algorithmus – die KI muss immer ein Ergebnis liefern!

00:07:47: Wir haben uns daran gewöhnt dass die KI immer eine Antwort parat hat.

00:07:52: Es kommt immer ein Ergebnis heraus.

00:07:55: Aber wenn wir uns daran Gewöhnen dann verlernen wir die Frage zu stellen auf die es keine binären Antworten gibt Die das Datenmuster nicht abbildet oder die in das Datenmuster nicht hineinpassen, die nicht die höchste Wahrscheinlichkeit haben.

00:08:12: Die Sachen, die außerhalb der Normalverteilung liegen und trotzdem real sein können!

00:08:19: Mir fällt dazu ein Gedicht ein, dass ich als Teenager einmal gelesen habe... Ich krieg' das Gedicht jetzt nicht selbst wieder zusammen aber die Aussage aus dem Gedicht lautete Menschen nennen sich frei, weil sie nie über den Punkt hinausgegangen sind an dem die Ketten anspanden.

00:08:39: Vielleicht ist es genau so wie jetzt hier mit der KI?

00:08:43: Wenn wir uns daran gewöhnen dass die KI immer eine Antwort parat hat und wir eben keine anderen Fragen mehr stellen dann haben wir das Gefühl Wir sind frei in der Entscheidung zwischen A und B Aber wir vergessen zu fragen warum es nur diese Optionen gibt Denn das ist das Dilemma einer digitalen Architektur.

00:09:06: Es ist eine Maschine!

00:09:08: Sie hat keine Erfahrung, natürlich kann sie beschreiben wie ein Kaffee aussieht, wie er duftet, wie die Bohnen beschaffen sind welche chemische Zusammensetzung den Geschmack führt, wie das Malverfahren oder die Röstung dem Geschmacks beeinflusst.

00:09:23: Aber die Erfahrung einen Kaffe in den Händen zu halten, den Duft einzuatmen und belebende Wirkung der Wärme in den händen spüren… Das ist eine Erfahrung, die nur uns vorbehalten ist.

00:09:37: Uns Menschen prägen diese Erfahrungen – der Algorithmus gibt nur etwas wieder was hochwahrscheinlich ist!

00:09:43: Der Mensch braucht Anreiz um seine kognitiven Muskeln zu nutzen.

00:09:48: Wenn uns die KI und der Algorytmos diese Entscheidungen abnehmen dann verkümmern unsere Muskeln.

00:09:54: Es ist ein bisschen so als würden wir fast Frut zu uns nehmen.

00:09:59: Wir fühlen uns kognitive ernährt Aber wir werden unterernähert.

00:10:04: Und um wieder zurück auf das Ergebnis mit der Freiheit zu kommen, wenn wir nicht über die Punkte hinausgehen an denen unsere Ketten anspannen dann fühlen wir uns frei und unterstützt.

00:10:16: aber tatsächlich hat uns die Maschine Ketten angelegt.

00:10:22: Vielleicht liegt es daran dass ich eine Diebische Freude empfinde Wenn wir unterwegs sind und das Navi ignorieren Und es dann immer wieder neue Routen berechnet, weil wir uns einfach nicht daran halten was die beste Strecke für uns ist.

00:10:38: Es ist mit Sicherheit auch der Grund warum ich die personalisierte Werbung und die Personalisierten Such-Fiez aus meinem Lediennutzung ausgeschlossen habe.

00:10:48: Ich benutze YouTube gezielt um eine Sache mir anzuschauen Aber ich lasse mir keine Vorschläge machen was mich noch interessieren könnte.

00:11:01: In dem Beitrag von dem KI-Kurs, den ich im Moment absolviere, sagte der Trainer das es wichtig sei immer im Hinterkopf zu behalten dass alles was wir tun dem Menschen dienen soll.

00:11:13: KI soll uns das Leben erleichtern aber wir sollen es deshalb auch wie ein Instrument nutzen und uns nicht von dem Instrument bestimmen lassen denn die Maske des Wohlwollens bietet eine große Gefahr und das kommt jetzt nicht aus dem KI Kurs sondern aus der Transaktionsanalyse.

00:11:32: Wenn nämlich Systeme oder Ideologien auftreten und KI nutzen, dann tun sie das oft im Modus der fürsorglichen Eltern ichs.

00:11:41: Wir machen dir dein Leben einfacher!

00:11:44: Wir zeigen dir genau was du brauchst – wir kümmern uns um euch!

00:11:48: Die Maske ist deshalb so gefährlich weil sie unsere Verteidigung senkt.

00:11:53: Wir hinterfragen nicht ob der Architekt dieser Leistung die angeboten wird unser eigenes Interesse verfolgt.

00:12:00: Er will uns ja helfen, wer uns die Welt vereinfacht durch Filterblasen oder KI-Kuratierung –durch das geben einfache Antworten auf komplexe Zusammenhänge– der kontrolliert bereits unsere Sicht auf die Welt.

00:12:17: Denn diese Einfachheit ist eine Falle!

00:12:19: Sie bietet eine kognitive Heimat in der wir nicht mehr abwägen

00:12:23: müssen.".

00:12:24: Und wir beginnen, unsere Urteilskraft einzutauschen gegen ein fertiges Set an Antworten.

00:12:30: Vielleicht?

00:12:31: Weil uns die Komplexität der Welt überfordert!

00:12:36: Unser Gehirn braucht und sucht Bestätigung für unsere eigenen Bilder – und deswegen fällt es uns viel leichter Menschen zuzuhören, die das sagen von denen wir glauben, dass es

00:12:46: passt.".

00:12:48: Wenn wir immer mehr von dem, was wir glauben in der Filterplase präsentiert bekommen dann glauben wir das ganz viele Leute oder sogar die ganze Welt genauso funktioniert wie wir es uns vorstellen.

00:13:01: Die Erde ist flach!

00:13:03: Dabei füttert uns die KI und der Algorithmus nur das, was er gelernt hat dass wir gerne hören, das uns interessiert.

00:13:12: Die strippen sie ja im Hintergrund, sei es nun Unternehmen, Influencer oder eine politische Agenda können diese KI und diese Algorithmus dazu nutzen unsere Sehnsucht nach Eindeutigkeit und Einfachheit auszunutzen.

00:13:28: Diese Erkenntnis ist für mich umso problematischer als dass wir in unserem Gehirn eine Schwäche haben – und zwar die das Befehle energiesparen sind!

00:13:37: Und das Ausführen von Befehlen und vorgefertigten Meinungen erübrigt Denkarbeit.

00:13:44: Befehle sind also was wie Fast-Food für das Gehirn, Befehles sind Informationen die schnell konsumierbar sind einfach strukturiert und nährstoffarm sind.

00:13:55: Genau wie fast food den Körper schnell settigt ohne dass man etwas kochen muss bieten Befehler oder vor gefertigte Meinungen dem Gehirnen eine einfache Lösung ohne es tiefgründig durchdenken zu müssen oder komplexe Zusammenhänge zu verstehen.

00:14:11: Befehle, Regeln oder Kategorisierungen vereinfachen unsere Welt!

00:14:16: Sie schaffen Ordnungen einer komplexen Umgebung und geben uns damit Sicherheit, uns daran zu bewegen.

00:14:23: Und gleichzeitig, so wie das fett- und zuckerhaltiges Essen wird unser Belohnungszentrum aktiviert wenn wir einem Befehl folgen oder eine vorgefertigte Meinung die für uns schon zugeschnitten ist konsumieren.

00:14:36: Es löst ein Wohlgefühl aus – und das Gehirn fühlt sich bestätigt!

00:14:45: Denn wer sich an einfache Antworten und das Fastfood gewöhnt, der verliert die Lust am gesunden, anstrengenden Denken oder Essen.

00:14:54: Und diese Gewöhnung führt dazu, dass wir immer mehr und einfacherer Antworten fordern!

00:15:01: Zu viel Fastfood schädigt den Körper.

00:15:04: Zuviel Fastfood fürs Gehirn führt zu einer trockognitiven Trägheit – einer geringeren Konzentration und der Abnahme der Fähigkeit kritisch zu

00:15:14: denken.".

00:15:23: Ich beobachte mit Sorge, dass aktuelle Geschehen die Medien und Diskussionen.

00:15:29: Dabei ist es eigentlich nicht die KI das Problem ist?

00:15:33: Unser Gehirn ist biologisch auf Symmetrie, Muster- und Fehlerfreiheit programmiert – weil das in der Natur oft ein Signal für Gesundheit und Stabilität war!

00:15:44: Die KI und die maschinelle Fertigung nutzen diesen biologischen Cheat Code nun knadenlos aus.

00:15:51: Wenn eine KI ein Text schreibt oder ein Bild generiert, dann ist das Ergebnis das Destillat aus Millionen von menschlichen Bewertungen.

00:16:00: Es ist die mathematische Definition von Gefälligkeit!

00:16:06: Der perfekte Text ist grammatikale Schmarke los – er hat eine ausgewogene Satzlänge, eine angenehme Wortwahl, er tut niemandem weh, er eckt nicht an….

00:16:19: Die gekaufte Geburtstagskarte ist eine getruckte Karte mit Goldprägung, sie sieht wertiger aus als die krakelige Handschrift auf einem selbst gestalteten Zettel.

00:16:30: Und genau hier liegt die Falle!

00:16:33: Wir verwechseln Perfektion Mit Bedeutung.

00:16:38: Ich denke daher ist es wichtig KI als Instrument zu nutzen aber sich nicht von ihr bestimmen zu lassen.

00:16:46: Daher empfinde ich die bische Freude daran das Navi absichtlich zu ignorieren und zu einer Neuberechnung zu zwingen.

00:16:53: Es ist ein kleiner Akt der Selbstbehauptung!

00:16:57: Und aus demselben Grund verzichte ich eben auf die personalisierten Feeds- und Nutzeplattform wie YouTube nur gezielt, um mir ein Video anzeigen zu lassen statt mich passiv berieseln zu lassen.

00:17:10: Wir müssen aufpassen dass wir nicht wie Lämmer der digitalen Architektur folgen – und wir sollten sicherstellen das wir diesen Punkt immer wieder bewusst überschreiten an dem die Ketten anspannen.

00:17:25: Ich lade dich darum ein, mit mir über die Maske des Wohlwollens nachzudenken hinter welcher sich moderne Technik oft versteckt.

00:17:41: Eine KI ist mathematisch dazu verdammt sein Ergebnis zu liefern – sie kann das nicht wissen oder das Bauchgefühl nicht aushalten aber wir können es!

00:17:52: In einem meiner Lieblingsmarvel-Filme sagt die KI Vision einen wunderschönen Satz der mir immer wieder nachklingt, über die Menschen.

00:18:04: Und er sagt Es liegt eine Anmut in ihrem Scheitern.

00:18:10: Ich glaube genau darin liegt unser Mensch sein Die Freiheit unlogisch zu sein Das Navi zu ignorieren Obwohl es die schnellste Route kennt Den Umweg zu fahren weil dort ein Baum steht Der uns gefällt.

00:18:28: Die Kaenen die Daten einer Rose Aber sie kann sie nicht sehen.

00:18:33: In der Welt der Optimierung ist das Betrachten einer Rose ein kleiner wunderbarer Akt des Widerstandes.

00:19:10: Viel Spaß beim Rosen betrachten oder beim Umweg fahren.

00:19:24: Tschüss!