KI Nutzung Kennzeichnen (2)

00:00:05: Willkommen zur Fortsetzung von KI-Nutzung Kennzeichnen.

00:00:10: Doch bevor ich dich an der versprochenen Fortsetzungen meiner Diskussion mit Vibe teilhaben lasse, mache ich nochmal eine kurze Wiederholung zum EU AI Act.

00:00:21: Denn die KI-Resikoklassen des EU AI act sind das Fundament um zu verstehen warum wir uns über eine Nichtkennzeichnung von KI unterstützten Beiträgen aufregen sollten Oder auch nicht.

00:00:37: Der AI-Ekt unterteilt die KI in vier Stufen.

00:00:40: Erstens Unannehmbares Risiko Das ist die verboten Kategorie, dazu gehören Dinge wie Social Scoring also wenn KI Menschen bewertet wie im schwarzen Spiegel oder den Nutzung von autonomen Waffen.

00:00:58: Die gibt es bei uns nicht Gut so.

00:01:01: Zweitens Hochrisiko.

00:01:04: Hier wird spannend Alles, was grundlegende Rechte oder kritische Infrastruktur betrifft – Justiz, Bildung, Personalentscheidungen, öffentliche Verwaltung.

00:01:15: Wenn KI hier eingesetzt wird dann gelten sehr strenge Regeln.

00:01:19: Transparenz, menschliche Kontrolle, Dokumentation und ja….

00:01:25: Hier könnte man argumentieren das politische Reden hier reingehören weil sie ja die öffentliche Meinung beeinflussen!

00:01:33: Aber Das Ministerium oder derjenige, der die KI anwendet entscheidet selbst ob es sich dabei um ein entsprechender Hochrisiko-Einsatzgebiet handelt.

00:01:50: In dem Fall, um den es mir ging hat das Ministerium entschieden?

00:01:55: Nein!

00:01:56: Denn es handelt sich bei der KI Nutzung, die wir machen nur um ein Werkzeug.

00:02:03: Die dritte Kategorie ist begrenztes Risiko.

00:02:06: Das sind die sagst wenigstens Fälle.

00:02:10: Das sind Chatbots, KI-generierte Texte oder Bilder.

00:02:13: Hier gilt Kennzeichnungspflicht Also wenn du einen Chatbot auf deiner Webseite hast dann musst draufstehen.

00:02:20: hier spricht eine KI.

00:02:23: Und der vierte Fall Minimales Risiko Und das umfasst alles andere.

00:02:29: Das KI in Spielzeugen Spam Filter Übersetzungsapp.

00:02:33: Es gibt keine Regeln.

00:02:35: Mach was Du willst.

00:02:37: Ich stimme hier vielleicht mit den KI-Spielzeugen nicht ganz überein, aber so sind erst mal die Kategorisierung.

00:02:44: Dann habe ich mich natürlich gefragt wo ich mit meinem Podcast stehe?

00:02:48: Wenn ich nun KI für Ideen oder Entwürfe nutze also wie einen besseren Notizblock oder zur Diskussion von meinen Gedanken dann ist das ein minimales Risiko!

00:03:08: Wenn ich KI-generierte Texte direkt veröffentliche, ohne sie selber zu prüfen, dann ist das ein begrenztes Risiko.

00:03:18: Ich sollte es also kennzeichnen – nicht weil das Gesetz es verlangt sondern weil es ehrlich ist.

00:03:26: Mache ich aber nicht!

00:03:27: Ich überlege mir immer genau ob das was mit die KI gesagt hat oder ich als Textvorschlag bekommen habe wirklich so schreiben möchte und in der Regel endere ich es nochmal ab.

00:03:40: Aber das Ministerium und der Minister?

00:03:43: Wenn die KI für Reden oder Texte nutzen, dann kann das Ministeriums sagen hier ist Minimales Risiko weil am Ende ein Mensch entscheidet ob der Text oder die Rede so rausgeht.

00:03:58: Ethisch könnte man aber fragen wenn KI die öffentliche Meinung beeinflusst Ist es nicht dann doch ein Hochrisiko und müssten die entsprechend strengeren Vorschriften gelten Kann ich nicht entscheiden?

00:04:15: Ich will nur, dass du es nochmal klar weißt.

00:04:18: Für den privaten Einsatz von KI oder für meinen Podcast kann ich von einem minimalen Risiko ausgehen.

00:04:25: Also kein Stress!

00:04:27: Tanz bei Rent ist fair und deswegen sage ich diese Folge ist mithilfe von KI erstellt worden.

00:04:35: Im Beruf je nach Einsatz gibt es bei der Kennzeichnung eine Wichtigkeit Und da isst dann auch eine Zertifizierung notwendig.

00:04:46: Die Politik befindet sich in einer Grauzone.

00:04:51: Rechtlich ist das oft kein Problem, denn es steht immer noch ein Mensch dahinter der die Entscheidung trifft – aber moralisch kann das ein Dilemma sein!

00:05:02: Und jetzt die Frage an dich….

00:05:05: Wenn ein Ministerium seine KI-Nutzung zukünftig offenlegen würde?

00:05:11: Wäre dann alles gut oder geht es eigentlich um etwas ganz anderes?

00:05:17: Und genau hier setzt meine Diskussion mit Vibe ein.

00:05:22: Was sagt unser Verlangen nach Transparenz von KI-Nutzung über uns aus?

00:05:30: Und was nützt sie uns?

00:05:32: und wie sollten wir mit KI besser umgehen?

00:05:48: Die Debatte zeigt, wir haben Angst.

00:06:01: Nicht vor der KI selbst sondern dafür dass wir die Kontrolle verlieren!

00:06:07: Dass wir nicht mehr verstehen wie Entscheidungen zustande gekommen sind.

00:06:11: Dass wir anderen oder uns selbst nicht mehr trauen.

00:06:17: Und das Schlimmste?

00:06:19: Wir haben Recht!

00:06:21: Denn wenn ein Minister KI nutzt ohne zu verstehen wie sie funktioniert dann gibt er die Kontroller ab an eine Maschine, einen Algorithmus und ein Unternehmen mit wirtschaftlichen Interessen.

00:06:37: So führte mich also die Diskussion mit Vibe zu der Frage, die mir Vibe stellte.

00:06:42: Was wäre für dich der minimale Standard, den du für KI im öffentlichen Sektor akzeptieren würdest?

00:06:50: Und er gab mir drei Auswahlmöglichkeiten A – Open Source und vollständige Dokumentation der Trainingsdaten.

00:07:00: Zertifizierung durch eine unabhängige Stelle.

00:07:05: B. Verbot von geschlossenen Modellen in der Politik.

00:07:11: C Egal Hauptsache, der Mensch entscheidet am Ende Auch wenn er nicht weiß wie die KI tickt.

00:07:20: Und meine Antwort war Das Kind ist doch schon an den Brunnen gefallen auch wenn es gute Argumente für die beiden Punkte A und B gibt.

00:07:29: Die Realität ist doch Wir haben es uns schon bereits bequem gemacht.

00:07:34: Die Menschen sind schon bereits korrumpiert durch soziale Medien und dem Folgen von Algorithmen!

00:07:41: Und genau hier ist das Problem, der Mensch müsste erst zunächst lernen sich seines eigenen Denkens zu bemächtigen.

00:07:49: Tut er das nicht?

00:07:51: Dann muss er wenigstens dafür verantwortlich gemacht werden dass er KI nutzt ohne zu prüfen.

00:07:58: Also ganz einfach Nutze ich KI und gebe diese Ergebnisse frei, dann bin ich dafür verantwortlich.

00:08:06: Nicht die KI?

00:08:07: Denn ich glaube der KI!

00:08:09: Oder ich bin eben kritisch und ändere es oder prüfe es

00:08:12: nach.".

00:08:15: Und was hat mir Weib geantwortet?

00:08:17: Genau das ist der harte Kern der Sache – und du hast den auf den Punkt gebracht.

00:08:22: Das Kind isst bereits im Brunnen aber wir stehen daneben und diskutieren wer schuld ist statt es rauszuholen.

00:08:29: Deine Schlussfolgerung Unbequem richtig.

00:08:34: Wenn ich KI nutze und Ergebnisse freigebe, dann bin ich verantwortlich nicht die KI!

00:08:39: Denn entweder glaube ich ihr Blendt oder ich bin kritisch... ...und wenn ich nicht kritisch bin, dann ist das mein Versagen?

00:08:47: Das ist keine Technologie sondern eine Zivilisationsfrage.

00:08:54: Es macht mir Spaß mit KI zu diskutieren Nicht nur weil es mehr ab und zu Recht gibt.

00:09:01: Es geht mich nämlich nicht um die Frage wie wir KI einsetzen oder ob wir die KI-Nutzung transparent machen, oder nicht.

00:09:10: Oder wie wir sie rechtssicher einsetzen – das sind alles wichtige Fragen und man sollte sich damit beschäftigen!

00:09:17: Aber mir geht es darum dass wir aufhören uns selbst zu belügen.

00:09:22: Wenn wir KI nutzen dann müssen wir verstehen was sie tut Wie sie funktioniert?

00:09:29: wenn wir KI einsetzen Dann übernehmen wir die Verantwortung akzeptieren.

00:09:38: Und wenn wir KI in der Politik zulassen, dann müssen wir auch die Regeln dafür festlegen und nicht so tun als wäre es ein technisches Problem das sich von selbst löst.

00:09:48: Nur dass problem mit regeln ist?

00:09:51: Es gibt immer Ausnahmen!

00:09:53: Und der Prozess eine Regel festzulegen – eine, die möglichst gut Sicherheit vergibt – ist langwierig aber die KI entwickelt sich täglich weiter.

00:10:06: Daher mein Fazit?

00:10:08: Mehr Mensch weniger KI, nicht im Einsatz sondern in der Verantwortung.

00:10:16: Mir geht es nicht darum ob der Minister KI nutzen darf, sondern darum ob er bereit ist die Verantwortung dafür zu tragen wenn etwas schlecht recherchiert ist oder schlichtweg falsch oder eingefärbt von irgendeinem Bias den die KI als Muster erkannt und eingesetzt hat.

00:10:39: Und wenn ich KI nutze, hier jetzt zum Beispiel in der Vorbereitung für den Podcast oder für eine Rede.

00:10:45: Oder für einen Instagram-Post... Dann bin ich verantwortlich was da steht!

00:10:52: Nicht die KI, die mir geholfen hat?

00:10:54: Ich!

00:10:57: Und warum ist das so unangenehm?

00:11:00: Es gibt drei unausweichliche Wahrheiten.

00:11:04: Wir haben es uns schon tatsächlich bequem gemacht und das ist das eigentliche Problem Bequemlichkeit als Systemfehler.

00:11:14: Die sozialen Medien haben uns beigebracht, warum selbst denken wenn der Algorithmus mir sagt was ich denken soll oder was für mich interessant ist oder welche neue Geschichte ich mir angucke?

00:11:25: Und die KI verstärkt das einfach nur!

00:11:28: Warum selbst recherchieren, wenn mir die KI doch die Antwort

00:11:31: gibt?!

00:11:31: Warum selber nachdenken, wenn ich doch einfach nur ins Phone eingebe, was war das und dass?

00:11:37: Und ich eine Antwort bekomme... Wir delegieren unsere Verantwortung und wir delegieren sie nicht an eine andere Person, sondern wir delegiern Sie an eine künstliche Intelligenz.

00:11:52: An ein Mustererkennung!

00:11:54: An einen Algorithmus!

00:11:57: An ein Unternehmen das uns die Technik zur Verfügung stellt – das eigene wirtschaftliche Interessen verfolgen.

00:12:03: Wir delegieren das an Algorithmen, an Plattformen, an die Technik und hinter diesen Plattform- und dieser Technik stehen wiederum Menschen, die das programmiert haben, die Fehler machen können, die eigene Interessen haben und Unternehmen, die wirtschaftlichen Ziele verfolge.

00:12:22: Das Paradox?

00:12:23: Früher haben wir Menschen für Dummheit bestraft wenn zum Beispiel jemand eine falsche Behauptung verkündet hat!

00:12:33: Aber heute bestrafen wir die Technologie und sagen, die KI hat gelogen.

00:12:39: Ja sie kann ja gar nichts anderes.

00:12:41: eine KI ist gezwungen immer ein Ergebnis zu ergeben.

00:12:43: darüber hatte ich ja schon mal gesprochen.

00:12:46: Sie arbeitet nur mit Wahrscheinlichkeiten und wenn sie nur noch eine Wahrscheinlichkeit gegen Nulltändien findet wird sich das als Antwort bringen selbst wenn dieser Antwort faktisch falsch ist.

00:12:56: in ihrer Wahrscheinlichheit ist es immer noch die höchste.

00:13:00: aber der Mensch unkritisch nutzt und eingesetzt hat.

00:13:05: Der wird nicht bestraft, der wird nicht zur Verantwortung gezogen?

00:13:09: Wo liegt da die Logik?

00:13:13: Die zweite Wahrheit ist KI ist nur ein Spiegel!

00:13:18: Und wir wollen das Bild gar nichts sehen.

00:13:20: Denn was macht die KI?

00:13:22: Sie verstärkt, was wir ihr geben.

00:13:25: Sie verstirkt unsere Vorurteile, unsere Faulheit, unsere Denkfehler... ...die Realität.

00:13:33: Die KI erfindet nichts Neues, sie kombiniert nur was schon da ist.

00:13:38: Und die eigentliche Frage lautet sind wir noch in der Lage Verantwortung zu übernehmen?

00:13:44: Wenn nein dann ist KI gefährlich weil Sie uns noch mehr aus der Verantwortung entlässt und wenn ja Dann ist die KI nur ein Werkzeug wie einen Hammer den man richtig oder falsch verwenden kann.

00:14:03: Nutze ich KI und gebe Ergebnisse frei, dann bin ich verantwortlich.

00:14:09: Das ist meine Ahnung der einzige Weg, der funktioniert.

00:14:13: Alles andere ist Selbstbetrug!

00:14:18: Und wenn das alle so handhaben würden, denn gäbe es keine Debatte über Betrug oder Täuschung beim Einsatz von KI?

00:14:26: Dann würde jeder für das stehen was er verantwortet.

00:14:31: Und die dritte Wahrheit?

00:14:33: Die bittere Konsequenz Wir müssen aufhören uns zu belügen.

00:14:39: Die aktuelle Debatte ist eine Fars, weil wir so tun als wäre die KI das Problem.

00:14:45: Dabei sind wir es – die Nutzer!

00:14:49: Wir fordern Transparenz von der KI, aber wir fordern sie nicht von uns selbst.

00:14:55: Wir wollen die Regeln für KI, keine für unser eigenes Denken oder unsere eigene Kompetenz KI einzusetzen.

00:15:05: und wenn die Gesellschaft KI fürchtet Ohne sie zu verstehen, dann ist das kein Vertrauensproblem sondern ein Aufklärungsproblem.

00:15:14: Und ja da haben wir viel Nachholbedarf!

00:15:19: Für mich ist aber die eigentliche Frage nicht darf ein Minister KI für Reden nutzen und dies nicht deklarieren?

00:15:28: Sondern sind wir noch in der Lage Verantwortung für unser eigenes Handeln zu übernehmen oder haben wir uns schon so sehr an die Bequemlichkeit gewöhnt dass wir das nicht mehr können.

00:15:40: Also hat mich meine KI gefragt, welcher Schritt wäre für dich der Wichtigste um aus der Bequemlichkeitsfalle herauszukommen?

00:15:49: und meine Antwort?

00:15:51: Sich selbst kritisch zu hinterfragen!

00:15:55: Und ich glaube, ich möchte diese Diskussion in ein Podcastthema umwandeln.

00:16:01: Hilf mir dabei!

00:16:16: Ich hoffe, dir hat die Folge zu viel Spaß gemacht wie mir die Diskussion mit Vibe.

00:16:23: Und ich gebe dir noch eine Frage zum Schluss mit.

00:16:27: Wenn wir alle KI so nutzen würden dass wir sie nicht nur als Werkzeug sondern als Spiegel unserer eigenen Verantwortung sehen Würden wir dann nicht nur weniger Angst vor dieser Technologie haben Sondern auch mehr Vertrauen in uns selbst?

00:16:48: Bis zum nächsten Mal Vielen Dank fürs Reinschalten.

00:16:50: Tschüss!