KI Nutzung Kennzeichnen (1)

00:00:06: Ich wollte heute eine ganz andere Folge machen.

00:00:09: Aber das heutige Thema der Folge ist mit dem Einsatz von KI erstellt!

00:00:34: Das komfortable Gefühl einer in sich stimmigen Erzählung.

00:00:41: Und ich?

00:00:42: Ich sitze da und denke, oh Scheiße!

00:00:44: Hätte der das kennzeichnen

00:00:46: müssen?!

00:00:47: Und ich frage mich, muss ich irgendwas kennzeichnend?

00:00:51: Wenn ich zum Beispiel in der Diskussion mit KI eine Folge bearbeite... ...und warum fühle ich mich dann schuldig?

00:01:00: Weil ich selbst KI nutze?

00:01:03: Ich nutze KI für Texte, für Ideen auch für diesen Podcast.

00:01:08: Ist das Betrug?

00:01:11: Und dann kommt mir die nächste Frage.

00:01:13: Ist der Einsatz von KI wirklich so schrecklich oder ist der Einsatz vom KI einfach noch so neu, dass wir gar keine Regeln dafür haben wie wir damit umgehen sollen?

00:01:27: Nein!

00:01:27: Natürlich erinnere ich mich direkt an meinen KI-Kurs denn da ging es doch um den EU AI Act.

00:01:37: und in diesem AI Act geht es um die Einteilung von Risikoklassen, der Benutzung von KI.

00:01:47: Also frage ich mich unter welche Kategorie fallen eigentlich die Reden und Gastbeiträge eines Ministers?

00:01:55: Unannehmbares Risiko?

00:01:57: Nein!

00:01:58: Das sind eher Dinge wie Social Scoring oder autonome Waffen.

00:02:03: Hochrisiko Das wären KI-Systeme, die grundlegende Rechte beeinflussen.

00:02:09: Also zum Beispiel in der Justiz oder bei kritischer Infrastruktur.

00:02:14: Begrenzt es Risiko?

00:02:16: Nein!

00:02:17: Hier geht es um Transparenzpflichten z.B.

00:02:19: beim Einsatz eines Chatbots.

00:02:22: Minimales Risiko – also alles andere was KI verwendet ob es nun im Spielzeug ist oder als einfaches Tool.

00:02:34: Aber wo landet nun die Rede eines Ministers?

00:02:39: Wenn die KI nur als Werkzeug dient, also wie ein besserer Text-Editor dann ist es ja Minimales Risiko.

00:02:47: Das ist keine Pflicht es dann zu kennzeichnen!

00:02:52: Wenn dieKI aber Inhalte generiert, die die öffentliche Meinung beeinflussen kann, dann könnte man argumentieren dass das Hochrisiko ist weil es eben demokratische Prozesse berührt.

00:03:06: und genau hier ist das Problem.

00:03:09: der AI Act Lässt das offen.

00:03:13: Und das Ministerium entscheidet selbst, ob es sich hierbei um ein Hochrisiko handelt oder eben nicht?

00:03:20: Die einzige Aufgabe des Ministeriums hat ist das zu dokumentieren und das Ministerjum hat sich entschieden Nein!

00:03:27: Es ist kein Hochrisikob.

00:03:30: Also rechtlich gesehen hat der Minister und sein Ministerium nichts falsch gemacht.

00:03:38: Warum wird das in der Zeitung jetzt so angeprangert Als hätten die was falsch gemacht, als wäre es ein unerhörtes Vorgehen.

00:03:47: Also was mache ich?

00:03:50: Ich beginne eine Diskussion mit meiner KI.

00:03:53: in diesem Falle nutzte ich Mistral oder der Chatbot heißt Wipe und ich lasse dich mal an meinen Erkenntnissen aus dieser Diskussion Mit meinem Wipe teilhaben.

00:04:16: Zunächst wollte ich also mit der Hilfe von KI verstehen, was die Psychologie dahinter ist.

00:04:23: Warum ist das Thema in der Welt oder in der Zeit eine Schlagzeile wert?

00:04:29: Sind wir im Sommerloch und brauchen künstliche Aufreger?

00:04:32: Oder ist da etwas dran?

00:04:35: Ist das Problem wirklich der Einsatz der KI?

00:04:40: Oder is es nicht veröffentlichen dass ein Text mithilfe von KI erstellt wurde?

00:04:47: Die KI meinte dazu Es geht nicht um die KI, es geht um uns Menschen.

00:04:53: Es geht um drei Dinge, die uns

00:04:55: stören.".

00:04:58: Ich finde das sehr lustig wenn die KI von wir spricht und damit Menschen meint!

00:05:04: Aber ich lasse dich gerne daran teilhaben was die KI meint, was die drei Dinge sind, die USS stören Das Gefühl betrogen zu werden.

00:05:16: Wir gehen davon aus dass Politikerinnen selbst denken Wenn eine KI im Spiel ist, dann fühlt sich das an als würde jemand abschreiben.

00:05:26: Und wir sind die Lehrerinnen, die den Betrugsversuch entlarven.

00:05:33: Es geht aber auch um die Angst vor Kontrollverlust.

00:05:37: Die KI arbeitet ausschließlich mit Mustern Mit Wahrscheinlichkeitsrechnungen Aber welche Muster liegen dem zugrunde?

00:05:47: und wenn ein Minister KI nutzt Dann weiß er vielleicht gar nicht selber Woher das Wissen kommt?

00:05:57: Und das macht uns unsicher, wer kontrolliert denn eigentlich wen.

00:06:04: Und als Drittes kommt ein Aspekt der Heuchelei dazu!

00:06:09: Denn wir alle nutzen KI in Suchmaschinen und Übersetzungs-Tools – in den Social Media.

00:06:17: Aber sobald es um die Politik geht wird es plötzlich zum Skandal.

00:06:21: Warum?

00:06:22: Weil wir von der Politik erwarten dass sie besser ist als wir selbst.

00:06:28: Soweit die Aussagen von Vibe.

00:06:33: Also tröseln wir das nochmal auf, für mich erklärt.

00:06:37: Rechtlich hat das Ministerium die Nutzung von KI bewertet und gemäß dem EU-AI Act als minimales Risiko eingeordnet.

00:06:47: – eine Deklarierung des Einsatzes von KI bei den Erstellen der Texte ist also nicht nötig!

00:06:56: Es bleibt aber jedoch die ethische Frage….

00:07:00: hätte er es dennoch kennzeichnen sollen.

00:07:04: Meine leihenhafte rechtliche Einwertung, nein!

00:07:07: Denn der AI-Akt verlangt keine Kennzeichnung so lange das Ministerium die KI nicht als Hochrisiko einstuft und die Texte von einem Menschen geprüft und freigegeben werden.

00:07:21: Die KI sagt ethisch?

00:07:24: Ja absolut Also diskutiere ich mit Vibe weiter.

00:07:28: Was sind die ethischen Voraussetzungen oder Anforderungen für die Transparenz, das KI zum Erstellen von Texten eingesetzt wurde.

00:07:39: – Transparens schafft Vertrauen, sagt Weib.

00:07:44: Wenn der Minister gesagt hätte ja ich nutze die KI für Entwürfe aber der finale Text ist von mir geprüft dann gäbe es keine Debatte.

00:07:55: Ich sehe das anders Die Debatte wäre vielleicht nicht so groß oder Der Aufreger würde nicht so lange laufen Aber ich glaube, wir würden uns immer noch aufregen.

00:08:08: Die KI meint?

00:08:09: Es geht um die Botschaft!

00:08:11: Wenn ein Digitalminister KI nutzt ohne es zu sagen, dann wirkt das so als würde er gegen seine eigenen Regeln spreisstoßen oder er würde sie nicht ernst nehmen.

00:08:25: Ich meine vielleicht haben die Artikel-Schreiber der Zeitungen ihren Aufklärungsauftrag vergessen denn es wird als Skandal hingestellt was er rechtlich gar nicht ist, aber darüber erklären sie sich nicht.

00:08:40: Sie erklären auch überhaupt nicht die Risikoklassen!

00:08:43: Sie gehen nur darauf ein, dass sie sich betrogen fühlen oder das ein Betrug aufgefallen ist weil ein Minister Texte verwendet hat, die durch KI generiert wurden und es nicht gesagt hat.

00:08:58: Weib sagt Wir leben in einer Welt, in der KI immer mächtiger wird.

00:09:03: Wenn wir jetzt nicht anfangen Transparenz zu sein, dann gewöhnen wir uns daran, dass die Maschinen im Hintergrund entscheiden und wir merken es nicht

00:09:12: einmal.".

00:09:14: Daraufhin sage ich,"Das Kind ist doch schon an den Brunnen gefallen!

00:09:18: Wir haben es uns doch jetzt schon bequem

00:09:20: gemacht!".

00:09:22: Und dann komme ich in meiner Diskussion mit Vibe zur dem Haken der Forderung nach Transparens.

00:09:30: Denn was bedeutet eine gute Kennzeichnung?

00:09:33: Hilft es zu sagen, dieser Text wurde mithilfe von KI erstellt?

00:09:38: Bringt das dir etwas?

00:09:39: Bringt das mir etwas?

00:09:41: Würde es irgendjemanden nutzen?

00:09:45: oder müsste es eigentlich heißen Dieser Text wurde mit folgendem KI-Tool erster entworfen.

00:09:52: Die KI wurde mit Folgender Datenquelle trainiert Der finale Text wurde von folgender Personen geprüft und freigegeben Okay, wir hätten mehr Möglichkeiten den Text und die Qualität einzuordnen.

00:10:07: Wir würden wissen welche Grundlage die KI genutzt hat.

00:10:12: Haben wir eben nicht!

00:10:13: Denn die KI-Trainingsdaten sind sehr komplex – und die meisten KI-Modelle geben das gar nicht offen.

00:10:20: Also die Datenquelle Internetdaten bis zum Jahr zwanzig?

00:10:25: Als Trainingsdarten?

00:10:27: Was sagen sie denn

00:10:28: aus?!

00:10:29: Welche Internetdate wurden welche Filter eingesetzt?

00:10:32: Wie wurde versucht, Bayes zu verhindern und aus welchen Bereichen wurden die Informationen des Internets genutzt.

00:10:41: Und genau dann beginnt es kompliziert zu werden und umständlich – und um das alles zu erklären müsste jemand überhaupt verstehen was da passiert.

00:10:49: also würde es wahrscheinlich nicht helfen!

00:10:54: Wenn wir jetzt jeden KI-Einsatz Und sei es nur, dass die KI im Hintergrund wie hier eine Diskussion geführt hat mit mir und ich dann entschieden habe was davon Ich dir erzähle.

00:11:06: Wenn wir das jetzt alles kennzeichnen Dann wird es so normal Dass es niemanden mehr interessiert Wie die Cookies auf den Webseiten.

00:11:15: Am Anfang haben wir uns darüber fürchterlich aufgeregt.

00:11:18: Und heute wenn wir die Seite öffnen wollen sagen wir akzeptieren.

00:11:24: Vielleicht sind wir auch noch so aufgeklärt, dass wir sagen nur notwendige Cookies akzeptieren.

00:11:30: Aber ich weiß nicht.

00:11:32: beobachte dich mal selber bei bestimmten Inhalten ist es mir egal.

00:11:36: Ich lösche danach die Cash.

00:11:39: Also würde uns folgende Transparenzmachung vielleicht besser helfen Wir nutzen KI für Entwürfe weil sie uns hilft schneller zu arbeiten!

00:11:49: Wir prüfen den Text manuell Weil die KI Fehler machen kann Genau wie Menschen.

00:11:55: Hier ist unser Prüfprozess.

00:11:57: Und dann gibt es einen Link zu einem standardisierten Prozess, wie ein KI-generierter Text gelesen, geprüft wird und schließlich freigegeben wird.

00:12:07: Wäre das eine hilfreiche Kennzeichnung?

00:12:11: Würde das weniger Aufregung verursachen?

00:12:23: Um es für dich spannend zu machen und mir die Arbeit leichter zu machen gebe ich dir den weiteren Teil der Diskussion, über die wichtige Frage, was uns diese Empörung über die unangezeigte KI-Nutzung eigentlich über uns auch sagt.

00:12:45: In der nächsten Folge weiter!

00:13:04: von dir entschieden wurde.

00:13:08: Bis zur nächsten Folge, tschüss!