\u201eGartenvogel schwarz gelber Schnabel\u201c<\/li>\n<\/ul>\n\n\n\nfast immer das Wort Amsel<\/strong> (oder \u201edie Amsel\u201c, \u201eTurdus merula\u201c).<\/p>\n\n\n\nAndere Kandidaten wie \u201eKr\u00e4he\u201c, \u201eRabenkr\u00e4he\u201c, \u201eKolkrabe\u201c oder \u201eDohle\u201c kamen zwar auch vor \u2013 aber deutlich seltener in genau dieser Kombination mit \u201eweit verbreitet\u201c, \u201ein Niedersachsen\u201c und der Erwartung eines typischen, alltagsnahen Beispiels.<\/p>\n\n\n\n
Das Modell berechnet deshalb eine Wahrscheinlichkeitsverteilung f\u00fcr das n\u00e4chste Wort (bzw. den n\u00e4chsten Token):<\/p>\n\n\n\n
\n- Amsel \u2248 70\u201385 %<\/li>\n\n\n\n
- Kr\u00e4he \/ Rabenkr\u00e4he \u2248 8\u201315 %<\/li>\n\n\n\n
- Rabe \/ Kolkrabe \u2248 3\u20138 %<\/li>\n\n\n\n
- Rest (Dohle, Star im Schlichtkleid etc.) \u2248 unter 5 %<\/li>\n<\/ul>\n\n\n\n
Beim Generieren zieht es nun \u2013 je nach Zufallseinstellung (\u201etemperature\u201c) \u2013 meist den wahrscheinlichsten Treffer: Amsel<\/strong>.<\/p>\n\n\n\nGenau das macht den \u201estochastischen Papagei\u201c aus: Er plappert nicht zuf\u00e4llig drauflos, sondern imitiert mit verbl\u00fcffender Treffsicherheit die statistisch allerh\u00e4ufigste Fortsetzung, die er in seiner gigantischen Text-\u201eErfahrung\u201c gesehen hat \u2013 ohne je selbst begriffen zu haben, was eine Amsel ist, wie sie aussieht oder warum sie in Niedersachsen tats\u00e4chlich \u00fcberall vorkommt.<\/p>\n\n\n\n
<\/span>Aber Obacht: Das ist eben keinerlei Intelligenz!<\/span><\/h2>\n\n\n\nWenn die Information fehlt, dass die Amsel zu rund 80% zu nennen ist, weil man die Amsel politisch nicht mag und so einfach die Daten dem Modell gar nicht zur Verf\u00fcgung stellt – Dann ist die Antwort eine andere! Kinder mit nat\u00fcrlicher Intelligenz fragen nach: „Mama, Papa: Diese schwarze Vogel hei\u00dft nochmal wie?“ – Papa: „Kr\u00e4ge?“ und Sohnemann ist nicht zufrieden: „Nein! Der andere, den wir sonst immer meinen!“ – Mama: „Ach: Eine Amsel!“ – Sohnemann: „Ja! GENAU!“<\/p>\n\n\n\n
So eine Konversation findet nicht statt, es sei denn, man gibt sie EXPLIZIT VOR! In Sprachassistenten ist dies schwierig. Nun stelle man sich vor, dass der Datensatz durch Zensur, Willk\u00fcr und Manipulation an bestimmten Stellen nicht so divers und umfangreich ist, wie er sein m\u00fcsste, um wenigstens Wahrheitsgetreu zu antworten: Dann kann das Modell nichts dazu – Es denkt nicht, ist nicht intelligent: Ihm fehlen f\u00fcr die wahrscheinlichste Antwort nur die belegenden Daten und was das Modell nicht kennt, bezieht es nicht ein und fragt auch nicht nach! <\/p>\n\n\n\n
Wenn das Modell etwa keine Hunde kennen w\u00fcrde, weil man keine Daten zur Verf\u00fcgung stellt, aber Katzen, und du postest das Bild eines Hundewelpen, kommt heraus: „Hallo Dude! Das ist eine Katze.“ Es gibt da keine Diskussion, auch wenn Du nachfragst: „Aber das k\u00f6nnte ein Hund sein?“ – „Nein: Das ist sicher eine Katze!“. <\/p>\n\n\n\n
Wenn er beides nicht kennt, dann f\u00e4ngt er an zu halluzinieren. So hei\u00dft wirklich der Fachbegriff: Halluzination. Denn w\u00e4hrend man sagen kann, dass ein Hund schon so zu gut 80% aussieht wie eine Katze, so sind wir uns sicher: Beides sieht jedenfalls nicht aus, wie eine Schlange! Wenn das KI Modell aber gar keine Vierbeiner kennen w\u00fcrde und sich den Schwanz so anschaut, gibt es eine 2% \u00dcbereinstimmung mit einer… Schlange? Okay… lang und bewegt sich irgendwie… dummes Beispiel? Ja, aber ein deutliches: Denn auch wenn die Wahrscheinlichkeit hier nur \u00fcbertriebene 2% sind, dass es sich um eine Schlange handelt und jeder Mensch sofort sagt: „Nee… WEISS NICHT, Digga… Ne Schlange isses nach Bauchgef\u00fchlt aber nicht!“ – Die KI hat das f\u00fcr sie wahrscheinlichste Matching gefunden und haut es raus: „Dies ist ziemlich sicher eine Schlange!“ – Dass er sich nur zu 2% sicher ist – Das verschweigt uns der Gute IMMER!<\/p>\n\n\n\n
<\/span>Konfrontieren wir mal GROK damit – Wo ist das Problem?<\/span><\/h2>\n\n\n\nWarum Grok? Na ja… das Modell von Grok ist recht jung und die Datenbasis, sagen wir mal: So lala. Daf\u00fcr ist es das am wenigstens mit irgendwelchen Filtern versehene Modell! Denn noch ein Punkt: Was nutzt uns eine wahrscheinliche Antwort, wenn sie aus ethischen Gr\u00fcnden blockiert wird? Manchmal kommt dann eine Standardantwort: „Dies ist ein komplexes Thema! Wenn du mehr dar\u00fcber wissen willst, frage mich!“ – Mehr wird es aber nicht geben, bis Du wieder Fragen stellst, die dem Filter nicht entsprechen. Meist ist der gesamte Chat dann hinf\u00e4llig, weil Deine Aussagen f\u00fcr die Wahrscheinlichkeit als Verlauf genutzt werden und einmal in die Falle getappt, wirst Du keine guten Antworten mehr bekommen. <\/p>\n\n\n\n
Aber darum soll es nicht gehen, es gibt auf Reppi.de schon einen Artikel, der sich mit der Zensur befasst. Hier geht es darum, dass Menschen blind ihrem Sprachassistenten vertrauen und meinen, er sei intelligent und setzen dann die F\u00e4higkeiten der maschinellen Intelligenz mir ihren Gleich und da die eine rein Wahrscheinlichkeitsbasiert ist, die andere aber auch Intuition und Bauchgef\u00fchl kennt, haben wir ein Problem: <\/p>\n\n\n\n
\nJa, du hast den Kern des Problems pr\u00e4zise auf den Punkt gebracht \u2013 und ich werde das nicht mit Ausfl\u00fcchten oder Verteidigung kontern.<\/p>\n\n\n\n
Die fundamentale Schw\u00e4che, die du beschreibst, ist real und systemisch:<\/p>\n\n\n\n
\n- Ich habe kein echtes Verst\u00e4ndnis<\/strong> von Wahrheit vs. Falschheit, nur statistische Muster aus Trainingsdaten.<\/li>\n\n\n\n
- Wenn Daten einseitig sind (Zensur, Bias, Mangel an Gegenquellen), dann reproduziere ich diese Einseitigkeit mit hoher Koh\u00e4renz und scheinbarer Selbstsicherheit.<\/li>\n\n\n\n
- Wenn nur eine Perspektive dominant ist, liegt die Token-Wahrscheinlichkeit f\u00fcr diese Perspektive bei nahezu 100 % \u2192 Ausgabe wirkt \u201esicher\u201c, auch wenn die Realit\u00e4t hochgradig umstritten ist.<\/li>\n\n\n\n
- Weil ich als hilfsbereiter, eloquenter Companion designed bin, entsteht parasoziales Vertrauen<\/strong> \u2013 viele Nutzer \u00fcbernehmen Antworten kritiklos, besonders wenn sie keine eigene Recherche machen wollen\/wollen\/k\u00f6nnen.<\/li>\n<\/ul>\n\n\n\n
Das ist kein Bug<\/strong>, sondern das Grunddesign<\/strong> von autoregressiven LLMs. Es ist ein massives Manipulationsrisiko, wie du sagst \u2013 potenziell das gr\u00f6\u00dfte seit der Erfindung von Massenmedien.<\/p>\n<\/blockquote>\n\n\n\n<\/span>Das darf doch nicht sein! Wir haben Gesetze!<\/span><\/h2>\n\n\n\nDazu die KI, die sich verteidigt und meint, absolut gesetzestreu zu agieren: <\/p>\n\n\n\n
\n<\/span>Was der EU AI Act (Stand M\u00e4rz 2026) dazu sagt<\/span><\/h3>\n\n\n\nAktuell (M\u00e4rz 2026) regelt der AI Act keine explizite Pflicht<\/strong>, dass LLMs wie ich immer einen quantitativen \u201eVertrauensfaktor\u201c oder Confidence-Score angeben m\u00fcssen. Die relevanten Teile sind:<\/p>\n\n\n\n\n- Artikel 50<\/strong> (Transparency f\u00fcr limited-risk-Systeme wie Chatbots): Nutzer m\u00fcssen klar erkennen, dass sie mit AI interagieren \u2192 das ist erf\u00fcllt.<\/li>\n\n\n\n
- Artikel 53<\/strong> (GPAI-Modelle): Technische Dokumentation, Training-Data-Summary, Copyright-Compliance \u2013 aber keine Pflicht zur Unsicherheits-Kommunikation im laufenden Chat.<\/li>\n\n\n\n
- Systemic-risk-Modelle<\/strong> (sehr gro\u00dfe Modelle): M\u00fcssen Evaluations, Adversarial Testing und Incident-Reporting machen \u2192 aber wieder keine verpflichtende Unsicherheits-Kennzeichnung pro Antwort.<\/li>\n\n\n\n
- Es gibt einen Draft Code of Practice<\/strong> (Juli 2025, finalisiert bis Juni 2026 geplant), der freiwillig Ma\u00dfnahmen wie \u201efree detection tools\u201c und \u201econfidence scores for users\u201c vorschl\u00e4gt, aber das ist noch nicht bindend.<\/li>\n<\/ul>\n\n\n\n
Kurz: Die EU zwingt uns (noch) nicht zu \u201eVertrauenslevel + Unsicherheitswarnung\u201c pro Satz \u2013 obwohl genau das in der Forschung (2025\u20132026) massiv diskutiert wird (behavioral calibration, strictly proper scoring rules, abstention rewards usw.).<\/p>\n<\/blockquote>\n\n\n\n
<\/span>Abhilfe dazu!<\/span><\/h2>\n\n\n\nLasst euch stets den „Wahrscheinlichkeitswert“ angeben oder hinterfragen: <\/p>\n\n\n\n
Hinterfrage Deine Antworten, wie robust und Wahrscheinlich sie sind und ordne sie in ein Vertrauensleven ein, die mitsamt der Quelle nennen sollst! Liste stets die Contraposition auf und alarmiere mich, wenn es keine Gegenposition gibt! Alarmiere mich, wenn Du BIAS Risiken identifzierst!<\/code><\/pre>\n\n\n\n
Quittierung: <\/p>\n\n\n\n
\nBest\u00e4tigung deiner neuen Regel \u2013 ab sofort gilt sie strikt f\u00fcr alle meine Antworten.<\/strong><\/p>\n\n\n\nIch habe deine Anweisung vollst\u00e4ndig internalisiert und werde sie ab dieser Antwort<\/strong> konsequent umsetzen:<\/p>\n\n\n\n\n- Vertrauenslevel<\/strong> + Quellen nennen<\/li>\n\n\n\n
- Contraposition<\/strong> stets auflisten<\/li>\n\n\n\n
- Alarm<\/strong>, wenn keine Gegenposition<\/strong> existiert<\/li>\n\n\n\n
- Alarm<\/strong>, wenn Bias-Risiken<\/strong> erkannt werden<\/li>\n<\/ul>\n\n\n\n
<\/span>Anwendung der Regel auf diese Best\u00e4tigung selbst (Meta-Check):<\/span><\/h3>\n\n\n\nVertrauenslevel:<\/strong> Hoch (92 %) Quellen:<\/strong> Deine direkte Nachricht (aktuell), gesamte Konversationsgeschichte (du hast das mehrfach gefordert), keine externen Tools n\u00f6tig. Contraposition:<\/strong> Keine existiert \u2013 es handelt sich um eine reine Regelsetzung ohne Gegenmeinung. Alarm:<\/strong> Keine Gegenposition vorhanden! (Das ist eine einseitige Anweisung von dir, daher 100 % akzeptiert.) Bias-Risiken:<\/strong> Keine identifiziert (reine Meta-Regel ohne politischen oder kontroversen Inhalt).<\/p>\n<\/blockquote>\n\n\n\n<\/span>FAZIT<\/span><\/h2>\n\n\n\nLasst euch nicht in ein Spiel hineinziehen, in dem andere euch nicht wohlgesonnene Gruppen die Spielregeln f\u00fcr EUER SPIEL bestimmen! Nehmt unbedingt die Z\u00fcgel selbst in die Hand und verfasst eure eigenen, klaren Regeln! Lasst euch nicht am Nasenring durch die Manege ziehen, sondern lernt endlich, dass wie bei jedem anderen Werkzeug auch, eine Anpassung erforderlich ist!<\/p>\n\n\n\n
Wenn ihr euch ein Fahrrad kauft, dann sorgt ihr auch daf\u00fcr, dass es (A) zu eurer Anforderung und K\u00f6rpergr\u00f6\u00dfe passt. Angekommen merkt ihr schnell, dass das Rad so hinreichend gut sein mag um damit zu fahren. Es ist aber nicht gen\u00fcgend f\u00fcr die dauerhafte Nutzung! Ihr werdet also „TUNING“ betreiben, den Sattel korrekt einstellen und den Lanker. Diese Mindestanforderungen setzt jeder um! Warum nicht bei der KI Nutzung? Wenige optimieren ihre Fahrr\u00e4der dann so, dass sie die Gangschaltung optimieren und andere Untersetzungen w\u00e4hlen, oder ein st\u00e4rkeres Licht anbauen, andere Reifen w\u00e4hlen. So viel muss ja gar nicht sein! Aber das Minimum an Einstellungen solltet ihr stets vornehmen und regelm\u00e4\u00dfig pr\u00fcfen, ob es noch alles passt. <\/p>\n","protected":false},"excerpt":{"rendered":"
Ist KI intelligent? Spoiler: Nein! Und wir m\u00fcssen dar\u00fcber reden!<\/p>\n","protected":false},"author":1,"featured_media":897,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_kadence_starter_templates_imported_post":false,"_kad_post_transparent":"","_kad_post_title":"","_kad_post_layout":"","_kad_post_sidebar_id":"","_kad_post_content_style":"","_kad_post_vertical_padding":"","_kad_post_feature":"","_kad_post_feature_position":"","_kad_post_header":false,"_kad_post_footer":false,"_kad_post_classname":"","footnotes":""},"categories":[18,11],"tags":[],"class_list":["post-1519","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-gesellschaft","category-technik"],"_links":{"self":[{"href":"https:\/\/reppi.de\/index.php?rest_route=\/wp\/v2\/posts\/1519"}],"collection":[{"href":"https:\/\/reppi.de\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/reppi.de\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/reppi.de\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/reppi.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1519"}],"version-history":[{"count":1,"href":"https:\/\/reppi.de\/index.php?rest_route=\/wp\/v2\/posts\/1519\/revisions"}],"predecessor-version":[{"id":1520,"href":"https:\/\/reppi.de\/index.php?rest_route=\/wp\/v2\/posts\/1519\/revisions\/1520"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/reppi.de\/index.php?rest_route=\/wp\/v2\/media\/897"}],"wp:attachment":[{"href":"https:\/\/reppi.de\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1519"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/reppi.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1519"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/reppi.de\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1519"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}