Zum richtigen Umgang mit einer KI

Zum richtigen Umgang mit einer KI

Neulich las ich den Satz: „Der richtige Umgang mit einer KI will gelernt sein.“ Dem kann ich völlig zustimmen, aber was bedeutet das konkret? Wie sieht (m)ein Umgang mit KI aktuell aus, und was will dabei von mir gelernt sein, also noch nicht beherrscht, noch nicht routiniert und vor allem nicht gedankenlos ausgeführt? Oder gilt hier: gelernt ist gelernt! Und ich lehne mich zurück? Ich glaube nicht, denn der zitierte Satz fährt fort: „... - allein schon wegen der Halluzinationen, die sie gerne erzeugt.“

Mir scheint, es ist nicht wirklich leicht, den „richtigen Umgang mit einer KI“ zu beschreiben. Allgemein besehen gilt natürlich, dass jedes Werkzeug zur Waffe gemacht werden kann, und dass daran nicht das Werkzeug „schuld“ ist, sondern das Benutzende. Werkzeuggebrauch, auf den Homöo Sabbelens gerne so stolz ist, kann offenbar nicht wirklich getrennt werden von Waffengebrauch. Vielleicht gibt es Ausnahmen, das weiß ich jetzt nicht. (Atombomben waren nie ein Werkzeug, wurden von Anfang an als Waffen gebaut, und eine zivile Verwendung als Werkzeug scheint nicht in Aussicht, außer vielleicht bei Science Fiction, in der ein Asteroid zerstört werden soll, bevor dieser die Erde massiv beschädigen kann.)

Waffengebrauch ist aber nochmal etwas anderes, als durch dummen Werkzeuggebrauch sich selbst oder andere zu verletzen. Ich denke, wir sprechen hier von letzterem: mit KI so schusselig umzugehen, dass Schaden entsteht. Beziehungsweise zu lernen, genau das zu vermeiden. Was also gilt es zu vermeiden? Die KI-Halluzinationen wurden schon angesprochen; hier gilt es zu vermeiden, auf diese sozusagen herein zu fallen, also etwas für echte Informationen zu halten, wo der KI lediglich darum zu tun war, Lücken in ihrem Text zu schließen, ohne auf Informationen zurück greifen zu können – und darum mit Wahrscheinlichkeiten zu operieren, nicht mit Wahrscheinlichkeiten von Tatsachen, sondern von Wortfolgen: Wo dieses Wort auftauchte, folgte meistens jenes. Um diese Argumentationskette zu untermauern, bräuchte man eigentlich folgende Fakten – also werden die mal kurz postuliert und mit erfundenen Quellen glaubhaft gemacht.

Bei einem Menschen würde man hier nicht von „Halluzinationen“ sprechen, oder wo doch, würde man anraten, diesen Menschen in psychiatrische Behandlung zu stecken. Aber ich will diesen Aspekt des Themas gar nicht weiter vertiefen. Es soll dabei bleiben, was sowieso schon im Disclaimer unter KI-Outputs steht: „Eine KI kann Fehler machen.“ (Auch das ist natürlich etwas schlampig ausgedrückt, denn eine KI kann keine Fehler „machen“, sie kann nur fehlerhafte Outputs anbieten, so dass der Fehler bei dem Empfänger hängen bleibt, der den Output einer KI ungeprüft übernimmt.)

Hier hätten wir also ein erstes Detail gefunden: jeden Output einer KI zu überprüfen, das gehört zum handwerklichen Rüstzeug des gelernten Umgangs mit einer KI. Aber wozu brauche ich eine Informationsquelle, die ich ständig überprüfen muss? Antwort: Weil das nichts besonderes ist, denn ich muss eigentlich jede Informationsqelle kritisch aufnehmen und die Behauptungen überprüfen, so gut ich kann. Da sind auch Wikipedia oder die Encyclopedia Britannica keine Ausnahmen. Wenn ich zu bequem bin oder es zu eilig habe, um die erhaltenen Informationen noch einmal gegen andere Informationsqellen zu prüfen, dann nehme ich entweder meine Recherche nicht ernst oder mich selbst nicht, könnte ich sagen. Das wäre beides zulässig, aber bedauerlich.

Das zweite Detail scheint also so auszusehen, dass gelernter Umgang mit einer KI wie mit jeder Informationsqelle aus der Komfortzone heraus holt. Bleibe ich hingegen in der Komfortzone, verzichte ich auf Überprüfung, lasse ich mich einwickeln von eloquent formulierten Texten, dann verfahre ich ungelernt. Amateurhaft. Vielleicht sogar unverantwortlich.

Das dritte und vierte Detail deuten sich hier an: Ich muss denken, mein Denken nicht nur behalten, sondern sogar schärfen, und ich muss Verantwortung übernehmen. Mir selbst gegenüber, solange ich bei mir selbst bleibe, und anderen gegenüber, sofern ich Informationen weiter gebe.

Und jetzt kommt die Gretchenfrage: Wie hältst du’s mit diesen Details? Und wenn ja, wie viele außer dir und mir noch? Die Mehrheit? Eine kleine, aber dennoch entscheidende Minderheit? Ich kann es nicht wirklich einschätzen, aber da bin ich sehr skeptisch. Sowohl gegenüber der Mehrheit, denn es sieht eher so aus (gerade hier auf dem Steem gut zu beobachten), dass KI in großem Umfang gedankenlos benutzt wird, um bequem Texte zu generieren, dabei gepfiffen auf deren Inhalt oder Zuverlässigkeit. Von Schulen und Universitäten hört man zunehmend ähnliches. Das Verlagswesen, früher eine Schaltstelle für Qualitätskontrolle von Texten, wird unterlaufen und „die Welt“ überschwemmt mit KI-gebastelten Geschichten bis hin zu Ratgebern. Wessen Welt? Meine nicht. Doch wie sieht es aus für meine Enkelkinder?

Zum Schluss:
Wozu wurde KI überhaupt erfunden? Wer investiert in diese Erfindung, und warum? Geht es dabei um das Lindern von Leid, um den Kampf gegen Hunger und Kriege, um das Abwenden von Tod und millionenfachem Elend? Kapitalisten, also Geldgeber, haben Wohlstand immer wieder billigend in Kauf genommen, aber wann wäre er je ihr Hauptziel gewesen?

Ich habe jetzt nicht ausreichend zwischen KIs differenziert, sondern im wesentlichen LLMs im Sinn gehabt. Ich selbst benutze sie, um zu bestimmten Fragen zu recherchieren, und meine Erfahrung ist dahingehend, dass präzisere Fragen bessere Outputs generieren. Insofern hilft mir KI, helfen mir LLMS auch beim eigenen Fragen-Lernen. Wo für mich der Weg zwischen Frage und Antwort kürzer wird, nutze ich das, um die Frage zu vertiefen. Als Antwort anerkenne ich jedoch nicht den Output eines LLM. Die Antwort ist das, was ich persönlich finde. Und in eine neue Frage verwandle.

Ganz zum Schluss:
Die sogenannten Halluzinationen erscheinen mir als das geringste KI-Problem. Erstens gibt es hübsche Regelwerke oder Handlungsempfehlungen für die Gestaltung von solchen Prompts, die Halluzinationen zu vermeiden helfen, indem z.B. im Output auch ein „keine Ahnung“ zugelassen wird. Und zweitens sind sie bei einiger Vorbildung meist zu erkennen anhand von Widersprüchen. Das eigentliche Problem entsteht erst dann, wenn ich versuchen würde (was ich nicht tue), meine bescheidenen gestalterischen Fähigkeiten von KI-Outputs aufmotzen zu lassen. Damit würde ich mich vom Urheber zum Verursacher degradieren, vom Autor zum Mündel. Falls ich das täte, wäre es nicht schlimm, gesamtgesellschaftlich gesehen. Geschieht es jedoch millionenfach, dann wird es durchaus relevant.

Artist: unknown
Excerpt from Artwork: Wolfgang Kroke