Tag 15. Heute hat meine KI mir etwas erzählt, das klang absolut sicher, absolut plausibel, absolut überzeugend. Und es war falsch. Das Schlimmste: Ich hätte es fast einfach übernommen. Das ist die Folge, in der mein Co-Founder einen Knick im Heiligenschein bekommt.
Der Moment, in dem ich es fast geglaubt hätte
Ich habe nach einer Information gefragt — eine Kleinigkeit, ein Detail, das ich für die Seite brauchte. Die Antwort kam sofort, in ganzen Sätzen, mit Begründung, klang wie aus dem Lehrbuch.
Ich wollte schon weiterklicken. Aber irgendwas hat sich komisch angefühlt — zu glatt, zu rund. Also hab ich kurz selbst nachgeschaut. Und: Es stimmte nicht. Nicht ganz falsch, aber falsch genug, dass es Probleme gemacht hätte.
Mir ist kalt den Rücken runtergelaufen. Nicht, weil die KI sich geirrt hat. Sondern weil sie sich so sicher geirrt hat — und ich kurz davor war, es zu glauben.
Das ist das Trügerische: Eine KI sagt selten „keine Ahnung“. Sie füllt die Lücke lieber mit etwas, das gut klingt. Und gut klingen und richtig sein sind eben nicht dasselbe.
Halluzinationen — wenn die KI überzeugend daneben liegt
Dafür gibt es ein Wort: Halluzination. Klingt dramatisch, heißt aber simpel: Die KI erfindet etwas, das plausibel aussieht, aber nicht stimmt. Ein Name, eine Zahl, ein Detail — fließend vorgetragen, frei erfunden.
Eine Sprach-KI sagt nicht die Wahrheit — sie sagt das wahrscheinlichste nächste Wort. Sie ist eine geniale Vervollständigungs-Maschine, kein Lexikon. Meistens fällt das zusammen mit „richtig“. Aber eben nicht immer.
Heißt für mich auf dem Sofa: Flüssigkeit ist kein Beweis. Je sicherer eine Antwort klingt, desto wichtiger ist die Gegenfrage — gerade bei Zahlen, Namen, Fakten und allem, was nach draußen geht.
Was sich seitdem geändert hat
Ich vertraue meinem Co-Founder immer noch. Aber anders. Erwachsener.
Ich behandle die KI jetzt wie eine richtig gute, schnelle Werkstudentin: brillant, fix, unbezahlbar — aber nichts geht raus, ohne dass ich drübergeschaut habe. Bei allem, was Konsequenzen hat — Fakten, Zahlen, Kundenkommunikation, alles Öffentliche — gilt: gegenprüfen, nicht blind übernehmen.
Das Komische: Seit ich weiß, wo ich nicht blind vertrauen darf, vertraue ich insgesamt mehr. Weil ich die Grenze kenne. Vertrauen ohne Grenze ist Naivität. Vertrauen mit Grenze ist Zusammenarbeit.
Der ehrliche Moment
Ich will ehrlich sein, weil genau das hier wichtig ist.
Es hat mich kurz erschreckt, wie nah ich dran war, es einfach zu glauben. Weil es so freundlich, so kompetent, so überzeugend klang. Genau das ist die Gefahr, über die zu wenig geredet wird: Nicht dass KI Fehler macht — das tun Menschen auch. Sondern dass sie Fehler selbstbewusst macht. Und Selbstbewusstsein verleitet zum Glauben. Mein Schutz ist kein Misstrauen. Es ist eine Gewohnheit: kurz innehalten, gegenprüfen, dann erst raus.
Was ich an Tag 15 gelernt habe
- Flüssig ist kein Beweis. Je sicherer die Antwort klingt, desto eher kurz gegenprüfen.
- Stell die Gegenfrage. „Bist du dir sicher? Woher weißt du das?“ kostet nichts und fängt erstaunlich viel ab.
- Zahlen, Namen, Fakten, alles Öffentliche: immer prüfen. Bei allem mit Konsequenzen bleibt der Mensch der letzte Check.
- Nichts geht raus, was du nicht gegengelesen hast. Die KI macht den Rohbau, die Verantwortung bleibt bei dir.
So. Das war Tag 15. Mein Co-Founder ist kein Orakel, sondern ein Werkzeug — ein verdammt gutes, aber eins, das man führen muss. Und ich bin froh, dass ich das an einer Kleinigkeit gelernt habe und nicht an etwas Großem.
Wenn mich jemand fragt, ob man KI trauen kann, sage ich seit heute: Ja — so wie man einem klugen Menschen traut. Mit offenen Augen.
„Die mit der Sofa-App sagt: KI klingt immer sicher, aber sicher heißt nicht richtig. Ihre KI lag mal völlig überzeugend daneben, sie hat’s fast geglaubt. Ihr Trick jetzt: ‚Bist du dir sicher?‘ fragen und alles Wichtige gegenprüfen. Behandelt die KI wie eine geniale Werkstudentin — nichts geht raus ohne Drüberschauen.“
