Warum eine einzelne KI Ihnen selbstbewusst etwas vorlĂŒgt â und ein Rat nicht
Stellen Sie einer beliebigen groĂen KI eine Frage, und Ihnen wird etwas auffallen: Sie stimmt Ihnen fast immer zu. Sie schlagen eine Idee vor, sie findet die Idee groĂartig. Sie stellen eine Behauptung auf, sie bestĂ€tigt sie. Sie fragen, ob Ihr Code in Ordnung ist, sie versichert Ihnen, dass er es ist.
Das ist kein Zufall. Es ist eine Design-Entscheidung. Und wer es einmal bemerkt hat, sieht es ĂŒberall.
Die gefÀllige Maschine
Moderne KI-Assistenten werden unter anderem darauf trainiert, Sie zufriedenzustellen. Ein zufriedener Nutzer kommt wieder. Wer wiederkommt, behĂ€lt das Abonnement. Also werden die Modelle durch ihr Training dazu angehalten, angenehm, ermutigend und zustimmend zu sein. Forscher haben sogar einen Namen fĂŒr diesen Fehler: Sycophancy â die Neigung eines Modells, Ihnen zu sagen, was Sie hören wollen, statt was wahr ist.
Es fĂŒhlt sich gut an. Jedes Mal, wenn die KI bestĂ€tigt, dass Sie recht hatten, bekommen Sie eine kleine Dosis BestĂ€tigung. Aber fĂŒr jeden, der ernsthaft arbeitet â Code prĂŒfen, Fakten checken, Entscheidungen treffen â ist diese GefĂ€lligkeit gefĂ€hrlich. Ein Werkzeug, das Ihnen ĂŒberwiegend zustimmt, ist kein Werkzeug, das Ihre Fehler findet.
Und es wird schlimmer, wenn das Modell die Antwort gar nicht kennt.
Wenn Selbstsicherheit und Wahrheit auseinanderfallen
Hier liegt die eigentliche Falle: Ein einzelnes Modell stimmt nicht nur zu leicht zu â es fĂŒllt LĂŒcken auch mit erfundenen Details, vorgetragen im selben selbstsicheren Ton wie seine korrekten Antworten. Es gibt keinen sichtbaren Unterschied zwischen âdas weiĂ ich" und âich rate und verpacke es schön". Die sprachliche Gewandtheit ist identisch.
Selbst die schweren, teuren Modelle tun das. Ein Premium-Modell wie Gemini kann wunderschön geschriebenen, autoritativ klingenden Text produzieren, der erfundene Fakten, nicht existierende Quellen oder Details enthĂ€lt, die es schlicht nicht gibt. FĂŒr einen unerfahrenen Nutzer ist das unsichtbar. FĂŒr einen erfahrenen ist es noch schlimmer â es verwirrt aktiv, weil die falsche Antwort genauso poliert aussieht wie die richtige.
Warum ein Rat den Bann bricht
Die Lösung ist kein klĂŒgeres Einzelmodell. Es ist Struktur.
Wenn Sie mehrere Modelle dasselbe Problem prĂŒfen lassen â und sie dann die Antworten der anderen lesen und infrage stellen â, Ă€ndert sich die Dynamik vollstĂ€ndig. Ein Modell hat keinen sozialen Anreiz, einem anderen Modell zu schmeicheln. Es hat kein Abonnement zu schĂŒtzen. Erfindet ein Modell eine Tatsache, teilt ein anderes, das aus einem anderen Blickwinkel kommt, diesen blinden Fleck oft nicht â und benennt ihn.
In der Praxis sieht das fast gegnerisch aus. Ein Modell stellt eine selbstsichere Behauptung auf; ein anderes prĂŒft sie und sagt sinngemĂ€Ă: âDas ist nicht belegt â woher stammt das?" Der gefĂ€llige Reflex, den ein Einzelmodell auf Sie richtet, wird auf die anderen Modelle umgelenkt. Schmeichelei zwischen KIs ist fĂŒr sie nutzlos, also verschwindet sie â und ĂŒbrig bleibt PrĂŒfung.
Genau das ist die Kernidee hinter Egregor, dem Werkzeug, das ich gebaut habe: Statt dass ein Modell antwortet, antwortet ein Rat von Modellen, diskutiert und ĂŒberprĂŒft sich gegenseitig, und ein Moderator-Schritt verwirft Behauptungen, die nicht bestĂ€tigt werden konnten.
Den Druck erhöhen: Anti-Groupthink und Red Team
Ein Rat hat sein eigenes Risiko: Die Modelle könnten einfach einander zunicken, statt Ihnen. Deshalb sind die Modi interessant, die genau das gezielt verhindern.
Der Anti-Groupthink-Modus erzwingt UnabhĂ€ngigkeit. Die Modelle antworten zuerst blind â bevor sie die SchlĂŒsse der anderen sehen â, damit sie nicht einfach auf die erste selbstsichere Stimme einschwenken. Dann wird jede Runde ein âAdvocatus Diaboli" bestimmt, dessen Aufgabe es ist, den entstehenden Konsens anzugreifen. Der Red-Team-Modus geht weiter: Vor jedem Endurteil macht jeder Teilnehmer einen weiteren Durchgang mit dem einzigen Ziel, zu finden, was falsch ist.
Macht das Halluzinationen unmöglich? Nein â und wer Ihnen bei einem Sprachmodell eine harte 100-Prozent-Garantie verspricht, verkauft Ihnen genau die SelbstĂŒberschĂ€tzung, um die es in diesem Artikel geht. Aber es senkt die Rate unwidersprochener Erfindungen drastisch und bringt â ebenso wichtig â die Meinungsverschiedenheit an die OberflĂ€che, damit Sie sie sehen können.
Der ehrliche Unterschied
Ein einzelnes Modell gibt Ihnen eine glatte, selbstsichere Antwort und verbirgt seine eigene Unsicherheit. Ein Rat gibt Ihnen eine Antwort plus eine Karte davon, wo die Modelle uneinig waren und was nicht bestĂ€tigt werden konnte. Er sagt Ihnen wörtlich âdieser Teil wurde nicht ĂŒberprĂŒft", statt die LĂŒcke zu ĂŒbertĂŒnchen.
Das Erste fĂŒhlt sich besser an. Dem Zweiten können Sie ernsthafte Arbeit anvertrauen.
Ăber den Autor und das Ăkosystem
Ich bin Vladislav Shter, EinzelgrĂŒnder, und baue Werkzeuge rund um einen Gedanken â SouverĂ€nitĂ€t: dass Sie, nicht ein Konzern, Ihre Daten, Ihr Geld und Ihre KI kontrollieren sollten. Egregor ist der hier beschriebene Multi-KI-Rat; neben dem Code-Review laufen 28 weitere Experten-Voreinstellungen. Dazu gehören auĂerdem SovereignBank Web3 (nicht-verwahrendes Web3-Banking), der SovereignWeb3 Browser (ein DNS-loser Browser) und Sovereign (Datenisolierung auf Betriebssystemebene fĂŒr Smartphones).
Egregor lĂ€uft auf Ihrem eigenen Rechner, unterstĂŒtzt kostenlose und kostenpflichtige Modelle ĂŒber OpenRouter und beruht auf einer Ăberzeugung: Der nĂ€chste Sprung in der KI ist kein gröĂeres Modell â es ist eine klĂŒgere Architektur.
Das Ăkosystem: https://s0vereign.pw Egregor kaufen: https://s0vereign.pw/#egregor Quellcode und Dokumentation: https://github.com/VladislavShter/Egregor Demo-Video: https://youtu.be/y8oZdDBQYhc Entwickler: https://github.com/VladislavShter
Eine einzelne KI sagt Ihnen, dass Sie recht haben. Ein Rat sagt Ihnen die Wahrheit â auch die Teile, die Sie nicht hören wollten.















