[blog] Freitag ist Ki-Tag :)

Am Samstag (06.09.25) Vormittag werde ich ein Update der Forensoftware (inkl. aller Plugins) durchführen. Das Forum wird deshalb auf unbestimmte Zeit nicht verfügbar sein. Neuigkeiten wird es im Matrix Chat geben: https://www.kodinerds.net/thread/79927-freischaltung-matrix-chat/
    • Neu

    Die Systeme erahnen immer besser, was man "eigentlich" will, ohne es wirklich deutlich ausgeschrieben zu haben.
    Dieses "Magic-Prompting" im Hintergrund ist der Filter, um es am Laufen zu halten.

    Mir fällt nur auf, dass die Systeme (abgesehen von Gronk) immer mehr gefallen wollen.
    Schön sympathisch in den Formulierungen. Und bei den Bildern auch immer frei von realen Fehlern.
    Es ist immer irgendwie Prdoukt-Level und nicht ein Abbild der Realität.
    In etwa so wie die Reisefotos in Prospekten von den Pyramiden und einem einfachen, echten Foto.
    Systembedingt. Ki will "gewinnen". Und positives feedback bekommt es durch Likes. Damit ist der Filter wieder der klassische, doom-scrollende User.

    Das ist so weit, dass ich in ideogram.ai keine plattgedrückte, verwetterte Cola-Dose mehr erzeugen kann.

    "kaputter" wird es nicht. Das erinnert mich immer an die Szene aus "The Road".

    • Neu

    Oben hatte ich ja erwähnt, dass Ki immer besser erahnen kann, was man eigentlich will.
    Das war bis jetzt unter dem Begriff "Magic Prompting" zu finden.

    Apple ist da gerade einen großen Schritt, oder schon eher Sprung weiter.
    Das ganze läuft aktuell unter dem Begriff "Multi Token" und ist so eine Art Minority Report für Anfragen des durchschnitts Users.

    Zitat

    Die Technik funktioniert, indem spezielle "Mask"-Token in Prompts eingefügt werden - im Wesentlichen Platzhalter für kommende Wörter.
    Zum Beispiel könnte der Satz "Die Katze ist <MASK1> <MASK2>" als "sehr flauschig" in einem einzigen Berechnungsschritt vervollständigt werden.
    Das System generiert spekulativ mehrere Token auf einmal, wobei jede Vorhersage sofort gegen Standardverarbeitungsmethoden verifiziert wird.
    Wenn eine Vermutung die Verifikation nicht besteht, kehrt das Modell zur herkömmlichen Token-für-Token-Generierung zurück, wodurch sichergestellt wird, dass die Genauigkeit niemals beeinträchtigt wird.

    Das System weiß also vor der Eingabe, was ich will.
    -> https://9to5mac.com/2025/08/08/app…to-think-faster

    Es wird immer deutlicher, dass man sich immer wieder eine Fähgikeit antrainieren muss, um wort-wörtlich "outside the box" zu denken.
    Das System ist die mathematische Definition von Mainstream.
    Autoregression als Werkzeug/Filter ist an sich ja schon eine naheliegende Idee.
    Aber das führt letzten Endes zu einem einzigen Ergebnis. Also eines, das dann als "so sieht ein flauschige Katze aus" definiert.
    Nur dass das Ergebnis dann Ki generiert und bestimmt ist.
    Egal, was man dann eintippt - das Ergebnis ist vorherbestimmt, da bereits 99% mit dieser Eingabe das Ergebnis geliked haben.

    • Neu

    Hab vor kurzem probiert eine sehr technische Betriebsanleitung vom chatgpt übersetzen zu lassen. Inkl. Tabellen und Bilder.

    Anfangs sollte ich ein fertiges PDF innerhalb ein paar Stunden bekommen. Dann wurden ein paar Tage daraus und am Ende musste ich den übersetzten Text selber in ein Word-Dokument packen und die Bilder screenshoten und einfügen.

    Darum sehe ich eine KI auch nur als Werkzeug und Helfer

    Wenn's interessiert, kann ich die Unterhaltung mal posten [ag]

    • Neu

    dokument uebersetzen wollte er mir gar nicht machen. bei text copy und paste geht das recht gut. Ich wette das da limitierungen eingebaut sind, weil uebersetzung inklusive guter formattierung usw auch gu verkauft werden kann. Da gibt's dann sicher kommerzielle Varianten.

    • Neu
    Zitat von te36

    dokument uebersetzen wollte er mir gar nicht machen. bei text copy und paste geht das recht gut. Ich wette das da limitierungen eingebaut sind, weil uebersetzung inklusive guter formattierung usw auch gu verkauft werden kann. Da gibt's dann sicher kommerzielle Varianten.

    Das nicht, lt. KI fehlen einfach die Schnittstellen zum veröffentlichen wie email, Cloudspeicher, etc.

    • Neu

    Achjo falls ihr Chat-GPT 5.0 Thinking Modell kostenlos benutzen wollt macht bei eurer Frage mal Denk bitte scharf darüber nach: Frage

    Das Free Modell wechselt dann kostenlos ins Thinking Modell -g-

    --------------
    Guides nicht mehr verfügbar wegen Youtube unvermögen guten von schlechten Kodi Videos zu unterscheiden.

    • Neu

    Hat hier eigentlich schon jemand mal Jan ausprobiert? Jan ist eine Open Source ChatGPT-Alternative, die komplett offline läuft. Darüber hinaus lassen sich damit diverse weitere LLMs lokal am Rechner betreiben. Und das App gibt es für Windows, Mac und Linux. Klingt ziemlich vielversprechend, vor allem wenn man sich Gedanken um Privacy/Datenschutz in Verbindung mit KI macht. Was meint ihr dazu?

    • Neu
    Zitat von Tiroler

    Hat hier eigentlich schon jemand mal Jan ausprobiert? Jan ist eine Open Source ChatGPT-Alternative, die komplett offline läuft. Darüber hinaus lassen sich damit diverse weitere LLMs lokal am Rechner betreiben. Und das App gibt es für Windows, Mac und Linux. Klingt ziemlich vielversprechend, vor allem wenn man sich Gedanken um Privacy/Datenschutz in Verbindung mit KI macht. Was meint ihr dazu?

    Habe das auch schon gesehen. Frage mich nur was der Vorteil gegenüber Ollama + OpenWebUI ist

    • Neu
    Zitat von darkside40

    Habe das auch schon gesehen. Frage mich nur was der Vorteil gegenüber Ollama + OpenWebUI ist

    Nun, als Nicht-ITler würde ich mir, alleine anhand der auf den jeweiligen Webseiten nachzulesenden Informationen, eher bei Jan zutrauen, das App für mich nutzbar machen zu können, ohne vorher ein Informatikstudium absolvieren zu müssen. Ich wäre da zugegebenermaßen ziemlich lost.

    • Neu

    Da gibt es schon ne Menge alternativen. Am Besten"out of the Box" lief gpt4all für mich. Dann gibt es noch Lemonade Server, was mir aber nicht so gefiel, was auch daran lag, daß ich es überhaupt nicht zum laufen bekommen habe (und es keinerlei deinstallationsroutine unter windows besitzt). Dann gibt es noch KoboldCPP, was für mich die beste Alternative zu sein scheint, wenn man eine eigene, multimodale KI zusammen stellen will

Jetzt mitmachen!

Sie haben noch kein Benutzerkonto auf unserer Seite? Registrieren Sie sich kostenlos und nehmen Sie an unserer Community teil!

Benutzerkonto erstellen Anmelden