AI-Slop ist ein Durcheinander aus automatisierten Fehlern, die in alle Ebenen von Unternehmen eingeführt werden, in die KI gezwungen wird.
Lustige Beispiele für Slop-Commerce unten.
Einige der Geschichten, die sie dir nicht erzählen:
• Der Chatbot von Chevrolet hat ein Auto für 1 $ verkauft
• Air Canada musste eine Rückerstattungsrichtlinie einhalten, die ihr Chatbot erfunden hat
• Eine Pipeline lief 20x über den Kosten für 6 Tage, ohne dass es jemand bemerkte
Die Leute haben es nicht realisiert, weil nichts kaputt ging. Es gab keine Abstürze und keine Warnungen.
Das ist das Problem mit agentischen Anwendungen.
Sie erzeugen immer etwas, das kohärent aussieht und keine Verdachtsmomente weckt, es sei denn, es ist zu spät.
Es gibt eine großartige kostenlose YouTube-Vorlesung und einen Blogbeitrag von @arshdilbagi, die dir helfen werden, dies mit einem praktischen Rahmen zu beheben.
Hier ist, was du lernen wirst:
• Wie man End-to-End-Trace-Instrumentierung einrichtet
• Wie man Warnungen rund um eine stille Fehlertaxonomie aufbaut
• Ein Bewertungssystem, das aus Produktionsdaten erstellt wurde
• Vollständige und konkrete Implementierungsschritte
Jeder Abschnitt des Blogs endet mit genau dem, was als Nächstes zu tun ist.
Die neuesten Gary Marcus:
"Die Geschichte wird diejenigen beurteilen, die in seiner Firma bleiben. Jeder, der an LLMs arbeiten möchte, kann woanders arbeiten. Jeder, der LLMs nutzen möchte, sollte woanders hingehen."
#deleteChatGPT
#donttrustSam
Ich werde das Wort "halluzinieren" nicht mehr verwenden, um LLM AI zu beschreiben.
Es war von Anfang an ein Trick, dieses Wort zu benutzen.
Zuerst haben die AI-Befürworter absichtlich ein anthropomorphes Wort verwendet, um Maschinenfehler zu beschreiben.
Dann, wenn man auf die Maschinenfehler hinweist, sagen sie: "Hey, Menschen halluzinieren auch."
Dann haben sie sogar die Dreistigkeit zu sagen: "Nun, wenn diese AI halluziniert, ist das der Beweis, dass sie empfindungsfähig sein muss!"
Die Akzeptanz dieses Trickwortes war von Anfang an ein Fehler.
Bitte bietet mir einige alternative Wörter an. Sowohl genaue als auch abwertende Wörter sind akzeptiert.