Le slop AI est un fouillis d'erreurs automatisées introduites dans tous les niveaux des entreprises qui ont l'IA imposée.
Des exemples hilarants de commerce de slop ci-dessous.
Certaines des histoires qu'ils ne vous racontent pas :
• Le chatbot de Chevrolet a vendu une voiture pour 1 $
• Air Canada a dû honorer une politique de remboursement que son chatbot avait inventée
• Un pipeline a coûté 20 fois plus cher pendant 6 jours sans que personne ne s'en aperçoive
Les gens ne s'en rendaient pas compte parce que rien ne s'est cassé. Il n'y a eu ni pannes ni alertes.
C'est le problème avec les applications agentiques.
Elles génèrent toujours quelque chose qui semble cohérent et ne suscitent aucune suspicion à moins qu'il ne soit trop tard.
Il y a une incroyable conférence gratuite sur YouTube et un article de blog de @arshdilbagi qui vous aidera à résoudre cela avec un cadre pratique.
Voici ce que vous apprendrez :
• Comment mettre en place une instrumentation de traçage de bout en bout
• Comment construire des alertes autour d'une taxonomie de défaillance silencieuse
• Un système d'évaluation construit à partir de données de production
• Étapes d'implémentation complètes et concrètes
Chaque section du blog se termine par exactement ce qu'il faut faire ensuite.
Le dernier Gary Marcus :
"L'histoire jugera ceux qui restent dans son entreprise. Quiconque souhaite travailler sur des LLM peut travailler ailleurs. Quiconque souhaite utiliser des LLM devrait aller ailleurs."
#deleteChatGPT
#donttrustSam
Je ne vais plus utiliser le mot "halluciner" pour décrire l'IA LLM.
C'était un stratagème d'utiliser ce mot dès le départ.
D'abord, les promoteurs de l'IA ont délibérément utilisé un mot anthropomorphique pour décrire l'erreur de la machine.
Puis, quand vous signalez les erreurs de la machine, ils disent : "eh bien, les humains hallucinent aussi."
Ensuite, ils ont même l'audace de dire : "eh bien, si cette IA hallucine, c'est la preuve qu'elle doit être consciente !"
L'acceptation de ce mot trompeur a été une erreur depuis le début.
Offrez-moi quelques mots alternatifs, s'il vous plaît. Des mots précis et péjoratifs sont tous deux acceptés.