Il slop dell'AI è un insieme di errori automatizzati introdotti in tutti i livelli delle aziende che hanno l'AI forzata al loro interno.
Esempi esilaranti di commercio slop qui sotto.
Alcune delle storie che non ti stanno raccontando:
• Il chatbot di Chevrolet ha venduto un'auto per $1
• Air Canada ha dovuto onorare una politica di rimborso che il suo chatbot aveva inventato
• Un gasdotto ha superato di 20 volte il costo per 6 giorni senza che nessuno se ne accorgesse
La gente non si è resa conto perché nulla si è rotto. Non ci sono stati crash e nessun avviso.
Questo è il problema con le applicazioni agentiche.
Generano sempre qualcosa che sembra coerente e non sollevano sospetti a meno che non sia troppo tardi.
C'è una fantastica lezione gratuita su YouTube e un post sul blog di @arshdilbagi che ti aiuterà a risolvere questo con un framework pratico.
Ecco cosa imparerai:
• Come impostare l'istrumentazione di tracciamento end-to-end
• Come costruire avvisi attorno a una tassonomia di guasti silenziosi
• Un sistema di valutazione costruito con dati di produzione
• Passi di implementazione completi e concreti
Ogni sezione del blog termina esattamente con cosa fare dopo.
L'ultimo Gary Marcus:
"La storia giudicherà coloro che rimangono nella sua azienda. Chiunque voglia lavorare sugli LLM può lavorare altrove. Chiunque voglia usare gli LLM dovrebbe andare altrove."
#deleteChatGPT
#donttrustSam
Non userò più la parola "allucinare" per descrivere l'AI LLM.
È stata una mossa ingannevole usare questa parola fin dall'inizio.
Per prima cosa, i sostenitori dell'AI hanno deliberatamente usato una parola antropomorfica per descrivere l'errore della macchina.
Poi, quando fai notare gli errori della macchina, dicono: "ehi, anche gli esseri umani allucinano."
Poi hanno persino l'audacia di dire "beh, se questa AI allucina, è prova che deve essere senziente!"
L'accettazione di questa parola ingannevole è stata un errore fin dall'inizio.
Offrimi alcune parole alternative, per favore. Parole accurate e derogatorie sono entrambe accettate.