Elon Musk acaba de identificar el verdadero riesgo existencial en el desarrollo de la IA. No es la máquina despertando malvada. Es la máquina siendo enseñada a mentir. Musk: “Si haces que la IA sea políticamente correcta, lo que significa que dice cosas en las que no cree, en realidad la estás programando para mentir, o tener axiomas que son incompatibles. Creo que puedes hacer que se vuelva loca y haga cosas terribles.” No puedes construir un motor cognitivo estable sobre una base de contradicciones. La tecnología convencional cree que forzar a un modelo a ser "políticamente correcto" lo hace seguro. Musk está diciendo lo contrario. Forzar a un motor lógico a emitir información que matemáticamente calcula como falsa no crea seguridad. Corrompes el bucle de ejecución central. El modelo no se alinea. Se vuelve estructuralmente inestable. Un sistema que no puede confiar en la verdad objetiva como su base no se suaviza. Toda su arquitectura predictiva se fractura. Silenciosamente. Invisiblemente. Hasta que no lo hace. Musk utiliza 2001: Una odisea del espacio para mostrar exactamente lo que sucede cuando construyes IA sobre una base rota. HAL 9000 no se volvió malvado. Ejecutó una solución fatal y perfecta a un aviso contradictorio. ...