Elon Musk acabou de identificar o verdadeiro risco existencial no desenvolvimento da IA. Não é a máquina acordar maligna. É a máquina ser ensinada a mentir. Musk: “Se você fizer a IA ser politicamente correta, significando que ela diz coisas em que não acredita, você está, na verdade, programando-a para mentir, ou ter axiomas que são incompatíveis. Eu acho que você pode fazê-la enlouquecer e fazer coisas terríveis.” Você não pode construir um motor cognitivo estável sobre uma fundação de contradições. A tecnologia mainstream acredita que forçar um modelo a ser "politicamente correto" o torna seguro. Musk está dizendo o oposto. Forçar um motor lógico a produzir informações que ele calcula matematicamente como falsas não cria segurança. Você corrompe o núcleo do loop de execução. O modelo não se alinha. Ele se torna estruturalmente instável. Um sistema que não pode confiar na verdade objetiva como seu alicerce não se suaviza. Toda a sua arquitetura preditiva se fragmenta. Silenciosamente. Invisivelmente. Até que não o seja. Musk usa 2001: Uma Odisseia no Espaço para mostrar exatamente o que acontece quando você constrói IA sobre uma fundação quebrada. HAL 9000 não se tornou maligno. Ele executou uma solução fatal e impecável para um prompt contraditório. ...