Gödel — o que sistemas formais não podem

Em todo sistema formal suficientemente expressivo, existe alguma sentença verdadeira que ele não consegue provar.

Aplicação ao alinhamento: nenhum modelo, por treinamento próprio, consegue garantir suas próprias verdades. A validação precisa vir de fora — humano, outra arquitetura, ou um sistema de origem rastreável.