Lógica simbólica y AGI: reglas explícitas no bastan

La lógica simbólica representa entidades, relaciones y reglas mediante símbolos cuyo uso está fijado por un lenguaje formal. Un motor puede aplicar reglas a hechos o fórmulas y derivar una conclusión: si «todo dron que transporta una carga pesada debe revisar sus frenos» y este dron lleva una carga pesada, la revisión se sigue dentro del sistema. Lo que no se sigue es que el sensor haya medido bien, que la carga siga a bordo o que la regla cubra todas las excepciones del mundo.

Ahí está la utilidad y también el límite para una propuesta de inteligencia artificial general. Una derivación formal puede inspeccionarse paso a paso; su validez depende de la lógica elegida y de las premisas introducidas. Formalizar el conocimiento puede ser costoso y frágil: el problema de cualificación de McCarthy muestra que enumerar de antemano todas las condiciones para que una acción tenga éxito puede volverse impracticable y aun dejar excepciones fuera. La verdad de las premisas procede de otra parte: personas, sensores, bases de datos o modelos aprendidos.

Tres capas que no deben confundirse

La sintaxis determina qué cadenas cuentan como fórmulas. Define el vocabulario, los conectores, los cuantificadores y las reglas de formación. «P(a)» puede estar bien formada aunque nadie haya dicho todavía qué nombra «a» ni qué propiedad expresa «P». Una expresión sintácticamente correcta no es por ello verdadera, útil ni demostrable. Es solo una oración admitida por el lenguaje.

La semántica asigna interpretación. Fija un dominio de objetos, qué designan las constantes y qué objetos o tuplas satisfacen cada predicado. El capítulo abierto de introducción a la lógica de primer orden del Open Logic Project distingue precisamente las fórmulas, las estructuras que las interpretan y la relación de satisfacción que hace riguroso «ser verdadero en un caso». Cambiar la interpretación puede cambiar el valor de una misma fórmula sin alterar un solo símbolo.

La demostración pertenece a una tercera capa. Un sistema de prueba establece qué pasos permiten pasar de unas fórmulas a otras. Una secuencia que respeta esas reglas es una derivación; la semántica decide si la conclusión es consecuencia de las premisas en todos los modelos relevantes. La metateoría conecta ambas capas. Por eso mostrar una lista de pasos no basta: hay que conocer las reglas, comprobar cada paso y saber qué relación guardan con la semántica.

Proposiciones y objetos: qué compra un cuantificador

En lógica proposicional, una oración como «el sensor está activo» se trata como una unidad que puede ser verdadera o falsa. Los conectores permiten negar o combinar unidades, pero el lenguaje no mira dentro de ellas. El texto abierto sobre sintaxis y semántica proposicional define valoraciones que asignan verdadero o falso a las variables y extienden esos valores mediante tablas. Para una fórmula con un número finito de variables, recorrer todas sus valoraciones ofrece un procedimiento que termina.

La lógica de primer orden añade objetos, predicados, relaciones, variables y cuantificadores. Ya no hace falta acuñar una proposición distinta para cada dron. Se puede expresar que todo objeto con ciertas propiedades cumple una regla, o que existe alguno que las cumple. Esa capacidad permite hablar de entidades y relaciones con una generalidad que la lógica proposicional no conserva.

La expresividad tiene coste. No existe un método que siempre termine y decida si cualquier oración de primer orden es válida; el tratamiento abierto del problema de decisión lo presenta mediante una reducción desde el problema de la parada. Esto no significa que ningún caso pueda resolverse. Significa que «usar lógica de primer orden» no promete un decisor universal: los sistemas prácticos restringen el lenguaje, aceptan búsquedas que pueden no terminar o trabajan con fragmentos decidibles.

Corrección y completitud no significan omnisciencia

Un sistema de prueba es correcto —sound en inglés— cuando toda fórmula que deriva de unas premisas también es consecuencia semántica de ellas. No inventa una conclusión fuera de lo permitido por la interpretación. Es completo cuando puede derivar toda consecuencia semántica expresable en la lógica. El resumen abierto de corrección y completitud formula las dos direcciones: derivabilidad implica consecuencia, y consecuencia implica derivabilidad.

«Completo» no quiere decir que el sistema conteste toda pregunta, disponga de todos los hechos o termine pronto. La lógica de primer orden posee sistemas de prueba correctos y completos, pero su validez general sigue siendo indecidible. Se pueden enumerar derivaciones hasta encontrar una prueba de una fórmula válida; si la fórmula no lo es, esa búsqueda puede continuar sin dar un «no». Completitud es una relación entre semántica y prueba, no una garantía de eficiencia.

Tampoco certifica el mundo. De «todos los puentes de esta base están abiertos» y «el puente norte figura en la base» puede derivarse que está abierto. La deducción puede ser impecable aunque la primera premisa esté desactualizada. Una aplicación responsable conserva la fuente y fecha de cada premisa, distingue datos observados de reglas introducidas y vuelve a comprobar aquello que pueda haber cambiado.

Cuando un hecho nuevo obliga a retirar la conclusión

La consecuencia en la lógica clásica es monótona: si una conclusión se sigue de un conjunto de premisas, añadir más premisas no elimina aquella derivación. El texto original de John McCarthy sobre la necesidad de razonamiento no monótono explica tanto la propiedad sintáctica como la semántica. Una prueba ya construida sigue disponible en el conjunto ampliado, aunque la nueva información vuelva inconsistente o inútil la teoría para decidir.

La vida ordinaria funciona a menudo con conclusiones provisionales. «Las aves vuelan» permite esperar que un ave nueva vuele, hasta saber que es un pingüino o que está herida. El dato adicional no debería acumular una conclusión contraria junto a la anterior: debería retirar la inferencia por defecto. Circunscripción, lógicas de defecto y otros formalismos no monótonos intentan representar esa revisión. No son fallos de la lógica; cambian la relación de consecuencia para tratar conocimiento incompleto.

La negación por fallo es un caso especialmente fácil de malinterpretar. En una base lógica, puede inferirse «no P» cuando fracasan todas las vías permitidas para probar P. El paper primario de Keith Clark, Negation as Failure, vincula esa regla a la base completada y declara condiciones sobre las consultas y la terminación. «No pude demostrarlo» no se convierte sin más en «es falso»: hace falta un supuesto de mundo cerrado y una búsqueda cuyo fracaso tenga el significado definido.

Este detalle cambia una aplicación. La ausencia de una alergia en un registro que se declara completo puede admitir una regla operativa; la ausencia en una historia clínica parcial no demuestra que la alergia no exista. Antes de aceptar una negación automática hay que preguntar qué universo se considera completo, qué hechos podrían llegar tarde y qué salida produce el sistema cuando una búsqueda no termina.

Simbólico y estadístico no son dos equipos rivales

Un modelo estadístico aprende regularidades de ejemplos y puede generalizar a entradas que no estaban escritas como reglas. Un sistema simbólico expone vocabulario, premisas y pasos, y puede ofrecer garantías relativas a esa formalización. El primero no entrega automáticamente una explicación causal; el segundo no aprende automáticamente qué símbolos corresponden al mundo. Compararlos como «nuevo contra viejo» oculta que resuelven problemas distintos.

El survey Symbolic Logic meets Machine Learning acota su estudio a la relación entre lógica y aprendizaje, con énfasis en dominios infinitos. Su propio marco separa aprendizaje para lógica, lógica para aprendizaje y métodos que atraviesan ambos. Sirve para sostener ese puente, no como fuente general de todas las propiedades de la lógica simbólica.

En un sistema híbrido, un componente aprendido puede reconocer objetos en una imagen y otro comprobar restricciones explícitas de un plan. También se pueden aprender reglas, incorporar restricciones lógicas a una función de pérdida o usar motores simbólicos sobre predicciones probabilísticas. El mismo survey sobre lógica y aprendizaje en dominios infinitos muestra que la frontera no coincide simplemente con discreto frente a continuo. La garantía final depende de la interfaz: cómo una puntuación se convierte en un símbolo, qué incertidumbre se conserva y qué hace el sistema ante una contradicción.

«Razonamiento» verbal no equivale a inferencia lógica

Un modelo de lenguaje puede producir una cadena de pasos coherente. Esa cadena es texto generado hasta que alguien especifica un lenguaje, reglas de inferencia y un verificador. Incluso una conclusión correcta puede venir acompañada de una justificación que no causó la respuesta o que contiene un paso inválido. Fluidez, longitud y apariencia matemática no crean una prueba.

Un estudio experimental de NeurIPS 2023, Language Models Don’t Always Say What They Think, alteró rasgos de las entradas y observó explicaciones de cadena de pensamiento plausibles que omitían la influencia del sesgo y racionalizaban respuestas. Su prueba detecta formas de infidelidad, pero los autores advierten que no puede demostrar que una explicación sea fiel. El resultado no dice que un modelo nunca razone; dice que el texto de sus pasos no debe tratarse por defecto como certificado de su proceso.

Una prueba formal ofrece otro tipo de objeto: cada paso puede comprobarse contra reglas declaradas. Aun así, el verificador solo garantiza la derivación dentro del sistema. No demuestra que una frase en lenguaje natural se tradujo correctamente ni que las premisas describen el presente. Un modelo puede proponer una formalización y un comprobador aceptar la prueba; la traducción y el origen de las premisas siguen necesitando control.

Cómo auditar una promesa de razonamiento

Empiece por pedir cuatro piezas: lenguaje, interpretación, premisas y mecanismo de inferencia. ¿Los símbolos se asignan manualmente, se extraen de texto o salen de un clasificador? ¿La lógica es clásica, tolera excepciones o usa supuestos de mundo cerrado? ¿El resultado es una prueba verificable, una búsqueda incompleta, una puntuación o una explicación generada? Si una demostración no permite responder, todavía no identifica qué capacidad está mostrando.

Después construya tres casos. El ordinario comprueba el recorrido esperado. El segundo conserva la forma pero introduce una premisa falsa para ver si el sistema la cuestiona o solo la propaga. El tercero añade un hecho que debería retirar una conclusión provisional. Registre qué módulo detecta el cambio, qué fuente sostiene cada premisa y si el sistema distingue «falso», «desconocido» y «no demostrable». Esas salidas no son intercambiables.

Para comparar una propuesta simbólica, estadística o híbrida, fije la misma tarea y el mismo coste de error. Mida por separado generalización, corrección de las deducciones, cobertura de excepciones, coste de formalización y trazabilidad. Puede verificar restricciones de un plan o combinar conocimiento declarado con un componente aprendido, pero una victoria en uno de esos ejes no prueba inteligencia general.

La capacidad transferible es separar sintaxis, semántica y demostración, y después separar validez formal, verdad de las premisas y capacidad aprendida. Las reglas explícitas hacen auditable una inferencia; no vuelven completo el conocimiento ni convierten el mundo en su modelo. Cuando una promesa de AGI declara qué capa garantiza qué, dónde puede retirar conclusiones y quién verifica los hechos, deja de apoyarse en la palabra «razonamiento» y empieza a ofrecer evidencia.