De Homo videns a la inteligencia artificial: el valor del juicio humano

Introducción

A veces me sorprende la facilidad con que damos por sentada una de nuestras capacidades más extraordinarias: la de asombrarnos. Podemos encontrarnos ante algo que no comprendemos del todo y sentir, casi espontáneamente, la necesidad de averiguar qué está ocurriendo. Una explicación no termina de convencernos, algo parece no encajar y comenzamos a hacernos preguntas que nadie nos había pedido responder.

Lo fascinante es que no necesitamos recibir una instrucción para hacerlo. A veces, esa inquietud nos lleva a descubrir que el verdadero problema no era aquel que teníamos delante, sino uno que ni siquiera habíamos advertido. Entonces sucede algo revelador: una idea hace clic y todo comienza a adquirir sentido. Así somos los seres humanos. Sonríe por un momento.

Aristóteles reconocía en el asombro el origen de la filosofía (Metafísica, I, 2, 982b12–21). Al maravillarnos ante aquello que desconocemos, advertimos nuestra ignorancia y sentimos el impulso de investigar. Me interesa especialmente esa disposición a seguir buscando, porque muchas veces el conocimiento comienza cuando reconocemos que nuestra primera explicación no era suficiente.

En mi trabajo con empresas he experimentado algo parecido. En ocasiones, una consulta consistía en preparar un documento o revisar una obligación específica. Sin embargo, al examinar los antecedentes, podía descubrir que aquella solicitud respondía a una dificultad más profunda, cuyas consecuencias todavía no se habían considerado. Otras veces, por supuesto, la solución inicial era suficiente. Aprendí que comprender un problema también exige reconocer cuándo no es necesario complicarlo.

¿Qué me impulsaba a investigar más allá de lo solicitado? Creo que, en buena medida, era una preocupación genuina por las personas que confiaban en mí. Quería protegerlas y evitarles dificultades que quizás todavía no podían advertir. No siempre tenía las respuestas ni necesariamente acertaba. Pero, precisamente porque me importaba lo que pudiera ocurrirles, sentía la responsabilidad de examinar aquello que aún no comprendía.

Con el tiempo, comencé a preguntarme cuánto de ese trabajo podría realizar una inteligencia artificial. Hoy estas herramientas pueden analizar situaciones con una rapidez extraordinaria, relacionar conceptos e incluso advertir problemas que un profesional podría pasar por alto. Sería difícil desconocer el valor de semejante avance. Sin embargo, también pueden equivocarse, y sus respuestas no siempre permiten reconocer fácilmente esos errores.

Esto me llevó a una inquietud que considero especialmente importante: ¿qué sucede con nuestro propio juicio cuando una explicación resulta tan convincente que dejamos de sentir la necesidad de examinarla?

En el ámbito empresarial, esta pregunta adquiere también una dimensión económica. La inteligencia artificial puede reducir considerablemente el costo de producir una respuesta, sin que necesariamente disminuya en la misma proporción el costo de equivocarse al aplicarla. Incluso podrían existir consecuencias menos evidentes, como la pérdida gradual de ciertas capacidades profesionales cuando dejamos de ejercerlas.

Por eso, la eficiencia de una herramienta no debería evaluarse únicamente por el tiempo que permite ahorrar, sino también por las consecuencias de utilizarla, los riesgos que introduce y las capacidades que necesitaremos conservar para evaluar su desempeño.

Estas consideraciones me conducen a la pregunta central de este ensayo:

Si la inteligencia artificial puede ofrecer respuestas convincentes, ¿reside el valor del juicio humano en encontrar la respuesta correcta o en discernir si debemos actuar conforme a ella?

No pretendo demostrar que el ser humano siempre juzga mejor que una máquina ni que debamos desconfiar de toda respuesta automatizada. Me interesa examinar qué ocurre entre recibir una respuesta y convertirla en una decisión, y por qué esa diferencia puede importar tanto desde una perspectiva filosófica como económica.

Para hacerlo, seguiré un recorrido en dos partes. En la primera examinaré la relación entre información, comprensión y juicio práctico, recurriendo a Sartori, Aristóteles y la imagen bíblica del corazón que escucha. En la segunda trasladaré estas reflexiones al ámbito empresarial para estudiar la eficiencia de la automatización, el valor económico de las decisiones y la posibilidad de que delegar determinadas actividades debilite las capacidades necesarias para supervisarlas.

Mi propósito no es contraponer la inteligencia humana a la artificial, sino comprender qué deberíamos preservar y qué criterios necesitamos para decidir cuándo delegar, cuándo supervisar y cuándo intervenir.

Primera parte. Comprender y discernir: los fundamentos del juicio humano

I. De Homo videns a la inteligencia artificial: recibir información no equivale a comprender

Hace algunos años, durante mi etapa universitaria, escribí un ensayo sobre los efectos de la televisión en nuestra capacidad de razonar. Uno de los libros que más me interesó fue Homo videns, de Giovanni Sartori (1997), en el que el autor advertía sobre los riesgos de una cultura dominada por la imagen y sus posibles consecuencias para el pensamiento abstracto.

Al volver sobre aquel trabajo, encuentro una preocupación que sigue pareciéndome relevante: podemos acostumbrarnos a recibir información sin detenernos a examinarla. Cuando dejamos de cuestionar aquello que vemos o escuchamos, corremos el riesgo de aceptar explicaciones sin haber considerado suficientemente sus fundamentos.

La inteligencia artificial introduce una dificultad distinta. Ya no recibimos únicamente imágenes o información sobre determinados acontecimientos; también podemos obtener explicaciones elaboradas que nos ofrecen una interpretación de lo que sucede. Para comprender qué cambia con esta tecnología, conviene volver primero sobre la preocupación de Sartori.

1. La abstracción y los límites de lo visible

En Homo videns, Giovanni Sartori retoma la concepción del ser humano como animal simbólico, vinculada al pensamiento de Ernst Cassirer. Esta idea permite entender que nuestra relación con la realidad no se limita a lo que percibimos a través de los sentidos. También interpretamos el mundo mediante símbolos y conceptos, y el lenguaje nos permite pensar en realidades cuyo significado va más allá de aquello que podemos observar directamente.

Podemos representar visualmente un celular o un computador y reconocer sin dificultad los objetos a los que nos referimos. Pero ¿qué imagen podría expresar por sí sola el significado de la justicia, la libertad o la legitimidad? Podemos mostrar situaciones relacionadas con estos conceptos, aunque comprender qué significan exige algo más que observarlas: necesitamos pensar en aquello que las define y que permite distinguirlas de otras realidades.

Es precisamente esta diferencia la que ayuda a comprender la preocupación de Sartori. Su crítica no consiste en afirmar que las imágenes sean perjudiciales, sino en advertir sobre las consecuencias que puede tener su predominio cuando desplaza otras formas de pensamiento. Si nos acostumbramos a conocer la realidad principalmente a través de lo visible, corremos el riesgo de conceder menos espacio a la abstracción, necesaria para comprender aquello que no se muestra de manera inmediata.

Esta distinción también permite entender por qué estar informado no equivale necesariamente a comprender. Podemos conocer un acontecimiento sin entender las razones que lo explican o el alcance que puede tener. La información nos acerca a lo ocurrido, pero necesitamos interpretarla para comprender su significado.

Pensemos, por ejemplo, en alguien que presencia la firma de un contrato. Puede reconocer a quienes participan y describir lo que sucede. Sin embargo, para comprender el alcance del acuerdo necesita conocer las obligaciones que establece y las consecuencias que puede producir. La escena es visible; buena parte de lo que está en juego requiere interpretar conceptos y circunstancias que no se desprenden de la observación por sí sola.

La inteligencia artificial plantea una cuestión diferente de la que preocupaba a Sartori. A diferencia de la televisión, estas herramientas no se limitan a mostrarnos una realidad: también pueden ofrecernos explicaciones sobre ella. Esto puede ayudarnos a comprender asuntos complejos, pero introduce una dificultad que merece atención. Una respuesta bien construida puede parecernos suficiente incluso cuando no hemos examinado sus fundamentos o cuando la pregunta inicial no recogía todos los aspectos relevantes del problema.

La cuestión no es, por tanto, si debemos desconfiar de las respuestas de la inteligencia artificial por el mero hecho de proceder de una herramienta tecnológica. Tampoco podemos suponer que una explicación elaborada sea necesariamente correcta. Lo importante es determinar qué problema resuelve, en qué antecedentes se apoya y hasta qué punto responde a las circunstancias concretas.

Imaginemos una empresa que necesita modificar sus estatutos para incorporar a un nuevo socio. Una herramienta de inteligencia artificial podría preparar un documento jurídicamente adecuado y ajustado a la solicitud. Sin embargo, si los socios todavía no han acordado cómo resolver posibles desacuerdos sobre la administración, el documento podría dejar sin abordar una dificultad importante para el funcionamiento de la empresa.

La herramienta también podría advertir esa dificultad e incluso sugerir que se examine antes de preparar el documento. No se trata de atribuir a las personas una capacidad exclusiva para descubrir problemas que una máquina nunca podría reconocer. Se trata de advertir que la utilidad de una respuesta depende, en parte, de cómo se ha planteado el problema y de si hemos considerado las circunstancias necesarias para evaluarla.

Por eso, la abstracción sigue siendo importante, aunque el desafío ya no consista únicamente en ir más allá de lo visible. También necesitamos examinar las interpretaciones que recibimos, comprender en qué se apoyan y reconocer sus límites. La inteligencia artificial puede ayudarnos en ese trabajo, pero la calidad de su respuesta no demuestra, por sí sola, que hayamos comprendido aquello que debemos resolver.

2. La experiencia y nuestra relación con la realidad

La comprensión tampoco depende únicamente de los conceptos que manejamos o de la información que tenemos disponible. Nuestra experiencia influye en la manera en que percibimos una situación y reconocemos lo que merece atención.

Henri Bergson aborda esta cuestión en Materia y memoria (1896), donde examina la relación entre percepción, memoria y acción. Su reflexión permite considerar que nuestra relación con el presente no consiste simplemente en recibir información: lo que hemos vivido también interviene en la manera en que interpretamos lo que ocurre.

Sin embargo, la experiencia no garantiza que juzguemos correctamente. Una situación puede recordarnos otra que vivimos anteriormente y llevarnos a reconocer un problema real, pero también puede inducirnos a pasar por alto diferencias importantes. Haber afrontado dificultades semejantes puede ayudarnos a comprender una nueva situación, aunque no nos exime de examinar sus particularidades.

No pretendo desarrollar aquí todas las implicaciones de la filosofía de Bergson. Me interesa conservar una distinción: comprender una situación supone algo más que disponer de antecedentes, pues también interviene la manera en que los interpretamos desde nuestra experiencia. Esta relación merece un análisis más amplio, especialmente cuando nos preguntamos qué valor atribuimos a la experiencia profesional frente a las respuestas que pueden ofrecer los sistemas de inteligencia artificial.

Al revisar mi antiguo ensayo sobre Homo videns, también encuentro que relacionaba la pérdida de abstracción con nuestra capacidad para distinguir lo verdadero de lo falso y lo correcto de lo incorrecto. Hoy considero necesario precisar esa relación.

La abstracción nos permite comprender conceptos que no se reducen a lo inmediatamente visible, y el razonamiento nos ayuda a examinar si una explicación está bien fundamentada. Pero estas capacidades no resuelven por sí solas la cuestión de cómo debemos actuar. Podemos comprender un problema, reconocer sus posibles consecuencias e incluso disponer de información suficiente sin tener claro qué alternativa conviene elegir.

Pensemos de nuevo en la empresa que desea incorporar a un nuevo socio. Comprender las implicaciones jurídicas de la modificación es necesario, pero quizá no baste para determinar si conviene proceder de inmediato o abordar antes los desacuerdos sobre la administración. Para decidir, debemos considerar las circunstancias concretas y valorar qué alternativa responde mejor a la situación.

Además, la decisión puede llevarnos a revisar lo que creíamos haber comprendido. Al preguntarnos qué consecuencias tendría cada alternativa, podríamos advertir que nos faltan antecedentes o que habíamos concedido demasiada importancia a un aspecto del problema. Comprender y decidir están relacionados, aunque no sean lo mismo: al deliberar sobre lo que debemos hacer, también podemos descubrir que necesitamos comprender mejor aquello que tenemos delante.

La reflexión de Sartori permite plantear preguntas sobre el lugar que ocupa el pensamiento en una cultura cada vez más mediada por la tecnología, pero no demuestra que utilizar inteligencia artificial debilite necesariamente nuestra capacidad de abstracción. Esa posibilidad debe examinarse, no darse por sentada. Del mismo modo, la reflexión de Bergson ayuda a considerar el papel de la experiencia, pero no permite concluir, por sí sola, que los sistemas artificiales sean incapaces de contribuir a una comprensión adecuada.

Lo que me interesa es el problema que aparece cuando pasamos de comprender una situación a decidir qué hacer frente a ella. Una respuesta puede estar bien elaborada y ser útil para resolver una tarea, pero todavía necesitamos determinar si la acción que permite ejecutar es la más adecuada en esas circunstancias.

Esta cuestión nos lleva más allá de la información, la abstracción y la experiencia. Nos obliga a examinar cómo deliberamos sobre nuestras acciones, qué fines perseguimos y qué significa juzgar bien en una situación concreta. Para abordar ese problema, la distinción que establece Aristóteles entre el saber producir y la prudencia resulta especialmente útil.

II. De comprender a discernir: la prudencia y el corazón que escucha

Podemos saber cómo realizar una actividad sin haber determinado todavía si corresponde realizarla. Esta diferencia permite avanzar desde el problema de la comprensión hacia otra cuestión: cómo juzgamos qué debemos hacer en una situación concreta.

1. Aristóteles: saber producir no es lo mismo que saber actuar

En el libro VI de la Ética a Nicómaco, Aristóteles distingue entre la téchne, vinculada al saber producir, y la phrónesis, habitualmente traducida como prudencia. La primera se refiere al conocimiento que permite producir algo; la segunda, a la capacidad de deliberar bien sobre aquello que conviene hacer en las circunstancias particulares de la vida humana.

La distinción importa porque producir algo correctamente y actuar bien no son lo mismo. Un profesional puede dominar los procedimientos necesarios para elaborar un contrato o ejecutar una operación financiera, pero ese conocimiento no determina por sí solo si conviene proceder de ese modo ni si el resultado responde al bien que se busca.

Volvamos al ejemplo de la empresa que necesita incorporar a un nuevo socio. Conocer el procedimiento para modificar sus estatutos permite preparar el documento correspondiente. Sin embargo, al examinar las razones de la solicitud, podríamos descubrir que existen desacuerdos sobre la administración que todavía no se han resuelto. Ese antecedente cambia la manera de abordar el problema.

Quizás lo adecuado sea preparar el documento solicitado; quizás convenga aclarar primero las diferencias entre los socios. La decisión dependerá de las circunstancias y de aquello que se pretende resolver. Al deliberar sobre qué hacer, podemos descubrir aspectos que no habíamos considerado y que modifican nuestra comprensión inicial.

Aquí encuentro el valor de la prudencia aristotélica. No basta con conocer los medios para alcanzar un resultado: también necesitamos juzgar qué acción resulta adecuada en las circunstancias concretas y hacia qué bien debería orientarse.

Esta distinción permite precisar el problema que plantea la inteligencia artificial. Una herramienta puede ayudarnos a encontrar una solución técnicamente correcta e incluso advertir dificultades que nosotros no habíamos reconocido. Pero la corrección técnica no resuelve por sí sola todas las preguntas relacionadas con la decisión. Todavía necesitamos examinar qué pretendemos conseguir, qué circunstancias importan y qué consecuencias tendría actuar de una manera u otra.

Esto no significa que las personas juzguemos siempre mejor que la tecnología. También podemos equivocarnos, pasar por alto antecedentes relevantes o defender decisiones perjudiciales. La cuestión es comprender qué exige el juicio práctico y qué responsabilidad asumimos cuando decidimos actuar.

2. El amor como disposición a prestar atención

Para profundizar en esta cuestión, quisiera detenerme en algo que no se refiere directamente a nuestros conocimientos, sino a nuestra disposición ante aquello que intentamos comprender: la importancia que concedemos a una situación y a las personas que pueden verse afectadas por nuestras decisiones.

Cuando alguien nos importa genuinamente, nuestra manera de atender a sus circunstancias puede cambiar. Quizás nos detengamos en algo que antes habíamos pasado por alto o nos preguntemos si la solución que parecía suficiente responde realmente a lo que esa persona necesita.

Creo que el amor puede intervenir en esa disposición. No porque nos proporcione respuestas correctas ni nos libre de cometer errores, sino porque puede llevarnos a prestar atención a aspectos que de otro modo no habríamos considerado.

Pensemos en la diferencia entre cumplir una tarea y procurar que el resultado sea verdaderamente útil para quien lo recibe. En el segundo caso, no basta con comprobar que hemos hecho lo solicitado. También necesitamos preguntarnos si nuestra intervención responde a las circunstancias de esa persona.

Sin embargo, preocuparnos por alguien no garantiza que sepamos qué le conviene. Podemos interpretar mal sus necesidades, proyectar nuestras propias expectativas o insistir en una solución que consideramos beneficiosa sin haber comprendido suficientemente su situación.

Por eso, el amor no sustituye al juicio. Puede motivarnos a comprender mejor, pero necesitamos examinar críticamente aquello que creemos haber comprendido. De lo contrario, una intención genuinamente buena puede terminar produciendo consecuencias que no deseábamos.

Esta relación entre el cuidado y la capacidad de juzgar me lleva a una imagen que encuentro especialmente significativa: la petición de Salomón de recibir un corazón que sepa escuchar.

3. Salomón y el corazón que escucha

En el Primer Libro de los Reyes, Salomón pide a Dios un corazón capaz de escuchar, para gobernar a su pueblo y discernir entre el bien y el mal (1 Re 3,9). Lo que me resulta significativo de esta petición es que Salomón no pide simplemente conocer más, sino adquirir la capacidad de juzgar para cumplir adecuadamente una responsabilidad que afecta a otras personas.

La imagen del corazón que escucha expresa una forma de reconocer los límites del propio juicio. Antes de decidir, necesitamos estar dispuestos a atender a una realidad que quizás no conocemos por completo y que puede obligarnos a revisar lo que inicialmente creíamos.

Benedicto XVI recupera esta petición en su discurso ante el Parlamento Federal alemán, pronunciado el 22 de septiembre de 2011. Al reflexionar sobre los fundamentos del derecho, plantea la necesidad de una razón abierta a reconocer lo justo, más allá de criterios como el éxito o la utilidad inmediata. La justicia exige preguntarnos no solo qué podemos hacer, sino también qué corresponde hacer.

Por su parte, el papa Francisco, en su mensaje Escuchar con los oídos del corazón (2022), destaca la escucha como una dimensión fundamental de la relación con los demás. Escuchar no consiste únicamente en recibir palabras, sino en prestar atención al otro sin dar por supuesto que ya comprendemos lo que necesita expresar.

Encuentro valiosa esta relación entre escuchar, comprender y discernir. Escuchar supone admitir que nuestra interpretación puede ser incompleta y que atender a las circunstancias de otra persona puede llevarnos a reconsiderar una decisión.

Pero tampoco la escucha garantiza el acierto. Podemos prestar atención y seguir interpretando mal una situación; podemos preocuparnos sinceramente por alguien y perjudicarlo porque no hemos valorado suficientemente las consecuencias de nuestra intervención.

Por eso, considero que el amor y la prudencia deben entenderse en relación. El amor puede movernos a prestar atención; la prudencia nos exige deliberar sobre qué hacer a partir de lo que hemos comprendido. Ninguno de los dos elimina la posibilidad de equivocarnos, pero juntos permiten pensar el juicio como algo más que la aplicación de un procedimiento o la búsqueda de un resultado.

La imagen bíblica del corazón que escucha no demuestra que el ser humano sea infalible ni que la inteligencia artificial sea incapaz de contribuir a una decisión. Su importancia para este ensayo es otra: nos recuerda que discernir implica reconocer aquello que está en juego para los demás y asumir la responsabilidad de nuestras acciones.

Ahora bien, reconocer esa responsabilidad también exige preguntarnos cómo se traduce en nuestras decisiones concretas. En el ámbito empresarial, donde el tiempo, los recursos y los riesgos tienen consecuencias económicas, esta cuestión adquiere una dimensión adicional: ¿cómo determinar cuándo conviene delegar una tarea en la inteligencia artificial y cuándo necesitamos intervenir directamente?

Esta pregunta nos conduce a la segunda parte del ensayo, en la que examinaré la relación entre el juicio humano, la automatización y el valor económico de las decisiones.

4. Cuidar también significa saber cuándo detenerse

Hay una dificultad que me parece especialmente interesante: a veces, cuidar exige investigar más allá de lo solicitado; otras veces, consiste precisamente en reconocer que no es necesario hacerlo.

En mi trabajo con empresas he aprendido que profundizar no siempre significa ayudar mejor. Podemos descubrir una dificultad importante al examinar antecedentes que inicialmente parecían secundarios. Pero también podemos dedicar tiempo y recursos a buscar problemas que no justifican una intervención adicional, o terminar ofreciendo más documentos, procedimientos y tecnología de los que una persona realmente necesita.

Creo que cuidar exige reconocer esa diferencia. Si nuestra preocupación es genuina, no debería importarnos únicamente resolver el problema, sino también evitar complicaciones innecesarias y considerar los recursos que nuestra intervención demanda.

En ocasiones, esto significa reconocer que la decisión corresponde a la propia persona. Podemos ayudarla a comprender sus alternativas y las consecuencias previsibles de cada una, sin sustituir su criterio ni asumir que sabemos mejor que ella qué le conviene.

La prudencia adquiere aquí un sentido concreto. No consiste en intervenir siempre ni en investigar indefinidamente, sino en determinar qué resulta adecuado en cada situación. A veces será necesario profundizar; otras, bastará con una solución sencilla. La diferencia no está en cuánto hacemos, sino en si lo que hacemos responde realmente al problema.

Esta consideración también cambia la manera en que entiendo la relación entre el juicio humano y la inteligencia artificial. Estas herramientas pueden ampliar nuestra capacidad de análisis, ayudarnos a descubrir alternativas y reducir el esfuerzo necesario para realizar determinadas tareas. Si permiten obtener un resultado fiable con menos recursos, utilizarlas puede ser una decisión perfectamente razonable.

Pero la posibilidad de producir una solución no demuestra que sea necesario aplicarla. Tampoco basta con que una herramienta haya funcionado bien en el pasado para concluir que siempre será conveniente delegar en ella. Nuestra decisión debe poder revisarse cuando cambien las circunstancias, aparezcan nuevos antecedentes o detectemos errores que antes desconocíamos.

La prudencia, por tanto, también interviene en la decisión de delegar: nos obliga a considerar no solo lo que una herramienta puede hacer, sino si conviene utilizarla en el caso concreto y qué grado de supervisión requiere. No se trata de desconfiar por principio de la tecnología, sino de evitar que la facilidad para obtener una respuesta sustituya el examen de su necesidad y sus consecuencias.

Hasta aquí he examinado cómo nuestras decisiones dependen de la comprensión del problema, de los fines que perseguimos y de la atención que prestamos a quienes podrían verse afectados. Queda por considerar una cuestión más concreta: qué consecuencias tiene este ejercicio para los resultados que obtenemos y para los recursos que empleamos.

Investigar una dificultad adicional puede evitar un error costoso; también puede consumir tiempo sin mejorar la decisión. Delegar una tarea puede reducir sus costes, pero hacerlo sin una supervisión adecuada podría generar consecuencias que superen el ahorro inicial.

Es aquí donde la reflexión filosófica se encuentra con el análisis económico. La pregunta ya no es únicamente qué decisión resulta prudente, sino cómo evaluar el valor de ese juicio, los costes de ejercerlo y los riesgos de dejar de hacerlo. También tendremos que considerar si delegar determinadas tareas de manera sistemática puede debilitar, con el tiempo, las capacidades que necesitamos para evaluar los resultados de esa misma delegación.

Segunda parte. La economía del juicio: de la eficiencia de las respuestas al valor de las decisiones

III. La eficiencia de la automatización y los límites de la decisión económica

Si en la primera parte he intentado mostrar que obtener una respuesta no equivale necesariamente a comprender un problema, ahora quisiera examinar qué consecuencias tiene esa diferencia cuando debemos decidir cómo organizar el trabajo en una empresa.

La cuestión ya no es únicamente si una herramienta puede producir una respuesta correcta, sino si utilizarla permite resolver mejor el problema, a qué costo y bajo qué condiciones. Esta distinción importa porque una tecnología puede reducir considerablemente el tiempo necesario para realizar una actividad sin que esa reducción se traduzca, en la misma proporción, en una mejora de la decisión.

Tampoco sería riguroso suponer que la intervención humana añade valor por el solo hecho de existir. Un profesional puede dedicar horas a examinar antecedentes irrelevantes, pasar por alto un riesgo o insistir en una revisión que no modifica el resultado. La inteligencia artificial, por su parte, puede realizar determinadas tareas con mayor rapidez, menor costo y una precisión que supera la de una persona en condiciones comparables.

El problema, por tanto, no consiste en defender de antemano una de las dos alternativas. Consiste en establecer qué aporta cada una y cuándo esa contribución justifica los recursos que exige.

Para hacerlo, conviene distinguir tres preguntas. La primera es económica: ¿qué alternativa permite obtener mejores resultados considerando sus costos y riesgos? La segunda es práctica: ¿qué acción resulta adecuada para las circunstancias concretas? La tercera es moral: ¿qué fines debemos perseguir y qué límites no deberíamos traspasar, aunque hacerlo resultara rentable?

Estas preguntas se relacionan, pero no son intercambiables. El análisis económico permite comparar alternativas y estimar sus consecuencias; la prudencia, en el sentido aristotélico desarrollado en la primera parte, concierne a la deliberación sobre qué conviene hacer. Y ninguna ventaja económica basta, por sí sola, para justificar una acción que vulnere una obligación o perjudique injustificadamente a otras personas.

Esta distinción será importante para el resto del ensayo. No pretendo demostrar que la intervención humana sea siempre superior a la automatización. Quiero examinar en qué condiciones el juicio contribuye a mejorar una decisión, cuándo resulta razonable delegar y qué deberíamos considerar si esa delegación modifica las capacidades con las que evaluaremos nuestras decisiones futuras.

IV. Reducir el costo de una respuesta no equivale a mejorar una decisión

En Prediction, Judgment, and Complexity: A Theory of Decision-Making and Artificial Intelligence, Agrawal, Gans y Goldfarb (2019) proponen una distinción especialmente útil para comprender las consecuencias económicas de la inteligencia artificial: la diferencia entre predicción y juicio.

La predicción permite estimar qué podría ocurrir; el juicio interviene cuando debemos valorar las alternativas disponibles y decidir cómo actuar a partir de esas estimaciones. Una mejora en la capacidad de anticipar resultados puede ampliar nuestras posibilidades de decisión, pero no determina automáticamente cuál de ellas conviene elegir. Para hacerlo, necesitamos considerar las consecuencias de cada alternativa y los objetivos que pretendemos alcanzar.

Esta distinción económica no equivale a la prudencia aristotélica. El análisis de Agrawal y sus colaboradores se ocupa de la relación entre predicción, decisión y valor económico; Aristóteles plantea una cuestión más amplia sobre la acción y el bien que debe orientarla. Sin embargo, ambos enfoques permiten reconocer un límite: disponer de mejores medios no resuelve, por sí solo, qué debemos hacer con ellos.

Pensemos en una empresa que utiliza inteligencia artificial para revisar contratos. La herramienta puede comparar versiones, identificar cláusulas problemáticas y preparar observaciones en una fracción del tiempo que necesitaría un profesional. Si alcanza una calidad adecuada para la tarea, la reducción del tiempo constituye una ventaja real.

Pero imaginemos que la empresa evalúa el sistema únicamente por la rapidez con que produce sus informes. Puede que los documentos estén correctamente elaborados y lleguen antes a sus destinatarios, mientras permanece sin examinar una circunstancia que habría cambiado la decisión de aceptar, renegociar o rechazar un acuerdo.

El problema no tiene por qué encontrarse en una respuesta incorrecta. Puede estar en que la respuesta, aunque adecuada para la pregunta formulada, no resuelva la dificultad que realmente importa.

La herramienta también podría advertir esa dificultad. No hay razón para atribuir a las personas una capacidad exclusiva para identificar problemas que la inteligencia artificial nunca podría reconocer. Lo que necesitamos examinar es si el procedimiento dispone de antecedentes suficientes, si contempla los riesgos relevantes y si existen criterios adecuados para evaluar el resultado.

Aquí aparece una diferencia económica fundamental: el costo de producir una respuesta no es necesariamente el costo de obtener una decisión satisfactoria. Al primero debemos añadir, según corresponda, los gastos de implementación y mantenimiento, la supervisión, la corrección de errores, las pérdidas que estos ocasionan y las consecuencias de modificar la organización del trabajo.

Esta distinción me llevó a plantearme una pregunta que terminó siendo central en el desarrollo de mi propia metodología: ¿cómo determinar si una solución es realmente conveniente, más allá de su capacidad para producir una respuesta correcta?

Antes de pensar en qué partes de un procedimiento podían automatizarse, necesitaba comprender qué problema pretendía resolver, qué criterios debían orientar el análisis y cómo podía evaluar si los resultados eran útiles. Solo entonces tenía sentido examinar qué tareas podía asumir una herramienta de inteligencia artificial y cuáles requerían otras formas de intervención.

Este orden no es un detalle menor. Si comenzamos por las capacidades de una tecnología, corremos el riesgo de adaptar el problema a aquello que la herramienta puede hacer. Si comenzamos por el problema, en cambio, podemos evaluar la tecnología en función de lo que necesitamos conseguir.

Por eso, no desarrollé mi metodología partiendo de la pregunta de cuánto trabajo podía automatizar, sino de cómo analizar una situación empresarial y determinar qué solución respondía mejor a sus circunstancias. La inteligencia artificial apareció después como una posibilidad para ampliar y ejecutar partes de ese trabajo.

V. Un criterio económico para comparar alternativas

Al intentar trasladar estas reflexiones al ámbito empresarial, me encontré con una dificultad concreta: necesitaba un criterio que permitiera comparar alternativas sin reducir la evaluación al costo inmediato de ejecutar una tarea.

En mi experiencia, una solución aparentemente sencilla puede ser suficiente. En otras ocasiones, examinar los antecedentes permite descubrir un riesgo que no se había considerado y cuya prevención justifica una intervención adicional. También puede suceder lo contrario: profundizar en un problema sin una razón suficiente consume recursos y no mejora el resultado.

Necesitaba, por tanto, una forma de ordenar estas consideraciones y hacer explícitos los elementos que intervienen en la decisión. De esa búsqueda surge la expresión que propongo a continuación:

En ella, a representa cada alternativa considerada y V(a), su valor económico neto esperado. Los demás términos permiten distinguir cuatro dimensiones: los beneficios operativos esperados, B(a); los costos de implementación y funcionamiento, C(a); las pérdidas económicas esperadas por los riesgos que permanecen después de aplicar los controles previstos, R(a); y el efecto económico neto futuro asociado a las capacidades de la organización, K(a).

Me interesa especialmente incluir este último componente porque una decisión de automatización puede producir consecuencias que no se manifiestan en el momento de adoptarla. Una herramienta puede liberar tiempo y facilitar el aprendizaje, pero también puede reducir las oportunidades de practicar determinadas habilidades. Si esas habilidades resultan necesarias más adelante, su pérdida podría generar costos de formación, dificultades operativas o una menor capacidad para responder a situaciones excepcionales.

No doy por supuesto que esos efectos sean siempre negativos. Una tecnología también puede contribuir al desarrollo de nuevas competencias o permitir que los profesionales dediquen más tiempo a actividades de mayor complejidad. Por eso, K(a) es una variable con signo que expresa el efecto económico neto futuro sobre las capacidades: es positiva cuando predominan los costos futuros y el efecto resulta desfavorable para la organización, y negativa cuando predominan los beneficios futuros y el efecto es favorable. Dado que se resta en la fórmula, un valor positivo reduce V(a), mientras que un valor negativo lo incrementa.

Esta expresión es una propuesta analítica que desarrollo para ordenar la comparación, no una fórmula económica universal ni un instrumento validado empíricamente. Tampoco presupone que todas las consecuencias relevantes puedan traducirse de manera fiable a una cifra monetaria. Su propósito es más limitado: evitar que una decisión parezca conveniente únicamente porque reduce los costos inmediatos, cuando podría generar otros efectos económicos que también deberían considerarse.

Para aplicarla con rigor, hay dos precauciones que considero indispensables. La primera es evitar la doble contabilización: si la pérdida de una habilidad aumenta la probabilidad de que un error pase inadvertido y ese efecto ya está recogido en R(a), no corresponde descontar nuevamente la misma pérdida en K(a). La segunda es mantener un horizonte temporal común. Si comparamos alternativas cuyos costos y beneficios se distribuyen a lo largo de varios años, los flujos futuros deben expresarse en valores presentes mediante una tasa de descuento explícita.

Para calcular el valor presente, cada flujo anual estimado de los beneficios, costos, riesgos y efectos sobre las capacidades se divide por (1 + r) elevado a t, donde r es la tasa de descuento y t el número de años transcurridos hasta ese flujo; luego se suman los flujos descontados de cada componente, utilizando el mismo horizonte temporal para todas las alternativas. Cuando existan datos suficientes, también debería estimarse explícitamente cómo una menor capacidad de supervisión modifica la probabilidad de no detectar errores y, por esa vía, las pérdidas esperadas por riesgos residuales, sin contabilizar nuevamente el mismo efecto como un costo de capacidades.

La fórmula no elimina la incertidumbre ni sustituye la deliberación. Me permite, más bien, formular una pregunta económica más completa: ¿qué alternativa ofrece mejores resultados cuando consideramos no solo los recursos que consume hoy, sino también los riesgos y las consecuencias futuras que podemos identificar razonablemente?

Un ejemplo de aplicación

Para ilustrar cómo podría utilizarse este criterio, imaginemos una empresa que necesita revisar sus contratos y considera tres alternativas: automatizar la mayor parte del procedimiento, combinar inteligencia artificial con supervisión profesional o mantener una revisión realizada principalmente por personas.

Los valores siguientes son hipotéticos, están expresados en miles de unidades monetarias y representan supuestos de trabajo, no resultados observados en una empresa real.

Bajo estos supuestos, la alternativa que combina inteligencia artificial y supervisión profesional presenta el mayor valor neto esperado. Aunque sus costos son superiores a los de la automatización completa, la diferencia queda compensada por los mayores beneficios estimados y las menores pérdidas asociadas a los riesgos residuales.

Sin embargo, no considero que este resultado permita concluir que la supervisión profesional sea siempre preferible. La clasificación depende de las estimaciones utilizadas y de los supuestos que las sustentan. Si la automatización completa ofreciera una fiabilidad mayor de la prevista, o si la intervención profesional apenas modificara los resultados, la alternativa más conveniente podría ser otra.

Precisamente por eso considero importante distinguir entre ilustrar un criterio y demostrar una conclusión. El ejemplo permite observar cómo cambia una comparación cuando incorporamos más dimensiones económicas; no demuestra que las cifras sean representativas de una empresa real ni que una determinada distribución de tareas sea superior en todos los contextos.

En una aplicación efectiva, contrastaría los supuestos con datos disponibles, examinaría escenarios desfavorables y comprobaría cuánto tendría que variar cada estimación para modificar la decisión. Cuando la información fuera insuficiente, preferiría trabajar con intervalos y análisis de sensibilidad antes que presentar una cifra única con una precisión que los antecedentes no permiten justificar.

Podemos ilustrarlo con un análisis de sensibilidad sencillo. En la tabla, la alternativa con supervisión alcanza un valor neto esperado de 600, frente a 350 de la automatización completa: la diferencia es de 250 mil unidades monetarias. Si, manteniendo todas las demás cifras constantes, los costos totales de la opción con supervisión aumentaran de 500 a 750, ambas alternativas quedarían empatadas; si superaran 750, la automatización completa tendría el mayor valor neto de las dos. El mismo cambio de clasificación se produciría si las pérdidas esperadas por riesgos residuales de la opción supervisada aumentaran de 100 a más de 350: en 350 habría un empate. Estos umbrales no son predicciones, sino una manera de mostrar cuánto tendrían que variar los supuestos para modificar el resultado.

Hay, además, un límite que considero esencial: el valor económico esperado no puede ser el único criterio de admisibilidad. Una alternativa no resulta aceptable por el mero hecho de ofrecer una rentabilidad superior si incumple obligaciones legales, vulnera derechos o deja de satisfacer requisitos indispensables de seguridad y calidad. Esos límites deben establecerse antes de comparar la conveniencia económica de las opciones.

La utilidad de la expresión propuesta reside, entonces, en hacer más explícitas las razones de una elección. No pretende decidir por nosotros, sino ayudarnos a reconocer qué estamos valorando, qué consecuencias estamos incluyendo y cuáles podrían quedar fuera del análisis.

VI. Productividad, evidencia y límites de la colaboración entre personas e inteligencia artificial

Hasta aquí he propuesto un criterio para comparar alternativas. Pero ese criterio solo será útil si podemos contrastar, al menos parcialmente, nuestras estimaciones con la evidencia disponible.

La investigación empírica ofrece resultados importantes, aunque no permite establecer una regla universal sobre qué tareas deberían automatizarse o cuánto valor aporta la supervisión humana.

Brynjolfsson, Li y Raymond (2025), en un estudio publicado en The Quarterly Journal of Economics, analizaron la introducción de un asistente conversacional basado en inteligencia artificial entre 5.172 trabajadores de atención al cliente. Los autores encontraron un aumento promedio del 15 % en la productividad, medida según la cantidad de asuntos resueltos por hora. Los efectos variaron entre los trabajadores: quienes tenían menos experiencia obtuvieron mejoras importantes, mientras que las ganancias de velocidad de los más experimentados fueron más modestas y, en algunos casos, estuvieron acompañadas de reducciones de calidad. El estudio también encontró evidencia compatible con un efecto de aprendizaje.

Estos resultados son relevantes porque muestran que la inteligencia artificial puede hacer algo más que acelerar una tarea: bajo determinadas condiciones, puede ayudar a los trabajadores a mejorar su desempeño. Sin embargo, los resultados corresponden a una actividad, una herramienta y una población específicas. No permiten concluir que cualquier forma de automatización produzca beneficios equivalentes.

Tampoco debemos confundir productividad con valor económico total. Resolver más asuntos por hora constituye una mejora operativa, pero para determinar su efecto económico necesitamos considerar los costos de adopción, integración, mantenimiento y supervisión, además de la calidad del servicio y las pérdidas que puedan derivarse de los errores.

La misma exigencia debe aplicarse a la colaboración entre personas e inteligencia artificial. Sería contradictorio exigir evidencia para evaluar una herramienta y suponer, sin comprobarlo, que añadir una persona al proceso mejora automáticamente su desempeño.

Vaccaro, Almaatouq y Malone (2024), mediante una revisión sistemática y un metaanálisis de 106 experimentos, compararon el desempeño de personas, sistemas de inteligencia artificial y combinaciones de ambos. En promedio, las combinaciones humano-IA obtuvieron resultados inferiores a los del componente que alcanzaba el mejor desempeño por separado. Los autores también identificaron diferencias según el tipo de tarea: la colaboración tendía a producir resultados menos favorables en tareas de decisión y más favorables en tareas de creación de contenido.

Este hallazgo cuestiona una intuición extendida: reunir las capacidades humanas y artificiales no garantiza que el resultado conjunto sea superior al que cada componente podría alcanzar por separado.

La colaboración puede aportar valor cuando cada parte contribuye con capacidades pertinentes y existe un procedimiento adecuado para integrar sus aportes. También puede introducir costos, favorecer la aceptación acrítica de una recomendación o dificultar la identificación de errores.

Por eso, no basta con incorporar una revisión humana al final de un procedimiento automatizado. Necesitamos establecer qué aporta realmente esa revisión, qué errores permite detectar y si la mejora obtenida justifica el costo adicional.

El metaanálisis no demuestra que la colaboración humano-IA sea generalmente ineficaz. Sus conclusiones dependen de las tareas, los sistemas y las condiciones de los experimentos incluidos. Su contribución es más precisa: muestra que la superioridad de una combinación debe comprobarse para la actividad y el resultado que pretendemos mejorar.

Al poner estos estudios en relación, encuentro una conclusión que considero fundamental para el argumento de este ensayo: no podemos determinar de antemano que la automatización, la intervención humana o la combinación de ambas producirán siempre el mejor resultado.

La inteligencia artificial puede aumentar la productividad y favorecer el aprendizaje en determinadas condiciones. La colaboración con una persona, por su parte, puede mejorar el resultado, pero también introducir costos o reducir el desempeño respecto de la alternativa que funcionaba mejor por separado. Por tanto, la conveniencia de cada opción debe examinarse en relación con la tarea, los resultados que buscamos y las condiciones concretas en las que se desarrolla.

Esta conclusión también obliga a examinar la intervención humana con el mismo rigor que exigimos a la tecnología. No sería coherente pedir evidencia para confiar en un sistema automatizado y, al mismo tiempo, suponer que la presencia de una persona mejora necesariamente el procedimiento.

Mi interés no es defender la supervisión humana como un requisito universal, sino identificar cuándo aporta un beneficio que justifica su costo y qué capacidades necesitamos conservar para que esa supervisión sea efectiva. Esa pregunta nos conduce a un problema distinto del rendimiento inmediato: las consecuencias que una decisión de automatización puede tener sobre la capacidad futura de la organización para evaluar sus propias herramientas.

La evaluación económica, sin embargo, no agota el problema. Una organización podría reducir sus costos trasladando riesgos importantes a sus clientes o aprovechando información que no debería utilizar. El ahorro sería real, pero no bastaría para justificar la decisión.

Cuando una actividad afecta a terceros, también debemos considerar las consecuencias que recaen sobre ellos y respetar los límites que no deberían vulnerarse para obtener una ventaja económica.

Hasta aquí, el problema ha consistido en comparar las alternativas disponibles y comprobar qué resultados producen. Pero queda una cuestión que las evaluaciones iniciales pueden pasar por alto: una alternativa que funciona bien hoy puede modificar las condiciones que permitirán utilizarla de manera fiable mañana.

VII. La paradoja de delegar el juicio: aprendizaje y capacidades futuras

Imaginemos una empresa que incorpora inteligencia artificial a sus procesos de análisis y decisión.

Al principio, los resultados son favorables. Sus profesionales ahorran tiempo, automatizan tareas rutinarias y pueden dedicar más atención a otras actividades. La productividad aumenta y la dirección decide extender el uso de la herramienta.

Con el paso del tiempo, el procedimiento se vuelve habitual. Las recomendaciones se aceptan porque, en la mayoría de los casos, resultan satisfactorias. Algunas actividades que antes permitían a los profesionales contrastar alternativas, practicar determinadas habilidades y reconocer errores dejan de formar parte de su trabajo cotidiano.

No hay razón para suponer que esto tenga consecuencias negativas en todos los casos. La herramienta podría continuar funcionando correctamente y la organización podría utilizar el tiempo liberado para desarrollar otras capacidades. Pero también cabe la posibilidad de que algunas habilidades necesarias para evaluar el sistema dejen de ejercitarse.

El problema se haría visible si apareciera una situación excepcional. El sistema produce entonces una recomendación inadecuada, quizá porque las circunstancias difieren de aquellas en las que se había comprobado su desempeño. Los profesionales deben intervenir, pero ya no tienen la misma práctica para identificar el problema y valorar las alternativas.

La empresa conserva una herramienta eficiente. Lo que podría haber perdido, al menos parcialmente, es la capacidad para reconocer cuándo esa herramienta necesita ser corregida o cuándo conviene dejar de utilizarla.

Lo que me interesa de este escenario no es afirmar que la automatización conduzca necesariamente a una pérdida de capacidades. Esa conclusión sería demasiado amplia para los antecedentes que tenemos. Me interesa examinar una posibilidad más precisa: que una organización obtenga mejoras inmediatas al delegar determinadas actividades y que, con el tiempo, reduzca las oportunidades de practicar algunas de las habilidades que necesita para evaluar esa delegación.

Si eso ocurre, el problema no consistiría únicamente en haber perdido destreza para ejecutar una tarea. También podría afectar a la capacidad de reconocer cuándo el procedimiento automatizado deja de ser fiable, cuándo las circunstancias requieren una revisión o cuándo resulta conveniente modificar la distribución de responsabilidades.

Esta posibilidad me parece especialmente relevante porque introduce una dimensión temporal en la decisión económica. La alternativa que produce mejores resultados hoy no tiene por qué seguir siendo la más conveniente si modifica las capacidades con las que la organización deberá evaluar su funcionamiento mañana.

No afirmo que ese deterioro se produzca siempre ni que la ejecución manual sea la única manera de evitarlo. Una organización puede conservar una supervisión competente mediante formación, pruebas independientes, revisión de casos excepcionales y otros mecanismos de control. Lo que necesita es comprobar que esos mecanismos funcionan, en lugar de dar por sentada su eficacia porque formalmente exista una persona encargada de supervisar.

La pregunta que propongo investigar es, por tanto, más concreta que una defensa general de la intervención humana: ¿qué capacidades deben conservarse para que una organización pueda seguir evaluando de manera fiable las decisiones que ha delegado?

1. La automatización y la paradoja de la supervisión

Esta preocupación tiene antecedentes en la literatura sobre automatización.

En Ironies of Automation (1983), Lisanne Bainbridge examinó las dificultades que pueden surgir cuando los sistemas automatizados asumen las operaciones habituales y las personas quedan encargadas de supervisar su funcionamiento e intervenir ante situaciones anormales.

La dificultad está en la distribución del trabajo. Las personas deben conservar la capacidad de intervenir cuando algo falla, pero las oportunidades de practicar las habilidades necesarias pueden disminuir precisamente porque el sistema realiza de forma automática las operaciones ordinarias.

Bainbridge estudió procesos de automatización industrial. Su trabajo no demuestra que los sistemas actuales de inteligencia artificial generativa produzcan necesariamente los mismos efectos. Sí ofrece una razón para examinar una tensión que sigue siendo relevante: podemos mantener formalmente la responsabilidad de supervisar un sistema mientras reducimos las oportunidades de desarrollar las capacidades necesarias para hacerlo.

Athey, Bryan y Gans (2020) permiten estudiar otra dimensión del problema mediante un modelo económico sobre la asignación de autoridad entre personas e inteligencia artificial. Su análisis examina cómo esa distribución puede modificar los incentivos del agente humano para esforzarse en conocer las consecuencias de sus decisiones.

Bajo determinados supuestos, conservar autoridad para decidir puede incentivar el aprendizaje, mientras que delegar autoridad puede reducir el esfuerzo destinado a adquirir ese conocimiento. Se trata de un resultado teórico condicionado por las características del modelo, no de una constatación de que toda delegación provoque pérdida de habilidades.

Su interés para este ensayo reside en mostrar que la decisión sobre quién realiza una actividad no solo afecta al resultado inmediato. También puede modificar los incentivos y las capacidades de quienes tendrán que tomar decisiones posteriormente.

Aquí encuentro una conexión con la inquietud que me llevó a escribir sobre Homo videns durante mi etapa universitaria. Sartori examinó los riesgos que podía representar el predominio de la imagen para el ejercicio de determinadas capacidades intelectuales. No estudió la inteligencia artificial generativa ni podemos atribuirle conclusiones sobre sus efectos actuales.

Su reflexión, sin embargo, permite plantear una pregunta contemporánea: ¿qué ocurre cuando dejamos de recibir únicamente información y comenzamos a recibir también análisis, argumentos y recomendaciones que antes debíamos elaborar por nuestra cuenta?

La respuesta no tiene por qué ser negativa. El estudio de Brynjolfsson, Li y Raymond ofrece evidencia compatible con la posibilidad de que la inteligencia artificial facilite el aprendizaje. Estas herramientas pueden ayudar a contrastar hipótesis, comprender procedimientos y reconocer errores.

Pero también podrían favorecer la aceptación de respuestas que no examinamos suficientemente. El resultado dependerá, entre otros factores, de la forma en que se utilicen, de las oportunidades de aprendizaje que se mantengan y de los mecanismos establecidos para comprobar la calidad de las respuestas.

Por eso, no considero riguroso afirmar que la inteligencia artificial fortalece o debilita necesariamente nuestras capacidades. Lo que corresponde investigar es qué formas de utilización contribuyen a desarrollarlas, cuáles permiten conservarlas y cuáles podrían deteriorarlas.

2. El costo de perder la capacidad de supervisar

En una empresa, la pérdida de una habilidad técnica puede generar gastos de formación o dificultades para recuperar un procedimiento que antes se realizaba internamente. Pero cuando esa habilidad también permite supervisar un sistema automatizado, su deterioro puede afectar a la fiabilidad del proceso completo.

Conviene distinguir dos capacidades: realizar una tarea y evaluar cuándo el procedimiento encargado de realizarla necesita ser cuestionado.

Ambas pueden estar relacionadas, pero no son idénticas. Una organización puede dejar de ejecutar determinadas actividades manualmente y conservar una supervisión competente mediante pruebas independientes, formación, controles de calidad y procedimientos de contingencia. La automatización no exige necesariamente mantener intactas todas las habilidades anteriores.

La dificultad aparece cuando la delegación reduce precisamente las capacidades de las que depende la supervisión y la organización no dispone de mecanismos alternativos suficientemente fiables.

Desde el punto de vista económico, esta posibilidad debe incorporarse a la evaluación de la automatización, aunque no siempre sea posible cuantificarla con precisión.

En el criterio propuesto, los costos de recuperar habilidades pueden formar parte de K(a). Si la menor capacidad de supervisión aumenta la probabilidad de que errores importantes permanezcan sin detectar, ese efecto puede reflejarse en R(a), siempre que no se contabilice dos veces la misma consecuencia.

No deberíamos asignar cifras arbitrarias a estos efectos ni presentar como demostrada una pérdida de capacidades que todavía no hemos observado. Pero tampoco sería riguroso excluirla de la evaluación simplemente porque resulte difícil medirla.

Una alternativa que parece económicamente superior hoy podría dejar de serlo si, con el tiempo, disminuye la eficacia de sus controles y aumenta el costo de responder a situaciones excepcionales.

La pregunta, por tanto, no es únicamente cuánto trabajo puede realizar una herramienta. También debemos preguntarnos bajo qué condiciones podremos seguir evaluando su desempeño y qué recursos serán necesarios para corregirla cuando falle.

Aquí vuelve a aparecer la prudencia aristotélica. Deliberar bien no significa realizar personalmente todas las tareas. Delegar puede ser razonable y, en determinados casos, preferible. Pero también debemos examinar las circunstancias que justifican esa decisión y reconocer cuándo han cambiado lo suficiente como para reconsiderarla.

La capacidad de revisar nuestra propia decisión de delegar forma parte del problema práctico que estamos intentando resolver.

Esto permite precisar qué merece la pena conservar del juicio humano. No necesariamente la ejecución manual de cada actividad, sino las capacidades que permiten comprender el procedimiento, evaluar sus consecuencias y reconocer cuándo es necesario actuar de otra manera.

3. El cuidado como orientación de la atención y de los fines

La paradoja de la delegación también permite volver sobre una cuestión planteada en la primera parte: el lugar del cuidado en nuestras decisiones.

Allí sugerí que la preocupación por otras personas puede llevarnos a examinar una solicitud más allá de sus términos iniciales. No quisiera convertir esa idea en la afirmación de que el amor nos hace necesariamente más inteligentes o de que una solución desarrollada por una persona es superior a otra propuesta por inteligencia artificial.

Me interesa una posibilidad más precisa: aquello que nos importa puede influir en las preguntas que formulamos, en los problemas que identificamos y en las consecuencias que consideramos antes de decidir.

Grant y Berry (2011) estudiaron la relación entre la motivación intrínseca, la motivación prosocial, la adopción de la perspectiva de otras personas y la creatividad. Sus resultados sugieren que considerar las necesidades ajenas puede favorecer la producción de ideas que sean a la vez novedosas y útiles.

Este estudio no demuestra que el amor garantice mejores decisiones ni permite trasladar automáticamente sus resultados a todas las decisiones empresariales. Sí ofrece motivos para considerar que nuestra orientación hacia otras personas puede influir en la manera de identificar problemas y desarrollar soluciones.

La relación con el argumento anterior es importante. Antes de comparar el costo de distintas alternativas, necesitamos identificar qué problema merece ser resuelto y qué consecuencias importan para las personas involucradas. De lo contrario, podríamos evaluar con gran precisión opciones que no responden a una necesidad real.

Al pensar en mi experiencia profesional, reconozco esa dificultad. Cuando una empresa solicita un documento, una revisión o una herramienta tecnológica, cumplir correctamente la solicitud puede ser suficiente. Pero también puede ocurrir que, al examinar los antecedentes, descubramos que la dificultad real es distinta de aquella que inicialmente se nos pidió resolver.

Advertir esa diferencia puede permitirnos identificar un riesgo, evitar una inversión innecesaria o concluir que no hace falta desarrollar una nueva solución.

La misma disposición puede ser relevante al decidir cuánto delegar. Si nos importa el resultado que recibirán nuestros clientes, no basta con comprobar que una herramienta funciona en condiciones habituales. También necesitamos preguntarnos qué ocurriría si falla, quién soportaría las consecuencias y si la organización podría reconocer a tiempo el problema.

Sin embargo, identificar una necesidad no garantiza que sepamos responder adecuadamente. Una preocupación genuina puede llevarnos a intervenir innecesariamente, complicar una situación sencilla o sustituir el criterio de la persona a quien pretendemos ayudar.

Por eso, el cuidado no debería medirse por la cantidad de trabajo adicional que realizamos. Necesitamos contrastar nuestra interpretación con las circunstancias y reconocer cuándo corresponde detenernos.

Si una solución automatizada resuelve una tarea con fiabilidad suficiente, a menor costo y con mecanismos adecuados para detectar y corregir fallos, insistir en una revisión humana adicional puede ser innecesario. Si, por el contrario, la decisión depende de circunstancias relevantes que el procedimiento no contempla, tendremos que examinar qué información, controles y capacidades hacen falta para abordar esa dificultad.

El cuidado no sustituye al análisis económico. Nos ayuda a reconocer qué necesidades y consecuencias merecen atención; el análisis económico permite evaluar si la intervención propuesta produce beneficios suficientes para justificar sus costos. Y los límites morales impiden reducir todas las decisiones a una comparación monetaria.

Estas perspectivas cumplen funciones diferentes. Su valor está en que pueden complementarse sin confundirse.

VIII. Cuándo automatizar, cuándo supervisar y cuándo intervenir

Las consideraciones anteriores permiten pasar de una reflexión general a un procedimiento de decisión. Si queremos determinar qué tareas conviene automatizar, supervisar o mantener principalmente bajo intervención humana, necesitamos comparar alternativas concretas, sin partir de una preferencia previa por la tecnología o por el trabajo humano.

La paradoja de la delegación añade una exigencia: no basta con determinar qué procedimiento funciona mejor al adoptarlo. También debemos considerar cómo se conservará la capacidad de evaluar su conveniencia mientras lo utilizamos.

Propongo organizar esta evaluación en cuatro dimensiones.

Este marco es una propuesta analítica del ensayo, no una herramienta cuantitativa validada empíricamente. Su función consiste en organizar las preguntas que deberían orientar la evaluación económica y práctica de cada alternativa.

La relevancia importa porque no todos los errores tienen las mismas consecuencias. Una equivocación administrativa fácilmente corregible puede tener un costo limitado; un error contractual, financiero o de seguridad puede producir pérdidas importantes y afectar a terceros. La importancia de las consecuencias debe influir en los controles que establecemos, sin que eso signifique que la intervención humana sea siempre el mecanismo más fiable.

La incertidumbre obliga a examinar la información disponible y las condiciones en las que se ha evaluado la herramienta. Un sistema puede ofrecer buenos resultados en situaciones habituales y resultar menos fiable cuando cambian los antecedentes. Obtener información adicional puede mejorar una decisión, aunque también tiene un costo. Necesitamos determinar si la información que falta puede modificar el resultado y si merece la pena obtenerla.

La reversibilidad permite distinguir entre decisiones que pueden corregirse con facilidad y aquellas cuyos efectos son difíciles de reparar. Cuando una acción es reversible y sus resultados pueden detectarse rápidamente, puede ser razonable automatizarla con mecanismos de seguimiento adecuados. Cuando las consecuencias son difíciles de revertir, puede justificarse una evaluación previa más exigente, así como procedimientos de autorización y contingencia.

El aprendizaje amplía el análisis hacia el futuro. La automatización puede liberar tiempo para actividades más complejas, pero también reducir las oportunidades de practicar habilidades necesarias para detectar errores. Cuando esas capacidades sean relevantes para la continuidad de una organización, debemos considerar cómo se conservarán y comprobarán.

Estas dimensiones no constituyen una regla automática. Una decisión de consecuencias graves puede beneficiarse más de un sistema automatizado debidamente validado que de una revisión humana poco fiable. Lo determinante es establecer qué procedimiento ofrece mejores resultados dentro de los límites legales, éticos y de calidad aplicables.

Un procedimiento para decidir

A partir de estas dimensiones, propongo cinco pasos.

1. Definir el objetivo y los límites. Precisar qué problema se pretende resolver, qué resultados se consideran satisfactorios y qué requisitos legales, éticos y de calidad debe cumplir cualquier alternativa.

2. Identificar las alternativas. Comparar la automatización completa, la combinación de inteligencia artificial y supervisión humana y la intervención principalmente humana, siempre que sean opciones viables para la actividad.

3. Estimar los componentes económicos. Evaluar los beneficios esperados B(a), los costos totales C(a), las pérdidas por riesgos residuales R(a) y los efectos económicos futuros de las capacidades K(a). Las estimaciones deben evitar la doble contabilización y utilizar un horizonte temporal común.

4. Contrastar los supuestos con evidencia. Utilizar datos históricos, pruebas o proyectos piloto para comprobar la calidad de los resultados, analizar escenarios desfavorables y determinar si la intervención adicional mejora efectivamente el desempeño.

5. Elegir, supervisar y revisar. Adoptar la alternativa admisible con mejores resultados esperados, establecer indicadores para detectar desviaciones y reconsiderar la decisión cuando cambien las circunstancias.

Añadiría una comprobación transversal a estos cinco pasos: verificar periódicamente que la organización conserva la capacidad efectiva de reconocer errores relevantes y modificar o suspender el procedimiento cuando sea necesario.

Según la actividad, esto podría incluir pruebas con errores conocidos, revisión de situaciones excepcionales, evaluación de la capacidad de los profesionales para detectar recomendaciones incorrectas o ejercicios de contingencia. No todos los procedimientos necesitan los mismos controles, ni es indispensable conservar todas las habilidades de ejecución manual. Lo que debe comprobarse es que los mecanismos de supervisión siguen siendo adecuados para los riesgos que se pretende controlar.

Una empresa podría disponer formalmente de profesionales encargados de revisar las recomendaciones de un sistema y, sin embargo, descubrir que esa revisión ya no permite identificar determinados errores. La existencia de supervisión humana no demostraría, por sí sola, que el procedimiento está suficientemente controlado.

Esta distinción conecta con la paradoja examinada: si la delegación puede modificar las capacidades de quienes deben evaluarla, la calidad de la supervisión también debe comprobarse a lo largo del tiempo.

No siempre será posible asignar un valor monetario fiable a todas las variables. Cuando falte evidencia, es preferible trabajar con intervalos, escenarios o análisis de sensibilidad que inventar cifras para producir una apariencia de precisión. También pueden establecerse requisitos mínimos de calidad y límites de riesgo que las alternativas deban satisfacer antes de compararlas económicamente.

Tampoco necesitamos encontrar una solución perfecta antes de actuar. Una empresa puede comenzar con una prueba limitada, comparar los resultados con un procedimiento de referencia, identificar errores y ajustar los controles a partir de la evidencia obtenida.

El objetivo no es eliminar toda incertidumbre, sino adoptar decisiones proporcionales a los riesgos, los recursos disponibles y la información que realmente poseemos.

IX. El valor del juicio depende de lo que permite conseguir y de aquello que debemos considerar

Al reunir estas consideraciones, creo que podemos precisar mejor dónde reside el valor del juicio en las decisiones empresariales.

No reside necesariamente en ejecutar personalmente cada tarea ni en añadir una revisión humana a todo procedimiento automatizado. Una intervención tiene valor cuando contribuye a mejorar los resultados, identificar un problema relevante, reducir riesgos o preservar capacidades necesarias para actuar en el futuro. Si no produce una mejora suficiente para justificar sus costos, mantenerla por principio carecería de fundamento económico.

La prudencia aristotélica introduce, sin embargo, una cuestión que no se agota en esa comparación: deliberar sobre los medios no determina por sí solo qué fines debemos perseguir. El cuidado amplía nuestra atención hacia las necesidades y consecuencias que afectan a otras personas, mientras que el análisis económico nos ayuda a examinar los recursos y resultados asociados a las alternativas disponibles.

Estas perspectivas cumplen funciones distintas. La evaluación económica permite comparar opciones admisibles; la prudencia nos invita a considerar qué acción resulta adecuada en las circunstancias concretas; y los límites legales y morales impiden justificar cualquier resultado por su rentabilidad.

La inteligencia artificial puede contribuir a cada etapa de este proceso mediante el análisis de información, la comparación de alternativas y la identificación de posibles dificultades. En determinadas circunstancias, delegar puede ser la mejor decisión. En otras, necesitaremos mecanismos adicionales de control o tendremos que reconsiderar la conveniencia de hacerlo.

A mi juicio, la paradoja de la delegación añade una exigencia que no deberíamos pasar por alto: no basta con comprobar que una herramienta produce resultados satisfactorios. También necesitamos saber si conservamos la capacidad de reconocer cuándo esos resultados dejan de ser fiables y de modificar nuestra decisión cuando las circunstancias lo exigen.

Esto no implica preservar el juicio humano como una especie de privilegio frente a la tecnología. Implica tratarlo como una capacidad que tiene que demostrar su utilidad, mantenerse y desarrollarse allí donde resulte necesaria.

Incluso después de identificar la alternativa económicamente más conveniente entre las opciones admisibles, permanece una pregunta que el cálculo no puede resolver por sí solo: ¿qué fines debemos perseguir y qué consecuencias estamos dispuestos a aceptar para alcanzarlos?

Es en esa relación entre la evaluación de los medios, la deliberación sobre los fines y la responsabilidad por las consecuencias donde sitúo el valor del juicio humano en la era de la inteligencia artificial.

Conclusión

Comencé este ensayo preguntándome qué sucede cuando una respuesta resulta tan convincente que dejamos de sentir la necesidad de examinarla.

Al volver sobre Homo videns, encontré una preocupación que ya estaba presente en mis reflexiones universitarias: la importancia de conservar nuestra capacidad de abstracción y no confundir el acceso a la información con una comprensión suficiente de la realidad.

La inteligencia artificial transforma profundamente esta cuestión. Ahora no solo podemos recibir información; también podemos obtener interpretaciones, argumentos y recomendaciones que facilitan nuestro trabajo de maneras extraordinarias. Pero esa posibilidad no elimina la necesidad de examinar qué problema estamos intentando resolver ni garantiza que la respuesta obtenida sea suficiente para abordarlo.

Aristóteles permite avanzar hacia una dificultad adicional: comprender una situación tampoco determina necesariamente qué corresponde hacer. La prudencia exige deliberar sobre nuestras acciones, atendiendo a las circunstancias particulares y al bien que pretendemos alcanzar.

En este recorrido he querido destacar también el lugar del amor y del cuidado. Creo que cuando alguien nos importa, nuestra disposición a comprender puede cambiar. Quizás prestemos atención a circunstancias que antes no habíamos considerado o sintamos la necesidad de cuestionar una solución aparentemente suficiente.

Eso no nos hace infalibles. Precisamente porque nos importa el bienestar de otras personas, necesitamos examinar nuestras interpretaciones, contrastar lo que creemos haber comprendido y reconocer cuándo una intervención puede resultar innecesaria. Cuidar no significa hacer siempre más, sino procurar que aquello que hacemos responda realmente a las circunstancias.

Al trasladar estas reflexiones al ámbito empresarial, la pregunta adquiere una dimensión económica. La inteligencia artificial puede reducir el costo de producir respuestas y mejorar la productividad, pero la conveniencia de utilizarla depende de algo más que su rapidez. Necesitamos considerar los resultados obtenidos, los costos totales, los riesgos residuales y las consecuencias que la automatización puede tener sobre las capacidades futuras de la organización.

La evidencia examinada tampoco permite defender una regla universal. En determinadas tareas, la inteligencia artificial mejora el desempeño y facilita el aprendizaje. En otras, combinarla con una intervención humana no garantiza mejores resultados. Por eso, tanto la automatización como la supervisión deben evaluarse a partir de sus efectos reales.

La paradoja de la delegación introduce una dificultad adicional: podemos beneficiarnos de una herramienta y, al mismo tiempo, reducir las oportunidades de practicar algunas de las habilidades necesarias para evaluar su funcionamiento. Esta posibilidad no demuestra que toda automatización debilite el juicio, pero sí justifica examinar cómo se conservarán las capacidades de supervisión y cómo se revisará la decisión de delegar cuando cambien las circunstancias.

Mi conclusión no es que debamos reservar a las personas todas aquellas tareas que una máquina pueda realizar. Tampoco que debamos aceptar la automatización siempre que prometa un ahorro. Lo que propongo es evaluar cada alternativa atendiendo al problema que pretende resolver, a sus consecuencias y a los límites que debemos respetar.

Quizás el verdadero desafío consista en aprender a delegar sin renunciar a comprender qué estamos delegando; en aprovechar la capacidad de la tecnología sin confundir la eficiencia de sus operaciones con la conveniencia de nuestras decisiones.

Vuelvo entonces al asombro del que partí. Aquella inquietud que nos lleva a preguntar por qué algo sucede puede ser el comienzo de una comprensión más profunda, pero también puede obligarnos a reconocer que todavía no sabemos lo suficiente para decidir.

La inteligencia artificial puede ayudarnos en esa búsqueda. Puede ampliar nuestras posibilidades, mostrarnos relaciones que no habíamos advertido y cuestionar nuestras primeras interpretaciones. Lo decisivo será cómo utilizamos esas contribuciones, qué criterios empleamos para evaluarlas y si estamos dispuestos a revisar nuestras conclusiones cuando la realidad no se ajusta a ellas.

Por eso, no situaría el valor del juicio humano en la obligación de encontrar siempre una respuesta que la tecnología no pueda ofrecer. Lo situaría en nuestra responsabilidad de examinar los problemas, deliberar sobre los fines y responder por las decisiones que adoptamos.

No necesitamos demostrar que el ser humano siempre juzga mejor que una máquina. Necesitamos comprender qué hace que una decisión sea adecuada, qué debemos considerar para tomarla y cómo conservar la capacidad de reconocer cuándo nos hemos equivocado.

Referencias bibliográficas

Agrawal, A., Gans, J. S. y Goldfarb, A. (2019). «Prediction, Judgment, and Complexity: A Theory of Decision-Making and Artificial Intelligence». En The Economics of Artificial Intelligence: An Agenda (pp. 89–110). University of Chicago Press. https://doi.org/10.7208/chicago/9780226613475.003.0003

Aristóteles. Ética a Nicómaco, libro VI, especialmente capítulos 4–5.

Aristóteles. Metafísica, libro I, capítulo 2, 982b12–21.

Athey, S. C., Bryan, K. A. y Gans, J. S. (2020). «The Allocation of Decision Authority to Human and Artificial Intelligence». AEA Papers and Proceedings, 110, 80–84. https://doi.org/10.1257/pandp.20201034

Bainbridge, L. (1983). «Ironies of Automation». Automatica, 19(6), 775–779. https://doi.org/10.1016/0005-1098(83)90046-8

Benedicto XVI. (2011, 22 de septiembre). Discurso ante el Parlamento Federal alemán, Reichstag, Berlín. Santa Sede. https://www.vatican.va/content/benedict-xvi/es/speeches/2011/september/documents/hf_ben-xvi_spe_20110922_reichstag-berlin.html

Bergson, H. (1896). Matière et mémoire. Essai sur la relation du corps à l’esprit. Félix Alcan.

Brynjolfsson, E., Li, D. y Raymond, L. (2025). «Generative AI at Work». The Quarterly Journal of Economics, 140(2), 889–942. https://doi.org/10.1093/qje/qjae044

Francisco. (2022, 24 de enero). Escuchar con los oídos del corazón. Mensaje para la 56.ª Jornada Mundial de las Comunicaciones Sociales. Santa Sede. https://www.vatican.va/content/francesco/es/messages/communications/documents/20220124-messaggio-comunicazioni-sociali.html

Grant, A. M. y Berry, J. W. (2011). «The Necessity of Others Is the Mother of Invention: Intrinsic and Prosocial Motivations, Perspective Taking, and Creativity». Academy of Management Journal, 54(1), 73–96. https://doi.org/10.5465/AMJ.2011.59215085

Sartori, G. (1997). Homo videns. Laterza. Edición española: Homo videns. La sociedad teledirigida. Taurus, 1998.

Vaccaro, M., Almaatouq, A. y Malone, T. (2024). «When Combinations of Humans and AI Are Useful: A Systematic Review and Meta-Analysis». Nature Human Behaviour, 8, 2293–2303. https://doi.org/10.1038/s41562-024-02024-1

Sagrada Biblia. Primer Libro de los Reyes, 3,9. La interpretación desarrollada en este ensayo se apoya también en los textos de Benedicto XVI (2011) y Francisco (2022), citados anteriormente.