«El ejercicio del poder, cualquiera sea la tecnología utilizada para su adopción o ejecución, deberá permanecer siempre bajo la responsabilidad de una persona humana identificable.»
El reciente debate abierto por el presidente argentino Javier Milei acerca de reconocer personalidad jurídica a empresas administradas íntegramente por inteligencia artificial trasciende con mucho una reforma al derecho societario. En realidad, instala una de las preguntas políticas y constitucionales más relevantes del siglo XXI: ¿puede existir ejercicio de poder sin un responsable moral?
La iniciativa propone habilitar las denominadas «corporaciones no humanas»: empresas operadas completamente por agentes de inteligencia artificial, capaces de administrar patrimonio, celebrar contratos y actuar jurídicamente sin directivos ni accionistas humanos. Días después, Milei defendió la propuesta en el Financial Times, sosteniendo que, «del mismo modo que la Revolución Industrial nos liberó de las limitaciones de la fuerza humana, la inteligencia artificial nos liberará de las limitaciones del cerebro humano». La invitación es clara: convertir a Argentina en un polo mundial para el desarrollo de la IA.
La respuesta de Yuval Noah Harari merece, sin embargo, una reflexión igualmente profunda. Mientras un director ejecutivo humano enfrenta sanciones penales, civiles, políticas y sociales por sus decisiones, un algoritmo carece de conciencia, culpa y responsabilidad moral. Su lógica consiste únicamente en optimizar el objetivo para el cual fue diseñado. Si ese objetivo entra en tensión con valores humanos, no experimentará prudencia ni remordimiento; simplemente continuará ejecutando la alternativa más eficiente. José María Lassalle ha advertido que el verdadero riesgo de la inteligencia artificial no reside en su creciente capacidad de cálculo, sino en la posibilidad de que terminemos delegando la deliberación humana a sistemas algorítmicos cuya racionalidad es instrumental, pero no ética. Cuando eso ocurre, no solo cambia la forma de decidir; comienza también a debilitarse la libertad política, la autonomía de las personas y la responsabilidad democrática.
Sin embargo, quizás el debate no deba plantearse en términos de aceptar o rechazar la inteligencia artificial. Ese sería un falso dilema. La IA representa una oportunidad extraordinaria para acelerar el desarrollo científico, mejorar la productividad, optimizar la gestión pública, fortalecer los sistemas de salud, perfeccionar la educación y expandir las capacidades humanas para enfrentar desafíos cada vez más complejos. El verdadero desafío consiste en asegurar que ese enorme potencial permanezca siempre orientado al servicio de la dignidad humana, del bien común y del bienestar colectivo. Por ello, quizás ha llegado el momento de abrir una discusión distinta. No acerca de limitar la inteligencia artificial, sino de fortalecer constitucionalmente el principio de responsabilidad.
Podría explorarse una reforma constitucional que consagre un principio tan sencillo como trascendental:
«El ejercicio del poder, cualquiera sea la tecnología utilizada para su adopción o ejecución, deberá permanecer siempre bajo la responsabilidad de una persona humana identificable.»Su alcance iría mucho más allá de las empresas administradas por inteligencia artificial. Alcanzaría también a las decisiones públicas apoyadas por algoritmos en ámbitos como salud, justicia, seguridad, tributación, beneficios sociales, fiscalización, contratación pública o gestión administrativa. La inteligencia artificial podría recomendar, analizar, optimizar e incluso ejecutar procesos. Pero nunca desaparecería la obligación de identificar a la persona que responde ética, política y jurídicamente por sus consecuencias.
En realidad, la propuesta no limita la innovación ni reduce el potencial transformador de la inteligencia artificial. Tampoco impide el surgimiento de nuevas formas de organización económica. Lo único que declara indelegable es aquello que constituye el núcleo del constitucionalismo occidental desde Locke, Montesquieu y Madison: la responsabilidad del poder. Porque allí donde existe poder sin responsabilidad, comienza inevitablemente a debilitarse la libertad. La historia constitucional puede entenderse, en buena medida, como un esfuerzo permanente por impedir que el poder quede sin control. Hoy ese desafío adquiere una dimensión inédita. No se trata solo de controlar a quienes gobiernan, sino también de asegurar que ninguna decisión con efectos sobre la vida de las personas pueda refugiarse detrás de una arquitectura algorítmica inmune a toda responsabilidad.
La inteligencia artificial puede ampliar extraordinariamente nuestra capacidad para comprender, crear y resolver problemas. Debemos impulsarla sin miedo, con decisión y con visión de futuro. Pero precisamente porque su poder crecerá exponencialmente, también debe fortalecerse el principio que ha protegido a las democracias constitucionales durante más de tres siglos: detrás de toda decisión que ejerza poder debe existir siempre una conciencia humana capaz de responder por ella.
Porque la inteligencia puede automatizarse. La responsabilidad moral, no.
* Augusto Parra Ahumada, ingeniero comercial, Postgrado en Ciencias Políticas UdeC
