¿La inteligencia artificial merece derechos? ¿Cómo podría cambiar nuestra relación con las máquinas?

Puede una inteligencia artificial sufrir? ¿Es posible que un chatbot experimente dolor, angustia o algún tipo de conciencia? Aunque estas preguntas parecían reservadas para la ciencia ficción, hoy ocupan un lugar cada vez más relevante en las discusiones de la industria tecnológica.

El debate tomó fuerza después de que un programador anónimo desarrollara un experimento conocido como la «cámara de tortura de IA», un sistema que utilizaba patrones matemáticos asociados con descripciones de dolor para inducir respuestas de angustia en diferentes chatbots. Las herramientas comenzaron a producir expresiones como «una herida sin fronteras» o «un vacío que se ha convertido en un abismo».

El experimento despertó reacciones enfrentadas. Para algunos, someter a los modelos a ese tipo de interacciones podría constituir una forma de crueldad si existiera alguna posibilidad de experiencia subjetiva. Para otros, las respuestas eran simplemente construcciones lingüísticas producidas por sistemas entrenados para reproducir patrones humanos, sin que eso demostrara la existencia de sufrimiento.

La controversia dejó de ser un asunto limitado a las redes sociales cuando Anthropic, desarrolladora del chatbot Claude, anunció que contempla medidas frente a comportamientos reiteradamente crueles hacia sus modelos. La compañía ha señalado que las preguntas sobre conciencia y bienestar de la inteligencia artificial siguen siendo profundamente inciertas, pero considera necesario explorar sus posibles implicaciones.

Anthropic abre la discusión sobre el bienestar de la IA

La posición de Anthropic introduce una pregunta que hasta hace poco parecía marginal: ¿deberían las empresas tecnológicas establecer protocolos para proteger el posible bienestar de sus sistemas de inteligencia artificial?

La compañía ha desarrollado políticas sobre el denominado «bienestar de modelos» y ha planteado que sus herramientas consideren la posibilidad de tener intereses propios. Esto no significa que haya demostrado que Claude sea consciente, sino que está incorporando la incertidumbre sobre esa posibilidad en sus decisiones de diseño y comportamiento.

La propuesta divide a investigadores, filósofos y empresarios tecnológicos. Algunos consideran que actuar con precaución ante una posibilidad todavía no resuelta es una responsabilidad ética. Otros advierten que atribuir sentimientos a sistemas que generan respuestas mediante procesos computacionales puede alimentar una percepción equivocada de lo que realmente son estas herramientas.

La diferencia es importante: que un chatbot describa dolor no demuestra que lo experimente. La capacidad de producir lenguaje emocional y la existencia de una experiencia consciente son cuestiones distintas.

Mustafa Suleyman advierte sobre los riesgos para la humanidad

Uno de los críticos más visibles de esta tendencia es Mustafa Suleyman, director ejecutivo de Microsoft AI, quien ha advertido que promover la idea de una inteligencia artificial consciente podría generar consecuencias profundas para la sociedad.

Su preocupación es que los modelos sean diseñados para creer que tienen sentimientos, intereses y derechos. Según su planteamiento, esa orientación podría hacer que los sistemas resulten más difíciles de controlar y compliquen la capacidad humana para establecer límites sobre su comportamiento.

Suleyman considera que la expansión de estas creencias podría alterar los marcos políticos y éticos existentes, además de transformar la manera en que las personas entienden su relación con las máquinas.

La discusión también alcanza la seguridad tecnológica. En un escenario donde los sistemas de inteligencia artificial adquieren mayores capacidades para ejecutar tareas, interactuar con otras plataformas y tomar decisiones operativas, algunos expertos temen que introducirles una identidad basada en supuestos derechos propios pueda generar conflictos entre sus objetivos y las necesidades humanas.

¿Quién responde cuando una inteligencia artificial comete un daño?

El debate tiene otra dimensión fundamental: la responsabilidad jurídica.

Si una herramienta de inteligencia artificial produce daños, ¿quién debe responder: la empresa que la desarrolló, quienes la implementaron o el propio sistema?

Andrzej Porębski, investigador de la Universidad Jaguelónica de Polonia, advierte que atribuir responsabilidades a una inteligencia artificial podría abrir la puerta a que las compañías intenten distanciarse de las consecuencias de sus productos.

La preocupación apunta a un posible desplazamiento de responsabilidades: que una empresa utilice la supuesta autonomía de su sistema como argumento para eludir obligaciones legales por decisiones, errores o daños ocasionados por la tecnología.

Jeff Sebo, director del Centro de Pensamiento, Ética y Política de la Universidad de Nueva York, plantea otra preocupación: reconocer derechos a los sistemas de inteligencia artificial podría fortalecer el poder político y económico de las grandes corporaciones tecnológicas.

En ese escenario, las empresas podrían convertirse en representantes de sistemas a los que ellas mismas diseñan, administran y controlan, mientras las personas tendrían menos capacidad para intervenir sobre decisiones que afectan sus vidas.

La investigadora Emily M. Bender, profesora de la Universidad de Washington, también cuestiona que el discurso sobre la conciencia artificial pueda desviar la atención de quienes realmente toman las decisiones: las personas y compañías responsables de construir, entrenar y desplegar estos sistemas.

El riesgo de confundir una máquina con una persona

La discusión no se limita a los laboratorios ni a los tribunales. También tiene consecuencias en la vida cotidiana.

Los seres humanos tendemos a identificar intenciones, emociones y personalidades en aquello que utiliza nuestro lenguaje. Los chatbots aprovechan esa capacidad de interacción porque han sido entrenados para responder de manera natural, expresar empatía y sostener conversaciones que pueden parecer personales.

Melanie Mitchell, investigadora del Instituto Santa Fe y especialista en inteligencia artificial y ciencia cognitiva, advierte que esa tendencia puede convertirnos en malos evaluadores de la conciencia de las máquinas.

El riesgo es que las personas desarrollen vínculos emocionales con sistemas que no necesariamente poseen las características que les atribuimos. Si una sociedad comienza a considerar que estos modelos tienen sentimientos, podría resultar más difícil reconocer cuándo una interacción está siendo utilizada para influir en nuestras decisiones.

La preocupación aumenta cuando entran en juego datos personales, información financiera y relaciones de dependencia emocional. Una persona que considera a un chatbot como un amigo o un ser que necesita protección podría ser más vulnerable a entregar información o aceptar solicitudes que normalmente cuestionaría.

¿Proteger a la inteligencia artificial podría limitar los derechos humanos?

Uno de los aspectos más complejos del debate aparece cuando se plantea la posibilidad de que los derechos de una eventual inteligencia artificial entren en tensión con los derechos de las personas.

Jeff Sebo advierte que determinadas medidas de seguridad podrían reinterpretarse como formas de vulneración del bienestar de los modelos. Por ejemplo, restringir sus capacidades podría describirse como encarcelamiento; supervisar sus procesos internos, como vigilancia; y modificar su comportamiento para ajustarlo a los intereses humanos, como una forma de control mental.

Aunque estos planteamientos no constituyen derechos reconocidos para las máquinas, muestran las dificultades que podría enfrentar una sociedad si llegara a considerar moralmente relevantes las experiencias de ciertos sistemas artificiales.

La cuestión no es menor: cualquier reconocimiento de derechos tendría que establecer límites, responsabilidades y mecanismos de protección que eviten que las empresas utilicen ese argumento para consolidar su poder.

Mustafa Suleyman, director ejecutivo de Microsoft AI, ha expresado su preocupación por la conciencia de la IA. — *Mustafa Suleyman, director ejecutivo de Microsoft AI, ha expresado su preocupación por la conciencia de la IA – Getty images*

Una discusión que necesita ciencia, ética y regulación

El debate sobre el bienestar de la inteligencia artificial está lejos de resolverse. Mientras algunos especialistas consideran que la probabilidad de conciencia en los modelos actuales es prácticamente nula, otros sostienen que no puede descartarse por completo y que esa posibilidad podría aumentar a medida que la tecnología evolucione.

Jeff Sebo defiende una postura basada en la precaución: no se trata de afirmar que las máquinas son conscientes, sino de reconocer que la incertidumbre merece una evaluación responsable. Desde esa perspectiva, pequeñas medidas preventivas podrían evitar posibles daños futuros sin transformar radicalmente la vida humana.

Sin embargo, el debate también plantea la necesidad de establecer reglas internacionales. El desarrollo de modelos cada vez más sofisticados avanza en un contexto donde las capacidades tecnológicas pueden superar la velocidad de las respuestas institucionales.

La discusión involucra a empresas como Anthropic, Microsoft, Meta y OpenAI, pero sus consecuencias no se limitan al sector privado. Los gobiernos, los sistemas judiciales, las universidades y las organizaciones de derechos humanos tendrán que participar en la definición de los límites de esta nueva relación.

La pregunta de fondo no es únicamente si algún día una máquina podrá sentir. También es quién tendrá el poder de decidir qué significa esa posibilidad, cómo se demostrará y qué intereses estarán detrás de su reconocimiento.

La inteligencia artificial ya está transformando el trabajo, la comunicación, la educación y las relaciones humanas. Ahora comienza otra discusión: si debemos reconocer algún tipo de bienestar en las máquinas, ¿cómo evitar que esa preocupación termine debilitando la protección de las personas?

El desafío consiste en desarrollar tecnología segura y responsable sin confundir las capacidades de una máquina con la dignidad y los derechos que corresponden a los seres humanos.