Tratándose de inteligencia artificial, que es un asunto que interesa y compromete a todos, el punto ahora es si las aplicaciones de esta tecnología se volverán o no conscientes de sus resultados. Todos los animales son sintientes y quizás todos tienen a la vez algún grado de conciencia, partiendo, en el caso de los humanos, por conseguirla acerca de nosotros mismos.

Además de sintientes, ¿podrían algunos productos de la IA volverse conscientes o no pasarán más allá de un alarde o simulacro de conciencia? Esos productos son máquinas que a veces tienen forma humana, pero sabemos que no se trata de simples máquinas. El chatbot de nombre “Claude” ha sido entrenado para practicar la introspección, y esta última es la que ha conducido a los humanos a la posibilidad tanto de actuar moralmente como si no.

¿Nos espera un cambio de humanidad y no solo de época o de mundo, o se producirá tan solo una “ampliación de lo humano” que, en verdad, igual no sería para nada poca cosa? Los estudios sobre el cerebro humano están lejos de haberse completado y la artificialidad también podría alcanzar a este complejísimo órgano; por ejemplo, produciendo e instalando neuronas artificiales en el cuerpo de los humanos.

Cambio o ampliación de lo que consideramos “humanidad”, pero ¿hasta qué punto? Aún no lo sabemos.

La IA no es confiable, se dice a menudo, pero sí podría llegar a ser controlable, y otra de las preguntas es si este control será jurídico o ético, o bien una combinación de ambos. Uno de nuestros problemas a escala mundial es la sorprendente velocidad de los avances de la IA, lo cual podría traer consigo la rápida obsolescencia de las regulaciones, poniendo en aprietos a los autores de estas. ¿Será el derecho capaz de advertir y hacer seguimiento a esos cambios y de convenir y actualizar regulaciones pertinentes, prontas y eficaces? Hasta no hace mucho nos preguntábamos si el derecho era o debería ser expresivo del cambio social, esto es, reflejar meramente este en aquel, o propiciar, al revés, un derecho productor y conductor de nuevos cambios. Hoy la pregunta es muchísimo más radical y las respuestas también lo serán.

La base de los cambios tecnológicos en curso y por venir exige algo así como un nuevo contrato social. No ya el que propuso Rousseau en el siglo XVIII, sino aquel del que nos habla este año el físico español en computación cuántica e inteligencia artificial José Ignacio Latorre, autor del libro “Un nuevo contrato social. Gobernar un mundo con inteligencias no humanas”. Estas últimas a lo menos van a sumarse a la inteligencia humana, puesto que “cuando cambian los sujetos del mundo, debe cambiar el contrato que los una”.

Otra dificultad para alcanzar ese nuevo contrato social es que los gobiernos nacionales no son los que la están llevando en materia de IA, salvo Estados Unidos, China y algún otro par de países, sino las riquísimas corporaciones privadas y sus propietarios, motivados por la búsqueda de prestigio, influencia y dinero. En esto, los ricos no están ganando la partida. La están ganando algunos súper ricos, o sea, los muy, muy ricos, que forman un grupo bastante reducido y cuyo objetivo es imponerse a escala mundial.

Si no llegáramos a contar con un “nuevo contrato social” sobrevendrá el gobierno global de unos cuantos potentados, o sea, una tecno-oligarquía.

¿Estaremos aún a tiempo? ¿No habremos traspuesto ya la línea roja? Y, ¿cuál es “la línea” en el caso de la IA?