Educación personalizante
El próximo salto evolutivo no es el tecnológico, es ético. La conciencia es un proceso vivo que se alimenta de múltiples materias primas. De los sentidos y el cuerpo que nos conectan con el mundo real, con el lenguaje y la cultura que organizan lo que vivimos, con las emociones y los vínculos que nos aportan sentido y pertenencia, con la memoria y la experiencia acumulada que nos permiten construir una narrativa personal. Actualmente gran parte de los estímulos que nutren nuestra conciencia están filtrados y seleccionados por algoritmos. Nuestra conciencia no solo se está construyendo con lo que vivimos sino también con lo que las máquinas deciden mostrarnos. Así pues, urge cuidar la calidad de los nutrientes que van a condicionar la calidad de nuestra conciencia.
Mercè Conangla y Jaume Soler. «La tecnología avanza con rapidez, la conciencia humana, no tanto». Entrevista realizada por Mariana Toro Nader. Ethic. 29 de octubre de 2026.
Lo leemos y escuchamos a diario. Es una idea que se repite hasta el cansancio: la tecnología avanza a pasos agigantados, la tecnología está desarrollándose a una velocidad vertiginosa. Mercé Conangla y Jaume Soler, los psicólogos autores del libro La conciencia artificial, entrevistados por Mariana Toro Nader en Ethic, lo dicen también, pero afirman, como dice el título de la entrevista, que el problema es que la tecnología avanza con rapidez y la conciencia humana, no tanto.
El problema, dicen, es que más tecnología exige mayor conciencia y tal parece que en nuestros tiempos obscuros de cataclismo civilizatorio esto no está ocurriendo. Más bien parece suceder lo contrario. Mientras las máquinas avanzan rápidamente y muchos hablan del peligro de que las máquinas desarrollen conciencia, Conangla y Soler nos advierten que la verdadera amenaza consiste en que los seres humanos empiecen a perderla.
“…Todo lo que es nuevo, y no acabamos de entender bien, suele provocarnos miedo. Es algo adaptativo, un mecanismo de supervivencia de la especie que tiene como misión protegernos…” señalan, al tiempo que hablan de que a lo largo de la historia hay muchos ejemplos de desarrollos tecnológicos que primero produjeron miedo y rechazo, pero al adaptarse la conciencia humana a ellos terminó por aceptarlos e incorporarlos a su vida cotidiana y bien dirigidos, han servido para transitar hacia el desarrollo personal y social.
Pero en el caso de la (mal) llamada Inteligencia artificial (IA) el problema está en que se desarrolla a una velocidad mucho mayor y que existe el peligro de que su desarrollo sea mal dirigido o escape al control humano -como han dicho algunos expertos que han trabajado en su desarrollo- puesto que está adquiriendo un cierto grado de autonomía en acciones y decisiones que si no se toman medidas para su orientación y regulación, pueden llegar a atentar contra la salud y la vida humana.
Se trata pues, de un problema que no solo es tecnológico sino que tiene un claro y desafiante trasfondo ético puesto que la responsabilidad de los qués, los cómos y sobre todo de los para qués (finalidades) de esta tecnología es de los seres humanos. Como afirman los autores: “…Toda decisión tecnológica es también una decisión ética que deja huella”.
¿Dónde comienza el problema ético? El planteamiento de estos dos psicólogos es que está en lo que llaman la conciencia delegada, que es el proceso mediante el que vamos transfiriendo a sistemas externos algunas funciones humanas centrales como “…la memoria, la atención, la guía de nuestras emociones, el juicio y la capacidad de discernir, la toma de decisiones o, incluso, nuestro propósito de vida…”
Este es el riesgo ético oculto en la IA: que terminemos cediendo a las máquinas las funciones que nos hacen humanos “…porque esta va invadiendo espacios cada vez más íntimos de nuestra mente y de nuestro corazón…” Es así que ya no usamos la memoria porque la traemos en el bolsillo en un teléfono celular o en un disco duro portátil, ya no buscamos o preguntamos porque el algoritmo nos da las recomendaciones y las respuestas, ya no ponemos atención a las cosas porque el mismo algoritmo nos dice en la pantalla a qué cosas debemos poner atención y finalmente, nos engañamos pensando que superamos la incertidumbre de la vida porque la IA nos da respuestas inmediatas y “seguras”.
Lo más grave de este fenómeno de conciencia delegada se encuentra en los que Lonergan llamaría los niveles de conciencia racional y existencial, es decir, los niveles que tienen que ver con la reflexión y el juicio crítico que responde a la búsqueda de lo verdadero y con la deliberación y la decisión responsablemente libre que se deriva de la búsqueda de lo verdaderamente valioso.
Una evidencia generalizada de esta conciencia delegada en el nivel de la reflexión crítica está en la proliferación y adopción de las llamadas fake news, noticias que responden a intereses de poder que quieren controlar la narrativa social y que creemos sin mayor cuestionamiento. Del mismo modo encontramos el fenómeno de la posverdad, en la que importan poco los hechos objetivos mientras lo que se afirma coincida con las creencias de determinados grupos sociales y sintonice con sus emociones.
En el nivel de la deliberación y la decisión, en el mundo polarizado de hoy se está dejando de lado la búsqueda, defensa y vivencia de lo realmente valioso, de valores universales como la vida, la dignidad, la libertad o los derechos humanos porque el énfasis está en la afiliación o pertenencia a determinada corriente ideológica, postura política, credo económico o dogma religioso.
La conciencia delegada en la IA está influyendo de manera determinante en este retroceso de la conciencia porque al poner la confianza en lo que esta herramienta selecciona para lo que le consultamos y para la información, el tipo de comunicación y hasta la publicidad que recibimos, se va dejando de ejercitar la reflexión crítica y la deliberación ética que se van atrofiando y progresivamente perdiendo por falta de cuidado.
Al escribir estas líneas recuerdo la intervención de un estudiante de licenciatura en Pedagogía de una universidad pública de un estado vecino al término de una conferencia que impartí sobre el tema de la IA y sus desafíos para la educación humanista. Este joven me preguntó con toda tranquilidad qué tenía de malo que él le consultara a la IA todos los días sobre el color de la ropa que era mejor usar. No encuentro mejor ejemplo de la conciencia delegada en el nivel de la toma de decisiones y de la forma en que se va dejando de ejercitar y cuidar la propia estructura valorativa y de decisión ante el avance de la tecnología.
El reto para la educación es enorme ante este panorama. El problema es que muchos docentes están ya delegando su propia conciencia a la tecnología y dejando de lado su propio juicio y capacidad de decisión en muchos campos de su vida, incluyendo en la planeación, diseño de materiales, evaluación y ahora incluso, según veo en promoción de conferencias para directores, en la toma de decisiones para la gestión escolar.
La pregunta que surge ante este panorama es: ¿Cómo van a cultivar la conciencia los educadores que han delegado su propia conciencia? ¿Es posible no adormecer la conciencia de los educandos si los propios educadores van dejando que se adormezca su propia conciencia?
No cabe duda que como dicen los autores: el próximo salto evolutivo que se requiere no es tecnológico sino ético.
