La llamada inteligencia artificial (IA) no es una simple herramienta, sino que comienza a fusionarse con nuestro ambiente y con quienes somos, transformando nuestra vida cotidiana y su impacto no deja ambiente sin transformar, desde la educación hasta la medicina, desde la economía y la política, hasta el trabajo y los vínculos entre las personas. La IA no es ni moral ni filosóficamente neutra, no es un instrumento, sino una nueva realidad con la que convivimos y que transforma también lo que somos, como nos pensamos y cómo vivimos. Nos encontramos en una dinámica de interacción mutua, de co-participación de operaciones.
Las preguntas fundamentales para quienes reflexionan sobre la IA son de carácter ético y político, porque nuevas posibilidades traen consecuencias evitables o imprevisibles. Que la tecnología abra nuevos espacios de acción implica necesariamente abrir una discusión sobre esas acciones, que nunca son neutras. Nos exige pensar en las consecuencias. No es una novedad que las nuevas tecnologías hacen muchas más cosas que aquellas para las que fueron pensadas y creadas. ¿Hasta dónde delegaremos en las máquinas nuestras decisiones? ¿En qué ámbitos se discutirán los sesgos y criterios de la IA para la toma de decisiones?
Mitos y creencias
A pesar de los impresionantes avances con la inteligencia artificial generativa y nuevas transformaciones en ciencia y tecnología, lo cierto es que no hablamos de “inteligencia” en el sentido humano, porque aunque la IA pueda realizar por aprendizaje automático una serie de funciones que hacemos los humanos (calcular, procedimientos matemáticos, selección de información, detectar patrones, reproducir lo aprendido) en un tiempo y cantidad de información imposible para un ser humano, eso no significa que piense humanamente. La IA no tiene conciencia ni subjetividad, aunque pueda simular emociones e interactuar con humanos aprendiendo y reaccionando a la información que recibe. El problema es cuando reducimos inteligencia a cálculo y manejo de información. Las máquinas no producen sabiduría porque no tienen subjetividad, no tienen autoconciencia, aunque puedan simularla y hacernos creer que sí e impresionarnos.
La investigadora Kate Crawford escribió: “sostengo que la IA no es artificial ni inteligente. Más bien existe de forma corpórea, como algo material, hecho de recursos naturales, combustible, mano de obra, infraestructuras, logística, historias y clasificaciones. Los sistemas de IA no son autónomos, racionales ni capaces de discernir algo sin un entrenamiento extenso y computacionalmente intensivo, con enormes conjuntos de datos o reglas y recompensas predefinidas. De hecho, la IA como la conocemos depende por completo de un conjunto mucho más vasto de estructuras políticas y sociales. Y debido al capital que se necesita para construir IA a gran escala y a las maneras de ver que optimiza, los sistemas de IA son, al fin y al cabo, diseñados para servir a intereses dominantes ya existentes”.
Anticipación y responsabilidad política
La IA desarrolla un tipo de funciones de manejo de datos que nos supera ampliamente en capacidad y velocidad, pero no sustituye otro tipo de capacidades humanas que tienen que ver sobre cómo nos relacionamos, sobre el sentido de la vida, que no se resuelven con datos, estadísticas y patrones. La reducción del conocimiento a información lleva a un ingenuo optimismo sobre diversas posibilidades de la IA respecto de la vida humana. Sea cual sea la dirección que tome el desarrollo de la IA, no podemos delegarle la responsabilidad ni la sabiduría. Todavía existe cierta ingenuidad en pensar que todo se soluciona con mayor cantidad de datos, como si la respuesta a los dramas humanos dependiera exclusivamente de manejo de información y no de una profunda reflexión sobre lo que somos y qué queremos realmente hacer con el futuro de los que vendrán.
Es claro que no podemos esquivar el progreso tecnocientífico y es deseable que pensemos responsablemente en cómo acompañamos estos procesos. Lo que sería irresponsable es caer en un determinismo que suponga que no hay nada más que hacer que subirse a la ola sin pensar, como si nada dependiera de nosotros más que aceptar un futuro ya programado por fuerzas incontrolables. El futuro lo escribimos con nuestras decisiones del presente y es de celebrar que los actores políticos estén pensando en anticiparse a lo que vendrá de modo responsable y escuchando a los que saben desde diversas disciplinas. La gobernanza de la tecnología será cada vez más un problema ineludible en la agenda política.
Impacto político de la IA
No es desconocido que nuestra interacción cotidiana con los sistemas informáticos entrega una inmensa cantidad de datos que revelan mucho de nosotros, desde nuestras preferencias hasta nuestra situación familiar, laboral y académica. De esa masa informativa se alimentan algoritmos de todo tipo, que aspiran a saber más de nosotros. Varios investigadores están preocupados porque vayamos renunciando progresivamente a libertades conquistadas, en la comodidad de una libertad asistida donde la IA, que adquiere un carácter “sagrado”, nos diga quiénes somos y qué queremos. Sin apenas discutirlo nos vamos abandonando a un nuevo poder tecnocrático imparable, aceptando que resuelvan gran parte de nuestra vida. Salvo que nos animemos a hacernos preguntas y a trabajar sobre ellas:
¿Qué desafíos presenta la IA a la filosofía política? ¿Cómo manejar los sesgos de la programación de la IA a la hora de contratar personas, evaluarlas en su trabajo o en la persecución del crimen sabiendo que alucina, se equivoca y también discrimina? ¿Cuáles serán los efectos políticos de la robótica en términos de justicia e igualdad? ¿Cuáles son los impactos que tiene sobre la democracia a la hora de manipular votantes? ¿Cómo está transformando el periodismo y la generación de noticias? ¿Cómo transforma las relaciones humanas, el aprendizaje y la salud mental? ¿Cuál debería ser el grado de participación ciudadana en la regulación de la IA? ¿Cómo impacta en los animales y en la producción agrícola? ¿Qué efectos puede tener sobre el clima y el medioambiente? ¿Cómo serían los derechos digitales para la protección de datos y asegurar el respeto por la dignidad de las personas?
Bioética, tecnología y futuro
Poco se repara en las consecuencias menos visibles, pero no menos impactantes sobre el medioambiente por el uso de recursos y energía que demanda la IA, ya que genera una considerable cantidad de huella de carbono. La producción de dispositivos electrónicos que trabajan con IA requiere la extracción de materias primas con grave impacto medioambiental.
El impresionante desarrollo de las ciencias biomédicas en las últimas décadas nos va mostrando el poder que vamos adquiriendo sobre nosotros mismos, nuestra especie y el medio ambiente. Muchas promesas que hace pocos años parecían de ciencia ficción son hoy posibles. Los proyectos de interfaces entre cerebros humanos e inteligencia artificial, exigen cada vez más una reflexión antropológica, ética, social y política.
Los avances en inteligencia artificial aplicada a la salud,
en la biología sintética, en la edición genética y en neurociencias,
así como el impacto ambiental de nuestras acciones sobre la naturaleza y
otras especies, plantean cada vez más preguntas no solo a los
investigadores y al personal de la salud, sino a juristas, poderes
públicos y a todos los ciudadanos. ¿Debemos hacer todo lo que resulte técnicamente posible en procreación asistida para “mejorar” la “calidad” de los futuros niños?
¿Deberíamos editar genéticamente embriones? ¿Merece ser preservado el
ser humano tal como lo conocemos o deberíamos modificarnos como plantean
algunos transhumanistas?
Las decisiones que tomamos en estas cuestiones, además de ser complejas porque exigen una gran responsabilidad sobre
los demás y especialmente sobre las futuras generaciones, no obtendrán
su respuesta fundamentalmente de los aportes de la acumulación de información y pruebas, sino de un profundo, riguroso y sólido debate filosófico que tenga en cuenta las evidencias científicas.
Reflexionar sobre estas cuestiones no es un tema solo de especialistas, sino que requiere de una responsabilidad colectiva, porque se trata de cuestiones relevantes sobre el futuro de nuestra humanidad.