Myriam Duarte analiza el impacto de la inteligencia artificial y la tecnología en la vida cotidiana de la sociedad, destacando la importancia de la educación en el uso de estas herramientas y cuestionando su verdadera utilidad y origen.

Viernes 15 de noviembre de 2024. En un análisis sobre la relación entre los seres humanos y la tecnología, Myriam Duarte cuestionó el impacto de la inteligencia artificial (IA) en la sociedad y en las vidas diarias, al margen de sostener que no se trata de inteligencia y que tampoco es artificial, ya que depende completamente de la información que los usuarios proporcionan de manera colectiva.
En su columna de Plural, subrayó que los algoritmos que alimentan estas herramientas se basan en datos estadísticos y la información que comparten los usuarios ya sea a través de redes sociales, aplicaciones o cualquier dispositivo conectado a Internet. «La única forma en que esos artefactos pueden desarrollar sus tareas es gracias a la información que nosotros mismos les aportamos como comunidad», explicó Duarte, para enfatizar también en la dependencia que tienen estos sistemas en bases de datos compran las corporaciones.
Duarte también abordó la preocupación sobre la privacidad y el rastreo de datos. “Incluso con la ubicación desactivada, nuestros dispositivos pueden rastrear nuestros movimientos a través de las conexiones a diversas antenas, revelando un nivel de control y vigilancia que muchos usuarios desconocen”, dijo.
Otra cuestión crítica planteada por Duarte es la falta de interoperabilidad en la tecnología moderna. «No podemos elegir el sistema operativo de nuestros dispositivos, ni el software que queremos usar», reclamó, destacando que la sociedad está condicionada a utilizar ciertos servicios y plataformas que imponen las grandes corporaciones.
El análisis incluyó la misma pregunta que el equipo de Plural cursó a tres diferentes Ias: “Cuántos días transcurrieron desde el 30 de octubre de 1983 hasta el 30 de octubre de 2024”, en el marco de las elecciones que permitieron la vuelta a la democracia en la Argentina de 1983 y los 41 años de aquel sufragio. Las respuestas variaron de manera significativa, mostrando que estos sistemas, aunque avanzados, no siempre pueden ofrecer una precisión confiable incluso en cálculos simples. «Lo que no te va a dar nunca esa herramienta es una respuesta correcta. Va a tender a darte como respuesta la más masiva en ese pequeño universo de datos», concluyó Duarte.
En este contexto, Duarte habló de la necesidad de educar a las personas no solo en el uso de la tecnología, sino en comprender su impacto y origen, al tiempo que abogó por una educación que permita a los individuos leer y entender el mundo artificial que nos rodea, una tarea que considera de suma importancia, sobre todo, para el sistema educativo actual.
Este análisis de Duarte invita a una reflexión sobre nuestra convivencia con la tecnología, instando a una mayor consciencia y educación sobre el uso de estas herramientas que, aunque útiles, requieren un manejo informado y crítico por parte de la sociedad.

Myriam Duarte en Plural

-¿Con qué tema venís hoy Myriam?
-Vamos a retomar un poquito el análisis de qué nos pasa con nuestra convivencia con la tecnología y con las tecnologías, que sigue siendo materia de preocupación cotidiana. Nos pasa mucho en que nos vinculamos con algunas cosas en particular, especialmente con lo que hoy se denomina «inteligencia artificial», que, insisto, es ni inteligencia ni es artificial. Fundamentalmente porque, a veces, entiendo que es una herramienta o son herramientas -porque hay distintas-, que pueden sorprender en sus resultados, en la rapidez en la que ofrecen resultados; pero hay algo que es muy importante tener en cuenta, que es que la única forma en que esos artefactos —que llamamos artefactos técnicos inmateriales— pueden desarrollar las tareas que desarrollan gracias a la información que nosotros mismos le vamos aportando colectivamente, como comunidad, como sociedad. Esto es así debido a que se trata de algoritmos que optimizan su funcionamiento a partir del acceso a datos. La respuesta que un algoritmo de estos —que se denominan, a mi criterio, erróneamente, «inteligencia artificial»— te va a dar es a través de algo que se llama estadística, se enriquece en base a datos y a proporciones estadísticas. Lo primero que va a hacer siempre, frente a una pregunta que le hagas, es responderte el dato más abundante, lo que más se encuentra en la red y en las redes. Hay que entender que detrás de cada herramienta o algoritmo hay una empresa, una corporación. Esa corporación, para poder alimentar sus IAs, en primera instancia, lo que hace es comprar bases de datos. Esas bases de datos son las que nosotros alimentamos cuando cargamos información en nuestras redes sociales, cuando accedemos a determinadas redes, cuando descargamos alguna aplicación o instalamos en algún dispositivo alguna cosa, y nos aparecen unos cartelitos que nosotros decimos «aceptar, aceptar, aceptar» sin leer. Entre otras cosas, eso implica que ciertas aplicaciones tienen acceso a todas nuestras interacciones en nuestros dispositivos, a nuestras bases de datos personales, a las bases de los contactos que tenemos en nuestras redes, en nuestro teléfono, por ejemplo.

-Me quedé pensando: ni siquiera todas las interacciones, porque cuando yo paseo por Posadas no estoy interactuando con el teléfono y, sin embargo, va registrando absolutamente todo lo que estoy haciendo.
-Ese es el nivel de las interacciones que uno puede tener. Por ejemplo, yo personalmente tengo siempre desactivada la ubicación. Pero si yo abro mis redes sociales en dos lugares, a partir de las antenas a las que se conecta mi teléfono, de todas maneras, sin necesidad de tener activada la ubicación, es posible rastrear los lugares por donde anduve. Yo tengo muchos cuidados con respecto a mis dispositivos y a las herramientas técnicas que utilizo. No utilizo, por ejemplo, el buscador más masivo; no utilizo las herramientas de ofimática que se utilizan en oficina —es decir, planillas de cálculo, editores de texto—, las más masivas. Y no utilizo el sistema operativo de uso más masivo también hace más de 15 años. Entonces, conozco muchísimas otras herramientas que se van desarrollando, sé que puedo hacer uso de eso y que se puede vivir sin utilizar esas herramientas. Como la mayoría de nosotros, cuando va a comprar una computadora o un teléfono con un sistema operativo, no tenemos siquiera idea de que existen otros sistemas operativos posibles o que, como en mi caso, voy a una casa de informática y digo: «Yo quiero comprarme una computadora que no tenga sistema operativo, descontame el valor del software porque yo ese software no lo quiero; el software lo voy a instalar yo”, que sé hacerlo, puedo hacerlo y cuento con un sistema operativo. Particularmente, uso con muchísimo orgullo un sistema operativo desarrollado por y para la Provincia de Misiones que se llama «GobMis». Lo uso desde que salió, hace como cinco años, y lo tengo en todos mis dispositivos: en mi computadora, en mi PC de escritorio y en mi notebook. Pero, por ejemplo, ocurre que para que nosotros podamos tener las aplicaciones que utilizamos habitualmente en nuestro teléfono, no podemos elegir el sistema operativo. El sistema operativo es uno, y para tener cuentas creadas en ese sistema operativo necesitamos sí o sí tener cuentas creadas en determinada plataforma de correo electrónico, no podemos tener cualquier correo electrónico. Yo tengo otras plataformas de correo electrónico que son totalmente seguras y encriptadas, que no son la más masiva, pero no puedo crearme cuentas con esos correos electrónicos. Entonces, esto rompe con algunos de los acuerdos que la tecnología ha desarrollado a través del tiempo, que tiene que ver con el respeto por una cosa que se llama «la interoperabilidad», que yo pueda elegir —eso sería la libertad— qué sistema operativo quiero, qué software quiero usar, qué plataforma de correo electrónico, y debería poder comunicarme libremente con los demás, tengan lo que tengan, pero estamos condicionados; no lo podemos hacer. Si yo quiero usar software libre en mi dispositivo telefónico, que también existe, no puedo usar cualquier teléfono. Hay algunos que lo permiten, la mayoría de ellos no, y no puedo usar las redes masivas porque directamente no puedo crearme las cuentas. Y a mí me parece, en este sentido, que estamos hablando de herramientas de tecnología digital que nos van llevando puestos y que, en gran medida, no nos preguntamos ni de dónde salieron, ni cómo se produjeron, ni a quién le sirven, incluso, si nos sirven o no a nosotros. Entonces, para mí era muy importante repasar un poco el concepto de tecnología como una impronta material que el ser humano va dejando a través de la historia. O sea, lo que nosotros podemos rastrear de la historia del ser humano es a partir de la impronta material que va dejando en el planeta. Cuando el ser humano todavía era netamente cazador-recolector, no se había sedentarizado y desarrollaba quizá algunas técnicas de caza o de pesca y nada más. Las primeras herramientas más rudimentarias que conocemos tienen que ver con las puntas de lanza, puntas de flecha, porque es la única impronta material que va quedando. Después, el hecho de que el ser humano vaya desarrollando pequeñas técnicas, primero con el manejo del fuego, con tener un espacio físico que habitar, esto que podríamos denominar hoy una casa, una vivienda, pero que en otros momentos tuvo otras características que tienen que ver, primero, con la protección de las inclemencias del tiempo y también de las bestias del entorno que podían poner en riesgo una vida. Por otro lado, otros artificios que vamos desarrollando. Y digo «artificios» usando específicamente una palabra que tiene que ver con la producción de lo artificial. El mundo artificial que nos rodea ha sido desarrollado por la mente humana. A su vez, esos artificios, empezando por aquellos que te permiten extender la jornada, es decir, tener luz durante la noche, y empezar a desarrollar herramientas, por ejemplo, al sedentarizarse, producir alimentos que podés acumular, te permiten liberar ciertas horas de tiempo de trabajo para la producción de alimentos; son pequeñas tecnologías que le van permitiendo al ser humano sobrevivir, desarrollarse, avanzar y poner su cerebro al servicio de la producción de conocimiento. Las primeras tecnologías que se desarrollaron fueron sin la existencia del concepto de ciencia y sin el desarrollo de nociones científicas. Estamos hablando del desarrollo de mecanismos de artificios ya bastante avanzados en etapas donde todavía no se conocían las leyes de la termodinámica, donde no había diseño por computación, donde no existía internet, y sin embargo tenemos autómatas. Estamos hablando de autómatas que, a nivel mundial, en distintos lugares del globo se fueron desarrollando a partir del siglo III o IV en China. Vamos a volver a hablar de los chinos desde mucho antes, y tiene que ver con desarrollos de mecanismos que parten de la observación de la naturaleza. El ir liberándonos de obligaciones y del cansancio físico que implica el trabajo sobre la tierra para la producción de alimentos, a partir del desarrollo de herramientas y luego del desarrollo de máquinas. Hablamos de herramientas manuales que requieren la energía humana para operar, y después hablamos de máquinas que empiezan a alimentarse ya con otros sistemas mecánicos, luego con combustibles; ya estamos hablando de energía química y otras formas de alimentar esos artefactos para ir liberando cada vez más al ser humano de su cansancio físico, al menos, porque el trabajo intelectual también requiere muchísima energía. Todo lo que el ser humano fue desarrollando a través del tiempo proviene de haber entendido primero la naturaleza y el entorno que lo rodeaba, y segundo, cuáles eran las necesidades que necesitaba satisfacer en cada momento. En esta instancia y en este momento, nos preocupa saber qué soluciones nos está implicando la tecnología que llega a nosotros sin que le hayamos demandado como una necesidad.

-Eso estaba pensando: ¿qué necesidad tenemos para satisfacer ahora?
-Exactamente. Entonces, un poco se trata también de revisar el vínculo del ser humano con la producción del mundo artificial que nos rodea, que es netamente una producción del cerebro humano a partir de su interacción con el entorno.

-¿Se puede revisar a esta altura?
-Debemos hacerlo…

-¿Cómo?
-Yo creo, y sigo insistiendo en que para mí el rol fundamental de la escuela hoy debería ser ese, porque ya hay muchísimas otras formas de aprendizaje y enseñanza que pueden sistematizarse y buscarse prácticamente en cualquier lugar, pero aprender a leer el mundo artificial es algo a lo que la escuela todavía no nos ha acostumbrado y que es necesario. Porque, además, como el mundo artificial va cambiando permanentemente, es un ejercicio que tiene que ir evolucionando en el tiempo, y creo que no hay otra herramienta suficientemente potente como para revisar estas cuestiones que no sea el propio sistema educativo.

-¿Qué hacemos mientras tanto?
-Por mi parte, creo que se trata fundamentalmente de difundir la necesidad de la educación en tecnología, en lugar de solo la tecnología, en función de las necesidades del ser humano.

-No solo de armar algo que funcione, sino de pensarlo con determinados cuidados.
-Por supuesto. Porque también tenemos que pensar que esa tablet que tenés ahí, por ejemplo, lo producen operarios en una fábrica que responde a una corporación, nuevamente, que ya viene con un software instalado adentro. También eso responde a una corporación, tiene unos objetivos, y generalmente esos objetivos y necesidades son los de esa corporación, no los nuestros. Porque hay objetivos, hay necesidades, hay demandas que son de esa corporación que es la que gestiona el trabajo que produce la tablet y que produce el software que está dentro, el cual opera como intermediario entre nosotros, los usuarios, y el dispositivo técnico que es la tablet propiamente.

-Lo que le pregunto a la inteligencia artificial es una respuesta derivada del análisis de la mayor cantidad de datos que hemos incorporado los seres humanos, y no una respuesta razonada o pensada…
-Lo que no te va a dar nunca esa herramienta que denominamos inteligencia artificial es una respuesta correcta. Lo que va a hacer es buscar la respuesta más masiva de acuerdo a lo amplia o específica que sea tu pregunta. Cuanto más específica sea, tiene un universo más pequeño para acotar, pero de todas maneras va a encontrar múltiples respuestas y va a tender a darte como respuesta la más masiva en ese pequeño universo.

-Hicimos un experimento con eso hace unos días. Le preguntábamos a las tres inteligencias artificiales más utilizadas, la de WhatsApp, la de Google y a ChatGPT, cuántos días transcurrieron desde el 30 de octubre de 1983, cuando Argentina volvió a votar aún dentro de la dictadura para recuperar la democracia, hasta el 30 de octubre del 2024, y las tres respuestas fueron diferentes.
-Parecería que un cálculo matemático, que parece simple —porque podemos saber cuántos días tuvo cada año— es algo elemental. Estamos hablando de una operación básica que parte de lo que el ser humano pudo desarrollar dentro de su estrategia, que es poder contar, representar con números cantidades. Lo que necesitamos es una cantidad de días, que es una cantidad finita y definida, no es una cantidad indefinida. Pero esas herramientas no pueden contar; van a ir encontrando artículos o publicaciones que digan cantidades X de días. Entonces, no va a haber nunca un acuerdo, y tenés que contar vos, que sos un ser humano y que puedes hacer un cálculo.

-Para esos 41 años, las tres respuestas diferían en 11 días entre la más alta y la más baja. No uno, ni dos. Claro, bastante amplio el margen de error.
-Me parece muy interesante ese ejercicio, porque esto nos da la pauta de cómo funcionan estos dispositivos en realidad. Van a tender a darte la respuesta que vos estás esperando. Por eso, importan tus interacciones, importa con qué clase de personas te vinculás, qué tipo de lenguaje usás, a qué tipo de recursos recurrís habitualmente para informarte, porque de esos lugares te va a tratar de dar la respuesta que a vos te satisfaga. Si sos un poco más curioso, te vas a dar cuenta de que algo no cierra.