¿Qué pasa con mi algoritmo?
En cada entrega de esta serie nos dedicamos a explicar minuciosamente los grandes mitos de la inteligencia artificial, como que es inteligente, artificial y neutral. Hoy la reconocemos como es: una herramienta capaz de adoptar y amplificar los mismos errores de la sociedad que la crea. Esa perspectiva puede llevarnos a la desesperanza, pero acá te contamos sobre algunos casos en los que la IA jugó a nuestro favor.
Por Laura Ruiz Díaz. Ilustración: Enrique Bernardou.
La situación de Paraguay con respecto a la inteligencia artificial (IA) es la de un ecosistema en etapas tempranas. Según el Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025, el país está clasificado como “explorador”, lo que significa que tiene una capacidad limitada para desplegar esta tecnología. El informe destaca datos alentadores: el país mostró mejoras en disponibilidad, capacidad y gobernanza de datos. Una ventaja clave es su potencial para mitigar el impacto ambiental, por la matriz energética hidroeléctrica. Además, hay muchas oportunidades de formación para el talento humano, pero faltan incentivos para atraer a las juventudes.
Todas estas son maravillosas noticias. La pregunta es, ¿estamos preparados? Paraguay carece de una estrategia nacional de IA adoptada oficialmente. A fines de octubre de este año, TV Cámara, medio oficial de la Cámara de Diputados, informó sobre la presentación de un proyecto de ley por parte del parlamentario Pedro Ortiz Torres. El proyecto, según dicho medio, propone cuatro ejes: fomento de herramientas y soluciones basadas en IA en áreas como salud, educación, seguridad y gestión pública; implementación de IA para agilizar trámites, optimizar procesos públicos y mejorar la toma de decisiones; refuerzo de la transparencia, la privacidad y los derechos de los ciudadanos frente al uso de sistemas inteligentes; y el establecimiento de normas para evitar el abuso o el uso indebido de información. Este documento aún no está disponible en el Sistema de Información Legislativa.
La región enfrenta una dependencia de infraestructuras externas y modelos de negocios impuestos desde el norte global, lo que limita nuestro desarrollo tecnológico.
Los desafíos son regionales (y así deberían ser las respuestas)
Los obstáculos son estructurales y compartidos. La región enfrenta una dependencia de infraestructuras externas y modelos de negocios impuestos desde el norte global, lo que limita nuestro desarrollo tecnológico.
Aunque hay avances legislativos en protección de datos, persisten graves problemas: la colaboración comprobada entre empresas y gobiernos para la vigilancia, el espionaje ilegal a periodistas y la criminalización de conductas cotidianas.
Además, el entusiasmo por la innovación suele ocultar la precarización del trabajo en plataformas digitales. La IA somete a las personas trabajadoras a reglas arbitrarias y vigilancia extrema, y limita su derecho al reclamo colectivo, lo que profundiza las desigualdades existentes.
Un camino hacia la soberanía digital
Frente a todas estas complejidades, se han impulsado diversas iniciativas centradas en la construcción de modelos tecnológicos alternativos y en la protección de los derechos humanos. Acá te contamos algunos ejemplos.
Latam GPT, liderado por el Centro Nacional de Inteligencia Artificial (Cenia), de Chile, junto a más de 40 instituciones de 12 países, es el primer gran modelo de lenguaje (LLM) abierto desarrollado en y para América Latina y el Caribe. Su objetivo es crear una herramienta ética y colaborativa que represente las voces, los acentos y las realidades de la región. Destaca por su enfoque en la recolección y curación ética de información, a través de alianzas con universidades, bibliotecas y gobiernos, para evitar el scraping masivo y garantizar que los datos estén libres de sesgos.
Woolaroo, desarrollado por el Ministerio de Cultura de México y Google, es un proyecto de preservación de lenguas amenazadas (en riesgo de caer en desuso) que utiliza machine learning (aprendizaje automático) para documentar y conservar idiomas locales, como el maya y el tepehua. Esta iniciativa resalta la importancia del uso responsable de la IA para proteger la diversidad cultural y lingüística.
Hay iniciativas que se enfocan en rendición de cuentas, transparencia y cumplimiento de los derechos humanos en las políticas y aplicaciones de IA.
También hay iniciativas que se enfocan en rendición de cuentas, transparencia y cumplimiento de los derechos humanos en las políticas y aplicaciones de IA. Algunas de ellas son la Regulación de contratación pública de Chile, donde el Gobierno exige a los proveedores usar modelos con métricas de imparcialidad estadística, proponer medidas de protección de datos y realizar análisis de sesgos.
La Estrategia brasileña de inteligencia artificial pone un foco explícito en la realización de evaluaciones de impacto sobre seguridad, derechos humanos y medio ambiente en relación con la IA. En Brasil, hay redes articuladas colectivamente para recopilar información y vigilar la implementación de sistemas de IA de parte del poder público. En el caso del Observatorio de la Intervención, en Río de Janeiro, se monitorizaron operaciones policiales para denunciar abusos y violaciones de derechos humanos.
Otros proyectos se impulsaron para garantizar la inclusión, la equidad y la defensa de los derechos en el entorno digital, como <A+> Alianza para Algoritmos Inclusivos, una coalición global de académicas y activistas que crean prototipos para el futuro, con la tecnología como herramienta para acelerar la igualdad de género; o Uncomplicating AI, un curso de la organización brasileña data_labe que promueve la alfabetización y la cultura de datos para jóvenes que viven en favelas de Río de Janeiro.
Estas iniciativas pintan un panorama esperanzador, donde la tecnología se redirige para servir a las personas, cerrar brechas y defender derechos fundamentales.
Un ejemplo del uso de la IA en contextos de crisis se ve en Venezuela, donde un grupo de periodistas utilizó estas herramientas para salvaguardar y procesar información de interés público. Esta aplicación demostró su potencial para defender la libertad de expresión en entornos represivos, al proteger datos cruciales para la rendición de cuentas.
Finalmente, en diversas zonas de América Latina (como México), las Redes Comunitarias Rurales son un motor clave de inclusión. En estas experiencias, los habitantes, a menudo indígenas, construyen y administran su propia infraestructura de comunicación, como redes celulares, mediante tecnología asequible y software libre. Su propósito es social, no comercial, y conectan territorios históricamente excluidos de las lógicas del mercado, con lo que aseguran su lugar en el mundo digital.
En conjunto, estas iniciativas pintan un panorama esperanzador, donde la tecnología se redirige para servir a las personas, cerrar brechas y defender derechos fundamentales. ¿Esto soluciona el problema? De ninguna manera, pero abre las puertas a seguir la conversación sobre tecnología y derechos.
Sin Comentarios