La libertad y justicia en la inteligencia artificial son pilares fundamentales para un uso ético y democrático de estas tecnologías, según un análisis publicado por la UNESCO. La agencia argumenta que la IA no es solo una herramienta técnica, sino una forma de poder que puede reconfigurar las condiciones de vida social y política, influir en la igualdad de oportunidades y erosionar la autonomía si opera sin transparencia ni control democrático. El texto plantea una reflexión crítica sobre cómo sistemas algorítmicos automatizados pueden reproducir sesgos sociales existentes y concentrar poder sin rendición de cuentas si no se incorporan principios éticos y republicanos.
La tradición republicana, entendida como una forma de democracia que rechaza toda dominación arbitraria —incluido el poder algorítmico—, ofrece un marco para pensar la IA de forma que garantice la autonomía de la ciudadanía. Los defensores de este enfoque sostienen que los sistemas automatizados deben ser transparentes, auditables y sometidos a la supervisión pública, evitando la concentración de poder en manos privadas que pueda debilitar los derechos políticos y sociales de las personas.
Principios éticos y gobernanza democrática
Para que la IA contribuya a la justicia social, el análisis resalta varios principios clave: promover la transparencia radical en el diseño de algoritmos; adoptar el principio de no dominación algorítmica para impedir que decisiones automatizadas abracen desigualdades estructurales; fomentar la participación ciudadana activa en la supervisión de tecnologías críticas; y asegurar que la IA corrija sesgos estructurales en lugar de perpetuarlos. Bajo esta perspectiva, el Estado no debe ser un árbitro neutral sino un garante activo de la libertad, utilizando marcos legales que impidan que la tecnología opere como una fuerza autónoma e irrestricta.
La UNESCO subraya también la importancia de redefinir la propiedad y el uso de los datos bajo un enfoque republicano, donde los datos se gestionen como un bien común con consentimiento informado y supervisión colectiva. Esto permitiría que la ciudadanía tenga control sobre cómo se recogen, procesan y usan sus datos, y que tecnologías de alto impacto sean auditadas por agentes independientes y comunidades afectadas.
En conjunto, el enfoque propuesto invita a ver la inteligencia artificial no solo como innovación técnica, sino como un reto político y ético que requiere marcos legales sólidos, participación ciudadana y compromiso democrático para proteger y ampliar la libertad y la justicia en una sociedad cada vez más mediada por algoritmos.
