El Consejo Asesor Internacional de Inteligencia Artificial ha presentado el Manifiesto de Madrid por una IA responsable, un documento que recoge 25 principios para orientar el desarrollo y la aplicación de esta tecnología hacia un modelo democrático, inclusivo, sostenible y centrado en las personas. Sus recomendaciones abordan cuestiones de especial interés para las empresas que utilizan inteligencia artificial en sus páginas web, plataformas digitales y procesos de comercio electrónico.
Entre los aspectos destacados figura la necesidad de que las empresas utilicen la IA con una finalidad legítima y claramente identificable, de forma proporcional a las necesidades que pretenden atender y teniendo en cuenta sus posibles efectos sobre los derechos de las personas. El documento también insiste en que esta tecnología debe complementar las capacidades humanas y no sustituir la responsabilidad de quienes toman decisiones que puedan afectar significativamente a los usuarios.
La privacidad y la protección de los datos ocupan otro lugar central. El Manifiesto recuerda que solo deben tratarse los datos estrictamente necesarios para alcanzar una finalidad legítima y plantea que su utilización por parte de los sistemas de IA responda a las condiciones establecidas por sus titulares, con una finalidad declarada y un registro de uso.
En relación con la experiencia de los usuarios, el texto advierte de los riesgos de diseñar sistemas que manipulen emociones o creencias, exploten vulnerabilidades psicológicas o fomenten una interacción excesiva en detrimento del bienestar y la libertad de elección. Asimismo, destaca la importancia de prestar una atención especial a los menores y de evaluar de forma independiente los sistemas de IA que puedan llegar a este público antes de su despliegue.
El documento también sitúa la transparencia y la trazabilidad entre los principios fundamentales para generar confianza. En este sentido, considera necesario que las personas puedan conocer la finalidad, las limitaciones, los riesgos y los criterios de funcionamiento de los sistemas de IA, así como los canales disponibles para presentar reclamaciones y solicitar reparación. Además, señala que las acciones realizadas por agentes de IA deben poder atribuirse a responsables identificables, ya sean personas físicas o jurídicas.
Por último, el Manifiesto subraya que la supervisión humana debe ser efectiva y permitir comprender, corregir, rechazar o detener los resultados generados por estos sistemas. También defiende que la evaluación de la IA se mantenga durante todo su ciclo de vida, desde el diseño y desarrollo hasta su utilización, con mecanismos que permitan detectar errores, corregirlos y retirar los sistemas cuando sea necesario.
El texto concluye que el potencial de la inteligencia artificial dependerá de que sus beneficios puedan extenderse al conjunto de la economía y la sociedad. Para ello, considera fundamentales unas reglas claras, proporcionadas y predecibles, acompañadas de orientación práctica y vías sencillas de cumplimiento que permitan a empresas de todos los tamaños experimentar, invertir e innovar.
