Estos son los desafíos legales y éticos de la Inteligencia Artificial

Regulaciones claras, fomentar la educación, reducir el sesgo de los algoritmos, promover la transparencia y diseñar estrategias para mitigar impactos negativos en el empleo son algunas de las recomendaciones para abordar los desafíos de la Inteligencia Artificial (IA).

La IA se ha convertido en una herramienta poderosa que transforma industrias, mejora la eficiencia de procesos y facilita la vida de las personas. En el caso de Colombia, un estudio de Microsoft señala que el 59 % de las organizaciones implementó soluciones de IA en menos de seis meses, superando el promedio global del 48 %. Sin embargo, la multinacional de ciberseguridad, defensa y ciberinteligencia S2GRUPO reflexiona sobre desafíos legales y éticos que afectan a la sociedad debido a este crecimiento acelerado de la IA.

Uno de los principales en el ámbito legal es la responsabilidad en caso de errores o daños causados por sistemas autónomos. Por ejemplo, ¿quién responde si un algoritmo toma una decisión errónea con consecuencias negativas? Este tema debe ser motivo de debate en los marcos regulatorios de los países.

En Colombia, el 39 % de las empresas considera que la ausencia de regulación en IA es una oportunidad de mejora, lo que pone de manifiesto la necesidad de un marco legal más claro y específico.

Desde el punto de vista ético, la IA plantea dilemas importantes. “Por ejemplo, la toma de decisiones automatizadas puede generar sesgos y discriminación si los datos utilizados para entrenar los modelos no son representativos o contienen prejuicios, lo que pone en evidencia la necesidad de mejorar la equidad en estos sistemas”, explica Enrique Fenollosa, LATAM General Manager de S2GRUPO.

En ese sentido, un estudio de 2018 de la investigadora Joy Buolamwini, del MIT Media Lab, en colaboración con Timnit Gebru, de la Universidad de Stanford, analizó tres programas comerciales de análisis facial: encontró que, al clasificar el género, las tasas de error para hombres de piel clara eran de aproximadamente 0,8 %, mientras que para mujeres de piel oscura aumentaban hasta el 34,7 %.

El impacto de la automatización en el empleo es otra realidad que debe abordarse con estrategias que equilibren el avance tecnológico y la protección de los trabajadores. Un estudio de McKinsey estima que para 2030, hasta 800 millones de empleos podrían ser automatizados a nivel mundial, lo que resalta la urgencia de medidas de reentrenamiento y educación.

En Colombia, el Ministerio de Ciencia Tecnología e Innovación publicó, en febrero de 2024, la Hoja de Ruta para la Adopción Ética y Sostenible de la IA, un documento que, según el propio Ministerio, “guiará el desarrollo de políticas, acciones y decisiones del Gobierno Nacional, hacia un futuro impulsado por la tecnología, pero siempre arraigado en principios éticos y sostenibles”.

Además, en el Government AI Readiness Index de 2022, Colombia ocupa el puesto 47 entre 181 naciones, en un escalafón que mide la disposición de los países para aplicar IA en la prestación de servicios públicos.

“La IA ofrece oportunidades sin precedentes, pero ante estos desafíos es fundamental que gobiernos, empresas y ciudadanos trabajemos en conjunto para establecer regulaciones claras que promuevan su desarrollo de manera responsable. Además, la educación y el conocimiento sobre estas tecnologías también juegan un papel crucial para que las personas comprendan su impacto y exijan un uso ético y transparente”, indica Enrique Fenollosa.

En ese sentido, S2GRUPO recomienda seguir estos cinco consejos para abordar los desafíos de la IA:

• Desarrollar regulaciones claras y específicas: es crucial que los gobiernos establezcan normativas que definan la responsabilidad en el uso de la IA y protejan los derechos de los ciudadanos.
• Fomentar la educación en IA: se deben implementar programas de formación en colegios y universidades para mejorar la comprensión y el uso ético de esta tecnología.
• Reducir el sesgo en los algoritmos: las empresas deben garantizar que los datos utilizados sean diversos e inclusivos para evitar la discriminación en la toma de decisiones automatizadas.
• Promover la transparencia en el uso de IA: es fundamental que las organizaciones comuniquen de manera clara cómo se utilizan los sistemas de IA y qué impacto pueden tener en la sociedad.
• Crear estrategias para mitigar el impacto en el empleo: se deben diseñar políticas de reentrenamiento y actualización laboral para ayudar a los trabajadores a adaptarse a la transformación digital.