La Inteligencia Artificial (IA) tiene el potencial de resolver problemas logísticos y materiales de manera significativa, pero también podría generar desafíos sociales y éticos importantes. Hoy en día, es posible redactar un ensayo con sólo un click, y en el futuro, se espera que la IA mejore aún más nuestra calidad de vida. Esta tecnología promete crear nuevos empleos, aumentar la riqueza global, mejorar la productividad empresarial y liberar tiempo para actividades personales. Actualmente, un tercio de los negocios ya utiliza IA, y el 95% de los usuarios de teléfonos móviles han interactuado con aplicaciones basadas en esta tecnología.
No obstante, el rápido avance de la IA también puede traer consigo riesgos considerables. La preocupación es que los efectos negativos podrían igualar o incluso superar los positivos, llevando a posibles escenarios apocalípticos descritos en la ciencia ficción. Sin embargo, el verdadero problema no radica en las máquinas en sí, sino en los humanos que las crean y utilizan; personas sin principios éticos sólidos que programen máquinas podrían cometer ciertos abusos a su favor personal y personas sin entrenamiento para usar la IA podrían inconscientemente usarla de forma perjudicial contra ellas mismas u otras personas.
En el mundo occidental, algunos líderes han señalado que las máquinas actuales han sido diseñadas por personas de “cierto perfil étnico” que han llevado a fallos en el reconocimiento de otras etnias. Los softwares que reconocen rostros pueden mejorar la seguridad civil, pero también pueden introducir sesgos discriminatorios, reflejando los prejuicios de sus creadores. Por ejemplo, los sistemas de reconocimiento facial diseñados por personas con perfiles específicos (Baby boomers masculinos, angloparlantes, de etnia caucásica) a menudo fallan en reconocer adecuadamente a personas de etnias diversas. Esto ha llevado a la idea de exigir legalmente que las máquinas reconozcan variedad de etnias para prevenir el delito de discriminación.
Otro ejemplo de esta problemática es la regulación de las redes sociales, que se ha vuelto necesaria debido al mal uso de los datos personales y las implicancias en la salud de los usuarios. Los algoritmos que impulsan estas plataformas, basados en IA, no siempre velan por la privacidad del usuario así como tampoco establecen límites sobre el uso excesivo de los dispositivos, lo que afecta la salud digital y mental de los usuarios.
La capacidad potencial de la IA para amplificar exponencialmente sesgos humanos, afectar la privacidad de los datos personales, parcializar el mercado laboral y promover el cibercrimen ha llevado a la comunidad Europea a usar legislativamente el término “inteligencia artificial de alto riesgo”. Este concepto permite identificar conductas inaceptables qué deben ser sancionada, algo que aún está por definirse, incluyendo sistemas que podrían causar daño físico, discriminar socialmente, privar arbitrariamente de derechos laborales o alterar la autonomía y privacidad de los usuarios, vulnerando derechos humanos así como principios éticos universales. Por ello, es crucial desarrollar y programar la IA con parámetros que no se habían considerado inicialmente. Dichos parámetros evitarían procesos de contratación parcializados, creación de softwares y productos potencialmente dañinos para la sociedad, así como procesos electorales poco democráticos.
El camino hacia una regulación efectiva de la IA será complejo y requerirá límites claramente definidos así como sanciones específicas ante la violación de dichos limites. Asimismo, los marcos regulatorios deben ser flexibles y adaptables para responder a los rápidos avances tecnológicos y a nuevos desafíos éticos, sin restringir la libertad de usar la IA de manera responsable. Estos dos aspectos determinarán si la IA se convierte en un aliado de la humanidad o en una amenaza para ella.
