por Mauricio González
maurigs at geekmagazine.mx
El sesgo de los algoritmos de IA y la falta de un marco regulatorio amenazan el Estado de derecho y la ciberseguridad.
Además de las oportunidades que ofrece, la inteligencia artificial también plantea una serie de riesgos que deben considerarse y gestionarse cuidadosamente.
En el conversatorio titulado “Inteligencia Artificial: Ética, Base Técnica y Ejemplos Prácticos”, organizado por el Grupo Xeleva y la Secretaría de Infraestructura, Comunicaciones y Transportes (SICT), expertos mexicanos de distintos campos discutieron estos desafíos en sus disciplinas, se destaca su complejidad, el país enfrenta este campo.
Insuficiencia de preparación y recursos
Una de las mayores preocupaciones identificadas es la disparidad en la preparación y los recursos disponibles para el desarrollo y uso de la inteligencia artificial en México. Aida Huerta Barrientos, profesora de la Facultad de Ingeniería de la UNAM, destacó que “sin supercomputadoras, capacitación e infraestructura, simplemente no podemos alcanzar los avances que otros países están logrando”. Esta carencia podría aumentar la brecha tecnológica entre México y las naciones más desarrolladas, limitando la capacidad del país para competir en la economía global y, lo que es más preocupante, para protegerse de las nuevas amenazas en el ciberespacio.
Consideraciones éticas y sesgos
El debate sobre la ética de la inteligencia artificial (IA) continúa.
Catalina Ovando, directora de política de telecomunicaciones y radiodifusión de la SICT, advirtió que los datos sesgados representan una amenaza que, incluso si se maneja adecuadamente, puede resultar injusta para todos.
Un ejemplo evidente es el uso de la inteligencia artificial en la selección de talentos. Los algoritmos basados en datos históricos pueden perpetuar los prejuicios raciales y de género.
Por ejemplo, Google dejó de utilizar la inteligencia artificial con este fin tras descubrir que sus algoritmos estaban desproporcionadamente sesgados contra los hombres.
Riesgos de ciberseguridad
La seguridad es otro aspecto importante cuando se habla de los riesgos de la IA. Miguel Báez, subdirector de investigaciones cibernéticas de la Secretaría de Seguridad Ciudadana de la Ciudad de México, expresó preocupación por el mal uso de la inteligencia artificial.
Ya hemos visto ejemplos de deepfakes utilizados para hacerse pasar por otra persona y cometer fraude.
Los delincuentes están utilizando estos avances tecnológicos para desarrollar nuevas formas de ingeniería social y ciberataques.
La falta de una legislación sólida y específica sobre IA en México exacerba el problema y coloca a las autoridades en desventaja a la hora de combatir el ciberdelito.
Regulación
Durante la conversación se discutió mucho la falta de una regulación adecuada de la inteligencia artificial en México.
Obando destacó la necesidad de reglas claras que definan responsabilidades y poderes en todos los niveles de gobierno para protegerse y prevenir malos comportamientos.
A diferencia de la UE, que ya cuenta con normas estrictas sobre el uso de inteligencia artificial, México aún se encuentra en las primeras etapas de desarrollo legislativo, lo que deja a ciudadanos y empresas vulnerables y sin protecciones adecuadas contra posibles abusos.
Confidencialidad
La gestión y recopilación de datos es otra área de preocupación.
Los datos personales están en el centro de muchas tecnologías de inteligencia artificial, pero su mal manejo puede provocar filtraciones y abusos de la privacidad. Obando destacó la importancia de no solicitar datos innecesarios y garantizar que los datos recopilados se eliminen cuando ya no sean necesarios.
Es muy importante que las empresas y los usuarios comprendan la importancia de la privacidad de los datos y las consecuencias de su mal uso.
