La IA supera al cambio climático o la guerra como principal riesgo para 2024; ley europea da sus advertencias
Según el último ‘Global Risk Report 2024’, publicado por parte del Foro Económico Mundial, la IA se sitúa como uno de los mayores riesgos a tener en cuenta para este año, por encima de temas como el cambio climático o la guerra.
En este sentido, James Fisher, Chief Strategy Officer en Qlik, explica que tanto la IA como la IA Generativa prometen muchos avances en la mejora de la productividad, pero debe utilizarse y desarrollarse con precaución. “La innovación no debe producirse a expensas de la regulación, y las alucinaciones y errores actuales de la IA Generativa corren el riesgo de minar por completo la confianza en la tecnología, especialmente ahora que nos adentramos en un año de numerosas elecciones políticas”.
Así mismo, Fisher considera que la cumbre de la IA fue un gran paso hacia la creación de una regulación adecuada en torno a la misma. “A finales de 2023 vimos cómo la Ley de IA de la UE pasaba por sus primeras fases de aprobación. Esto es alentador, pero las empresas deben analizar cuidadosamente cómo utilizan y entrenan a la IA”, aconseja. “Estamos muy lejos de que las empresas confíen de forma generalizada datos empresariales críticos a la IA , pero esta debe ser rigurosamente examinada cuando se utilice en áreas como la analítica”, añade.
En su opinión, se necesitarán ‘guardianes’ que garanticen la calidad y la gobernanza de los datos, y para respetar su privacidad. Aun así, insiste, “debe aplicarse con cuidado. Y con todas estas precauciones pueden introducirse sesgos y producirse alucinaciones, por lo que los humanos siguen siendo esenciales en el proceso para evitar el riesgo de obtener información errónea”.
