El diputado del Partido Popular en el Congreso y portavoz de Inteligencia Artificial de su grupo parlamentario, José Luis Pedreño, ha advertido sobre el impacto creciente de la inteligencia artificial en la sociedad y la necesidad de conocer su regulación. Lo hizo durante su intervención en la I Jornada Política Criminológica y Estado de Derecho en la era de la IA, organizada por los colegios de criminología de España.
Pedreño subrayó que una gran parte de los sectores profesionales conocen que existe una regulación sobre inteligencia artificial, pero no saben con precisión cómo les afecta. Según explicó, muchas empresas y organizaciones están desarrollando sistemas sin tener claro si las aplicaciones que utilizan entrarán en categorías de riesgo cuando la normativa se aplique plenamente. “Todo el mundo desarrolla y ya si eso veremos cuando llegue el momento de que la ley diga si lo que estoy haciendo es de riesgo o no”, afirmó, en referencia a la incertidumbre que genera la normativa europea entre desarrolladores y usuarios.
El diputado insistió en que la inteligencia artificial es una tecnología “verdaderamente disruptiva”, capaz de transformar la sociedad a gran velocidad, algo que, según destacó, no había ocurrido con otras innovaciones tecnológicas anteriores.
A diferencia de sistemas informáticos tradicionales, explicó, los modelos de inteligencia artificial están basados en el aprendizaje y pueden producir resultados inesperados incluso cuando están correctamente programados. “Tú puedes programarlo bien y que te dé un resultado que no esperabas. Eso es lo que le da la potencia a la inteligencia artificial y también el riesgo”, señaló.
En este sentido, recordó que el marco europeo de regulación establece distintos niveles de riesgo para las aplicaciones de inteligencia artificial, dependiendo del uso que se haga de ellas. Incluso sistemas aparentemente sencillos, como herramientas de gestión de recursos humanos que recomiendan cambios de puesto en una empresa, pueden implicar riesgos si las decisiones se toman a partir de algoritmos entrenados con determinados datos. Por ello, insistió en que uno de los aspectos clave de la inteligencia artificial es la calidad y el control de los datos utilizados para entrenar los modelos, junto con el propio algoritmo y la arquitectura del sistema.
Durante su intervención, el parlamentario también alertó del riesgo de confiar de forma excesiva en los resultados generados por la inteligencia artificial, especialmente en ámbitos sensibles como el judicial o el criminológico.
Pedreño advirtió de que, si una prueba basada en inteligencia artificial se utiliza en un proceso judicial sin supervisión suficiente, podría terminar influyendo en decisiones de gran impacto. “Si se condena a una persona con una prueba generada por inteligencia artificial, en cierto modo quien está condenando es un informático”, afirmó, para subrayar la importancia de la formación y del control humano en estos sistemas.
El diputado también se refirió a los debates regulatorios que se están desarrollando en Europa, especialmente en torno al uso de sistemas biométricos y tecnologías de reconocimiento facial. Según explicó, estas cuestiones han sido uno de los principales factores que han ralentizado el desarrollo de la normativa europea, debido al temor de que puedan utilizarse para clasificar o vigilar a la población de forma masiva. Pedreño señaló que el debate sobre la biometría se ha convertido en una “piedra angular” en la discusión jurídica sobre la inteligencia artificial.
Por último, el portavoz popular consideró que uno de los retos más urgentes es abordar el impacto de tecnologías como los deepfakes o la suplantación de identidad digital, que pueden generar contenidos hiperrealistas capaces de manipular la percepción pública. En su opinión, este tipo de herramientas plantea riesgos especialmente relevantes para la seguridad jurídica y la confianza social. “Nos estamos encontrando con contenidos hiperrealistas que nos comemos día a día y que pueden llevarnos a denunciar o creer cosas que nunca han ocurrido”, advirtió.
Pedreño concluyó su intervención insistiendo en la necesidad de comprender mejor el funcionamiento de la regulación europea en inteligencia artificial y de formar a profesionales y responsables públicos en esta materia. A su juicio, el desarrollo tecnológico avanza a gran velocidad mientras el marco legal continúa en evolución, por lo que conocer sus principios y límites será fundamental para aprovechar el potencial de la inteligencia artificial sin comprometer los derechos fundamentales ni el Estado de derecho.
