La inteligencia artificial generativa, como ChatGPT, está siendo adoptada rápidamente en el sector público, particularmente en ciertas administraciones locales. No obstante, especialistas advierten que esta expansión se está realizando de manera masiva y sin los controles adecuados, lo que podría generar importantes repercusiones para la ciudadanía.
Uno de los riesgos más destacados es el manejo de datos personales sin las garantías necesarias. Al introducir información sensible de los ciudadanos en grandes modelos de lenguaje, las instituciones podrían comprometer la soberanía digital nacional, dado que estas tecnologías suelen ser creadas y gestionadas por compañías privadas, en su mayoría extranjeras.
Te puede interesar
Asimismo, se señala el peligro de que estos sistemas mantengan o incluso incrementen sesgos relacionados con la raza y el género, lo que podría resultar en decisiones administrativas discriminatorias o injustas. Voces críticas del ámbito tecnológico y jurídico afirman que “en varios ayuntamientos se está utilizando ChatGPT sin ningún tipo de regulación ni supervisión”.
Ante este contexto, se solicita la instauración de normativas específicas y la elaboración de protocolos claros para el uso de inteligencia artificial en el sector público. Además, se destaca la importancia de capacitar a los empleados públicos para que empleen estas herramientas de manera ética, transparente y segura.
