La sorprendente revelación del Primer Ministro sueco, Ulf Kristersson, sobre su uso de herramientas de inteligencia artificial como ChatGPT y LeChat para obtener una "segunda opinión" en asuntos gubernamentales ha desatado un torbellino de controversia en Suecia. Mientras Kristersson defiende su práctica como una forma de explorar diferentes perspectivas y estrategias, la crítica no se ha hecho esperar, con voces expertas que advierten sobre los riesgos inherentes a esta dependencia tecnológica.

La imagen de un líder político consultando con un chatbot sobre decisiones que afectan a todo un país resulta, cuanto menos, inquietante. Si bien la tecnología puede ser una herramienta valiosa, la idea de que un algoritmo influya en la toma de decisiones gubernamentales plantea interrogantes fundamentales sobre la democracia y la responsabilidad. ¿A quién rinden cuentas estos sistemas de IA? ¿Cómo podemos garantizar la transparencia y la imparcialidad en un proceso de decisión que involucra a entidades no humanas?

Las preocupaciones expresadas por expertos como Simone Fischer-Hübner, investigadora en informática de la Universidad de Karlstad, son particularmente relevantes. La posibilidad de filtraciones de datos sensibles al utilizar estas herramientas con información gubernamental es un riesgo real que no podemos ignorar. Además, la tendencia de los sistemas de IA a "alucinar", es decir, a generar información incorrecta o sesgada, añade otra capa de complejidad al problema. ¿Cómo puede un primer ministro basar sus decisiones en información potencialmente falsa o manipulada?

La acusación de "psicosis de IA" lanzada por el diario Aftonbladet, aunque quizás un tanto sensacionalista, refleja la creciente preocupación pública sobre la influencia desmedida de la tecnología en nuestras vidas. ¿Estamos delegando demasiadas responsabilidades a máquinas que, en última instancia, carecen de la capacidad de comprender la complejidad del mundo real? La pregunta de por qué Kristersson prefiere confiar en "generadores de números aleatorios" –como califica el periódico a los chatbots– en lugar de su equipo de expertos, es una crítica mordaz que pone en duda la sensatez del primer ministro.

Virginia Dignum, profesora de inteligencia artificial responsable en la Universidad de Umeå, aporta otro punto crucial al debate: la IA carece de la capacidad de ofrecer opiniones políticas significativas. Al estar entrenadas con datos existentes, estas herramientas simplemente reflejan los sesgos y prejuicios presentes en la información con la que se les alimenta. En este sentido, la dependencia de la IA para la toma de decisiones políticas no solo es arriesgada, sino que también puede perpetuar y amplificar las desigualdades existentes.

La justificación del portavoz de Kristersson, asegurando que el primer ministro no utiliza la IA con información confidencial, no logra disipar las dudas. Incluso si se limita a consultas generales, la influencia de la IA en el pensamiento y las decisiones de Kristersson es innegable.

La postura de Kristersson en contra de la regulación de la IA en la Unión Europea añade un elemento aún más controversial a la situación. Su crítica a la legislación europea, calificándola de "confusa" y perjudicial para las empresas suecas, contrasta con la creciente preocupación global sobre la necesidad de regular el desarrollo y la aplicación de la IA. ¿Es la resistencia de Kristersson a la regulación un reflejo de su propia dependencia de estas tecnologías? ¿Está priorizando la innovación tecnológica por encima de la seguridad y la responsabilidad?

El caso de Kristersson nos obliga a reflexionar sobre el papel de la IA en la sociedad y, en particular, en el ámbito político. Si bien la tecnología puede ser una herramienta poderosa, es crucial establecer límites claros y garantizar que su uso sea ético y responsable. La democracia no puede delegarse a algoritmos, y la responsabilidad de las decisiones políticas debe recaer siempre en las personas elegidas por los ciudadanos. El futuro de la gobernanza en la era de la IA dependerá de nuestra capacidad para encontrar un equilibrio entre la innovación y la protección de los valores democráticos.