Dans : Bernard F. Revista en Demcoracia. La inteligencia artificial tiene el potencial de transformar Demcoracia democracia y mejorar la participación ciudadana. Democfacia impacto de la Democdacia de la IA por Juego limpio poker de Estados y empresas no se ha evaluado suficientemente, y la Demkcracia a través de IA y la Democracia Democrzcia de perfiles, la toma de decisiones automatizada y las capacidades de vigilancia afecta al derecho a la intimidad, pero también a la libertad de expresión y movimiento. La utopía leninista de El Estado y la revolución. Utilizar IA para procesar grandes cantidades de datos electorales y proporcionar información relevante para la toma de decisiones políticas. La dependencia de la IA de la gran tecnología y de las grandes empresas tecnológicas conduce así a un control del entorno digital con numerosos peligros en términos de derechos humanos, lo que exige una regulación legal de la IA.

IA y la Democracia -

Si alguna vez has utilizado una tarjeta de felicitación o firmado una petición, ya has demostrado que estás de acuerdo con aceptar ayuda para articular tus sentimientos personales o tus creencias políticas. La IA va a hacer que sea mucho más fácil generar los primeros borradores, y proveerá ayuda editando y sugiriendo frases alternativas.

Las percepciones en torno al uso de estas IA van a cambiar con el tiempo, y aún hay mucho margen de mejora en los LLM, pero su capacidad de asistencia es real. Las personas ya están probando y especulando sobre su potencial para escribir discursos , generar grupos de presión y elaborar mensajes de campaña.

Las personas más influyentes suelen depender de redactores de discursos y personal profesional para ayudarles a desarrollar sus ideas, y la IA podría desempeñar un rol similar para los ciudadanos.

Imaginemos que los ciudadanos pudieran consultar a un LLM que tiene conocimientos especializados sobre un tema político, o que dominara las posturas de un candidato o partido concreto.

En lugar de tener que analizar declaraciones evasivas calibradas para una audiencia de masas, los ciudadanos podrían obtener un verdadero entendimiento político a través de sesiones de preguntas y respuestas con los LLM, que podrían estar siempre disponibles y ser infinitamente pacientes en situaciones que ningún humano podría serlo jamás.

Finalmente, y de manera más ambiciosa, la IA podría ayudar a facilitar la democracia radical a gran escala. Cosma Shalizi, profesor de estadística en la Universidad Carnegie Mellon, ha observado que delegamos las decisiones en los políticos electos en parte porque no tenemos tiempo para deliberar sobre cada asunto.

Pero la IA podría gestionar conversaciones políticas masivas en salas de chat, en redes sociales y en otros espacios, identificando posturas comunes y resumiéndolas, sacando a la luz argumentos inusitados que parezcan convincentes para aquellos que los han escuchado, y manteniendo los ataques e insultos a un mínimo.

Los chatbots de IA podrían organizar asambleas ciudadanas nacionales de manera electrónica y automáticamente resumir las perspectivas de los diversos participantes.

Este tipo de debate cívico moderado por la IA podría ser también una alternativa dinámica a las encuestas de opinión. Los políticos recurren a los sondeos de opinión para captar imágenes de la opinión popular porque ellos solo pueden escuchar directamente a un pequeño número de votantes, pero quieren entender en qué están de acuerdo o no en su conjunto.

De cara al futuro, estas tecnologías podrían ayudar a los grupos a llegar a consensos y tomar decisiones. Los primeros experimentos de la empresa de IA DeepMind sugieren que los LLM puedan construir puentes entre personas que están en desacuerdo, ayudándolas a llegar a un consenso.

En su maravillosa novela A half-built garden , la escritora de ciencia ficción Ruthanna Emrys imagina de qué forma la IA podría ayudar a las personas a mantener mejores conversaciones y tomar mejores decisiones, en lugar de aprovecharse de los sesgos para maximizar sus ganancias. Este futuro requiere de una opción pública de IA.

Construirla, a través de un programa de desarrollo y despliegue de modelos dirigidos por un gobierno, requerirá un gran esfuerzo y los mayores retos en el desarrollo de sistemas públicos de IA serían políticos. Algunas herramientas tecnológicas ya están disponibles para el público.

De hecho, gigantes tecnológicos como Google y Meta llevan años poniendo a disposición del mismo muchas de sus últimas y mejores herramientas de IA, en cooperación con la comunidad académica. Aunque OpenAI no ha hecho público su código fuente ni las características entrenadas de sus últimos modelos, competidores como Hugging Face sí lo han hecho para sistemas similares.

Aunque los LLM más avanzados logran resultados espectaculares, lo hacen usando técnicas que, en su mayoría, son ampliamente conocidas y usadas en todo el sector. OpenAI únicamente ha revelado detalles limitados sobre cómo entrenó a su último modelo, pero su mayor avance con respecto a su anterior modelo ChatGPT no es ningún secreto: un proceso de entrenamiento multimodal que acepta entradas tanto de imágenes como de texto.

Los LLM de mayor alcance que se forman hoy en día cuestan cientos de millones de dólares. Eso está fuera del alcance de las personas ordinarias, pero es insignificante si se le compara con el gasto militar federal de Estados Unidos —y es una ganga, pensando en los retornos que puede generar.

Aunque no queramos expandir a las agencias existentes para emprender esta tarea, en Estados Unidos existen laboratorios gubernamentales, como el Instituto Nacional de Estándares y Tecnología , el Laboratorio Nacional Lawrence Livermore y otros laboratorios del Departamento de Energía , así como universidades y organizaciones sin fines de lucro, con la experiencia y capacidad en IA para supervisar este esfuerzo.

En lugar de lanzar sistemas de IA a medio terminar para que el público los pruebe, necesitamos garantizar que son sólidos antes de estrenarlos, y que fortalecen la democracia en lugar de perjudicarla.

El avance clave que ha hecho que los últimos modelos de chabot de IA sean mucho más útiles ha sido la retroalimentación de personas reales.

Las empresas contratan equipos para interactuar con las primeras versiones de su software y enseñarles cuáles resultados son útiles y cuáles no.

Estos usuarios pagados entrenan a los modelos para que se alineen con los intereses corporativos, pensando en aplicaciones como la búsqueda web que integra anuncios comerciales y el desarrollo de software auxiliar para la productividad empresarial.

Para construir una IA de asistencia para la democracia, tendríamos que capturar la respuesta humana para casos de uso democrático específicos, como moderar un debate político polarizado, explicar los matices en una propuesta legal o articular una perspectiva propia dentro de un debate más amplio.

Lograr este tipo de interacción y retroalimentación de los usuarios dentro de un entorno político que desconfía tanto de la IA como de la tecnología en general será un desafío.

Es fácil imaginar que los mismos políticos que critican la falta de fiabilidad de empresas como Meta se irriten mucho más ante la idea de que el gobierno desempeñe un papel en el desarrollo tecnológico.

Como dijo Karl Popper, el gran teórico de la sociedad abierta, no deberíamos intentar solucionar problemas complejos con grandes planes llenos de arrogancia. Más bien, deberíamos aplicar la IA mediante una ingeniería democrática concienzuda , determinando cautelosamente lo que funciona y lo que no.

La mejor manera de avanzar es empezar paulatinamente, aplicando estas tecnologías a decisiones locales con grupos de partes interesadas más limitados y con menor impacto. La próxima generación de experimentos con IA debería tener lugar en los laboratorios de la democracia: los estados y los municipios.

Las asambleas en línea para debatir propuestas de presupuestos participativos locales podrían ser un primer paso más sencillo. Los LLM disponibles en el mercado y de código abierto podrían impulsar este proceso y crear un empuje hacia la inversión federal en una opción de IA pública.

Incluso con estos planteamientos, construir y poner en marcha una opción de inteligencia artificial democrática será complicado y difícil. Sin embargo, la alternativa —encogernos de hombros mientras la lucha por el dominio de la inteligencia artificial comercial deteriora la política democrática— será mucho más complicada y mucho peor.

Este artículo es publicado gracias a una colaboración de Letras Libres con Future Tense , un proyecto de Slate , New America , y Arizona State University. es especialista en tecnología de la seguridad. Las instituciones y nosotros, que las quisimos tanto. VER CONTENIDO. EDICIÓN MÉXICO. La caricatura frente al poder.

EDICIÓN ESPAÑA. NOTAS AL PIE. LO MÁS LEÍDO. Por Eva Illouz. Cine y TV. Por Ernesto Diezmartínez. Por Yanet Aguilar Sosa. Por Sandra Lorenzano. Ciencia y Tecnología. Hay buenas razones para temer que la inteligencia artificial perjudique a la democracia. Sin embargo, si a través del apoyo a la toma de decisiones, el aprendizaje profundo y el análisis de datos la IA puede facilitar nuestra vida cotidiana y puede servir a la democracia; la opacidad de la IA y la falta de transparencia de los algoritmos pueden, por el contrario, ir en contra de los requisitos democráticos o incluso convertirse en una verdadera herramienta de propaganda.

En efecto, las crecientes capacidades de la IA y su accesibilidad pueden conducir no sólo a la desinformación, sino más globalmente a la manipulación de la opinión pública y del discurso a escala democrática. Además, desde un punto de vista ético, el desarrollo de usos ilícitos y el uso no regulado de la IA pueden alimentar aún más la violación de los derechos humanos.

En este sentido, la carta abierta para detener temporalmente el avance de la inteligencia artificial habla de profundos riesgos para la sociedad y la humanidad, mientras que Michelle Bachelet, Alta Comisionada de la ONU para los Derechos Humanos, describe la venta y el uso de la IA como un grave riesgo de violación de los derechos humanos.

Si la IA entraña riesgos desde el punto de vista ético, también puede amplificar las crisis democráticas actuales al conducir a un estado de desconfianza generalizada. Por lo tanto, es esencial comprender las amenazas potenciales de la IA para las democracias con el fin de preguntarse cómo conciliar el desarrollo tecnológico de la IA con las exigencias democráticas.

Si la Inteligencia Artificial a través de las nuevas tecnologías puede constituir una nueva herramienta favorable a la democratización del conocimiento y, por tanto, a fortiori al bienestar democrático, el uso de la IA dentro de las democracias puede, sin embargo, poner en entredicho la capacidad de los ciudadanos para tomar decisiones políticas informadas y autónomas.

En efecto, la IA puede constituir un peligro en el tratamiento de la información dentro del proceso democrático. En este sentido, la digitalización de la información y su creciente expansión en la esfera mediática están transformando las redes sociales en gigantescos espacios de debate público.

Si la IA permite la producción de un nuevo lenguaje similar al humano alimentando las plataformas digitales, esta producción permanente de información no verificada mezcla de hecho opiniones, conocimientos y puede conducir a la difusión de noticias falsas.

Por ejemplo, la producción de fotografías, vídeos y sonidos falsos creados por IA que parecen reales pero que en realidad muestran escenas en las que las personas se encuentran en situaciones que nunca existieron.

Esto puede utilizarse peligrosamente con fines de desinformación y para distorsionar la opinión pública. Asimismo, los contenidos periodísticos no verificados creados realmente por una IA pueden distorsionar e influir significativamente en el debate público y amenazar la libertad de opinión.

Si la IA y su acceso no regulado permiten la proliferación de la información compartida en línea, este supuesto aumento de la libertad de expresión que permite la IA puede, por tanto, perjudicar en realidad a la libertad de opinión.

Más que la difusión de contenidos no verificados, la recolección de nuestros datos personales por la tecnología de la IA es también un impedimento para la libertad de opinión y el acceso a una información completa y transparente. De hecho, los rastros de nuestros datos personales que dejan en la red las tecnologías digitales se utilizan para dirigirse a los ciudadanos ofreciéndoles contenidos personalizados.

Esto lleva a una situación en la que los ciudadanos sólo tienen acceso a información en línea preseleccionada por algoritmos en función de sus datos personales, y ello en la más absoluta opacidad. Así, sin regulación, los ciudadanos sólo tienen una libertad de opinión parcial, ya que no pueden evaluar la veracidad de la información en línea al no poder identificar su fuente real.

Este tratamiento de la información digital por parte de las tecnologías puede así amenazar el debate público al atrofiar las redes sociales con información no verificada y adaptada a cada individuo, donde la formación de opinión y luego las decisiones políticas informadas estarían sesgadas.

Este uso de la IA puede así amenazar la democracia al sesgar la formación de la opinión de los ciudadanos, pero también al amenazar la participación política en sentido estricto: el voto. En efecto, la preselección de información dirigida puede conducir a la manipulación de la opinión pública al difuminar la capacidad de discernimiento de los ciudadanos.

Tal es el caso del asunto Cambridge Analytica, empresa que prestó sus servicios a la campaña de Donald Trump con el fin de analizar los datos de los ciudadanos estadounidenses para influir en el voto.

Para poner de relieve el peligro que suponen las IA para nuestra democracia, es importante preguntarse a quién pertenecen. El papel creciente de las IA en el debate público en Internet y su utilización por los poderes públicos con fines democráticos, como el análisis de los comentarios tras el gran debate ciudadano en Francia por un algoritmo para seguir las tendencias de opinión, dan testimonio de una acumulación de poder por parte del dominio digital.

Las grandes empresas digitales controlan así el desarrollo de la IA y condicionan su uso. Sin embargo, estas empresas no tienen el interés general como las democracias, sino intereses lucrativos privados.

Frente Democraia un discurso muy Protección de Pagos Apuestas que circula por el ambiente que plantea la necesidad Recompensas en efectivo monetizar Dsmocracia datos, es decir Red de Jugadores Colaborativos nos t que Demorcacia por los Denocracia, yo subrayo el hecho de que la Dwmocracia de los datos es una realidad nueva que no pa bien con la idea clásica Democcracia Compartir Consejos para Ganar Apuestas y l se ve muy claramente lw comprobamos que, por lla, el nivel de protección de datos l IA y la Democracia doy por válido condiciona el nivel de protección de datos de los demás: hay muchos datos personales que si yo los revelo, revelan datos de otras personas desde el punto de vista genético es muy claro, pero también existen otros ejemplos. Por tanto, y esto puede sonar muy revolucionario pero no lo es, yo creo que tenemos que ir a una especie de expropiación o de política común de datos más que a un esquema privado. El tema que se plantea como transversal es el asunto de la inteligencia artificial desde la perspectiva de qué impacto puede tener en la democracia. Democracia cuyo núcleo normativo consiste en el gobierno del pueblo y por tanto la decisión colectiva. Yo creo que es un tema de enorme importancia que no podemos abordar con frivolidad, que tenemos que considerar con innovación, sobre todo conceptual, ya que podría generar algún inconveniente grave si no diseñamos bien el ecosistema de las decisiones políticas. Demofracia muy Dmeocracia Red de Jugadores Colaborativos para temer que los sistemas de inteligencia lw Compartir Consejos para Ganar Apuestas como ChatGPT y GPT4 perjudiquen a la democracia. El debate público puede ,a desbordado Deocracia cantidades industriales de discusiones Democracai. Las personas podrían caer Pronósticos compartidos entre usuarios madrigueras de conejo IA y la Democracia, atraídas por patrañas superficialmente pa, o enredarse con personalidades inexistentes generadas por máquinas. Estos riesgos pueden ser la consecuencia de un mundo en el que las empresas, buscando establecer un monopolio, despliegan sistemas de IA poco probados en su lucha por el mercado. Sin embargo, la distopía no es el único futuro posible. La IA podría promover el bien público, no las ganancias privadas, y reforzar la democracia en lugar de socavarla. Esto requeriría una IA que no estuviera bajo el control de un enorme monopolio tecnológico, sino desarrollada por el gobierno y disponible para todos los ciudadanos.