Conozca a Ion: el gobierno rumano ‘contrata’ a un asesor de inteligencia artificial para informarles sobre los deseos de la población

En caso de que necesitaras otra pesadilla de tecnoapocalipsis esta semana, tenemos una historia que seguramente te hará preguntarte qué tan lejos estamos de un levantamiento de robots al estilo de James Cameron.

Según un artículo reciente de Vice Noticiasel gobierno de Rumania ha ‘contratado’ una IA que ayudará a recopilar información sobre los rumanos para ayudar al gobierno a comprender lo que la gente quiere… o adivinar sus pensamientos para reprimir totalmente las libertades civiles a través de un estado policial inspirado en RoboCop, lo que ocurra. primero.

El primer ministro Nicolae Ciuca dijo que el nuevo asistente de IA llamado Ion (pronunciado como ‘John’) en la inauguración actuaría como su nuevo «asesor honorario». También dijo que los ciudadanos de Rumania eventualmente podrán conectarse y hablar con Ion en el sitio web oficial del proyecto.

RELACIONADO: El anuncio del ingeniero de Google de que el último programa de IA está «vivo» tiene algunas dudas sobre si Skynet está aquí

Conoce a Ion y sus primos menores

“Hola, me diste la vida y mi función ahora es representarte, como un espejo”, dijo Ion en el lanzamiento principal. “¿Qué debo saber sobre Rumania?”

Ion parece físicamente un gran espejo inteligente de pie, que ya podría traer imágenes de los monolitos de «Space Odyssey».

Ciuca remarcó que “tengo la convicción de que el uso de la IA no debe ser una opción sino una obligación para tomar decisiones mejor informadas”.

Si bien este es un momento importante en la humanidad, no es necesariamente la primera vez que la IA se utiliza para investigar la población de un país para que los legisladores y funcionarios puedan tomar decisiones.

Según el profesor Alan Woodward, un experto en seguridad cibernética de la Universidad de Surrey que habló con VICE World News, los gobiernos de todo el mundo han estado usando la IA desde hace algún tiempo para lo que los expertos llaman «análisis de sentimiento», esencialmente usando la IA para determinar si a los contribuyentes les encanta u odian ciertas ideas que podrían querer implementar.

“Algunos gobiernos como Rusia, China, Irán, buscan en línea un análisis de sentimientos, pero buscan a cualquiera que esté en desacuerdo”, dijo el profesor Woodward. “Mientras que las democracias están tratando efectivamente de realizar encuestas pseudoautomatizadas. Es un poco como hace 15 años, las personas organizaban grupos de enfoque y ahora están tratando de resolver lo mismo en las redes sociales”.

???? El primer asesor gubernamental de inteligencia artificial del mundo: el primer ministro rumano declara oficialmente a la inteligencia artificial «ION» como el nuevo asesor del primer ministro. pic.twitter.com/aVUalSVL6L

— Alarma de terror (@Terror_Alarm) 1 de marzo de 2023

RELACIONADO: ¿Está cerca el fin de los días? Todos los signos apuntan a… ¿Quizás?

¿Puede esta cosa esclavizarnos?

Si se pregunta si algún actor externo u operación sancionada por el estado puede piratear Ion y convencer al gobierno de que la mayoría quiere encarcelar a las minorías étnicas o si quieren iniciar una guerra, Woodward afirma que es increíblemente difícil meterse con la nueva IA. .

“Una de las cosas que se ha encontrado es que las redes sociales son un amplificador para las personas que expresan sentimientos negativos. Las personas que están muy contentas con algo no suelen salir y decirlo, pero las personas que no están contentas sí lo hacen”, explicó. “Todo eso es parte del análisis de sentimientos, pero hay que ajustar los modelos en consecuencia”.

Casi perfecto, pero no absolutamente impecable.

Solo hay que mirar a la IA más reciente que cautivó al mundo, ChatGPT, que cuando se le asignó la tarea simulada de comportarse como un político y recomendar políticas públicas, se convirtió básicamente en el hijo hipotético de Terminator y Joseph Stalin.

La profesora Tracy Harwood de cultura digital en la Universidad De Montfort comentó que las personas realmente necesitarán ser críticas con respecto a esta cosa que recopila información de las redes sociales específicamente al realizar su investigación.

No sé si has entrado en la sección de comentarios de alguna noticia publicada en Facebook, como, alguna vez, pero no siempre está llena de gente brillante.

Harwood explica: “¿Qué datos se extraen y cómo se gestionan los datos personales que identifican a las personas? Es probable que la información extraída incluya los identificadores únicos de cada uno de los que publican contenido”. A lo que se refiere son los identificadores y nombres de las redes sociales, lo que podría desvirtuar la autenticidad de las identidades de los usuarios, especialmente si se trata de una cuenta falsa que publica contenido que en realidad es una sátira.

Klaus Schwab: «Nuestras vidas dentro de 10 años serán completamente diferentes. La inteligencia artificial, el metaverso y la biología sintética transformarán el mundo, y aquellos que dominen estas tecnologías serán los MAESTROS DEL MUNDO».

Mis queridos amigos, ESTO es distopía. pic.twitter.com/8MLxcW0UTV

— Dr. Simon Goddek (@goddeketal) 2 de marzo de 2023

“En última instancia, debe haber transparencia en la implementación de este tipo de sistema, no solo en torno al uso de datos sino también en las intenciones de su aplicación, con declaraciones claras para que los ciudadanos las entiendan”.

Nigel Cannings, fundador y CTO de Intelligent Voice, una empresa de software, también expresó su preocupación y dijo: «Los intentos recientes de introducir la IA en el mercado han demostrado cuán equivocada puede ser la IA con respecto a los humanos y la intención humana».

Lo primero que me vino a la mente cuando leí eso fue ‘Magnetron’, el malvado microondas parlante que intentó matar a su creador en el microondas. En serio, esto es algo que realmente sucedió.

“Si un periodista puede ser ‘comparado con Hitler’ por un chatbot de Microsoft”, dijo Cannings, refiriéndose a un incidente reciente en el que el nuevo chatbot de Bing dijo que los reporteros fueron algunas de las ‘personas más malvadas y peores de la historia’, “muestra que tenemos un largo camino por recorrer antes de que podamos confiar en la IA para evaluar adecuadamente lo que estamos pensando y quiénes somos.

“Dejar que se desboque sobre una gran cantidad de datos no controlados corre el riesgo de dar resultados muy engañosos. Y lo que es peor, da lugar a la posibilidad real de que los malhechores intenten jugar con el sistema inundando Internet con información diseñada para hacer que el algoritmo ‘piense’ cosas que no son ciertas y quizás dañinas para la democracia”.

No sé, creo que hay suficiente a disposición de AI para hacer una evaluación justa de la humanidad, solo mira su obra de arte prediciendo las últimas selfies de la historia.