Análisis / Las paradojas de la seguridad en la era de la Inteligencia Artificial
La llegada de las IA abren el debate sobre el doble uso de esta tecnología en materias de seguridad ciudadana, así como incentivan el nacimiento de nuevas y más efectivas formas de delinquir
La Inteligencia Artificial (IA) llegó pisando firme para quedarse, es la última moda que de pronto tuvimos al alcance de nuestras manos. Sabíamos de su existencia, estaba en laboratorios, en manos de expertos y también en las manos de los estados que utilizaban esta novísima tecnología para “labores de seguridad”.
La llegada de las IA fue sorpresiva, asombró, impactó y asustó. Levantó amores y polémicas. Los primeros en quejarse fueron los artistas plásticos, fotógrafos, escritores, que vieron cómo salían al mercado miles de imágenes, cuentos y novelas con sus estilos, todo creado por IA con apenas una mínima participación humana.
En escuelas y universidades de pronto hacer tareas, investigaciones y hasta tesis podía completarse en una fracción mínima de tiempo, gracias a estas tecnología, el plagio mostró una nueva y peligrosa dimensión.
El abogado Raymond Orta, especialista en tecnología, recuerda que recientemente detectó el uso de IA para la elaboración de una tesis de doctorado en una universidad, “al no registrarse la IA como una de las fuentes, todo el trabajo doctoral quedó en duda y provocó que el postulante fuese reprobado”.
El reino de “no es lo que parece”
Las IA dieron sus primeros pasos en medio de una crisis global de confianza. Tras el escándalo de Facebook y Cambridge Analytica, la verdad quedó tambaleante.
“Hoy, nada es lo que parece y en medio de ese panorama surgen modelos inteligentes que permiten duplicar personas y sus voces, ser más disuasivos, llegar a públicos exactos. No es un asunto solo de mercadeo, los modelos de Inteligencia Artificial como ChatGPT son modelos avanzados de lenguaje que pueden utilizarse para persuadir, manipular y causar mucho bien o mucho daño”, señala Orta.
Seres virtuales entre nosotros
A mediados del año pasado dos noticias retumbaron en el mundo de las artes: Una fue la enfermedad mental incurable que ponía fin a la carrera del actor Bruce Willis. La otra pasó casi desapercibida: La familia de Willis había vendido su imagen y voz a una empresa de IA, o sea que a pesar de la enfermedad incapacitante y quizá hasta de su muerte, el recordado detective David Addison se mantendrá entre nosotros.
Pero la historia no queda allí. En Venezuela, una campaña pro gobierno nacía en YouTube. Supuestos noticieros norteamericanos presentaban el renacimiento económico venezolano, pero resulta que eran noticieros falsos, periodistas inexistentes, todo generado por una Inteligencia Artificial china.
En medio de este panorama, el 14 de abril, el presidente Nicolás Maduro en su nuevo programa Con Maduro +, presentó a Sira, una morena, bonita y con afro… una joven que no existe en el mundo real. La virtual Sira hará de periodista y será su asistente.
Este es apenas la punta del iceberg del papel que jugarán las IA en la vida de todos. En la seguridad, política, elecciones, justicia, medicina, agricultura, publicidad, seguridad y un largo sinfín de áreas atestiguaremos grandes cambios en las próximas semanas, meses y años.
Un superobservador
Hay áreas en las que la inteligencia artificial puede ser una herramienta valiosa para mejorarlas, como en la seguridad ciudadana, prevención del crimen, detección de delitos y respuesta a emergencias de manera más rápida y efectiva.
El análisis de grandes cantidades de datos en tiempo real por parte de las IA, así como de imágenes de cámaras de seguridad e información de redes sociales permite identificar patrones y comportamientos sospechosos. Lo que puede ayudar a la policía a detectar delitos.
Las IA pueden supervisar grandes movilizaciones, como peregrinaciones, y grandes concentraciones de gente para evitar estampidas mortales, pueden controlar el flujo de personas, límites de velocidad, supervisión de vehículos de transporte masivo.
Otra aplicación de la Inteligencia Artificial es vigilancia y seguimiento. Las IA pueden monitorear zonas específicas en tiempo real, y alertar a los cuerpos de seguridad si detectan actividades sospechosas, riesgos de derrumbes o colapsos de estructuras.
También pueden utilizarse para identificar a personas específicas en una multitud, lo que puede ser útil en la búsqueda de desaparecidos o identificar sospechosos en una investigación.
Al analizar grandes cantidades de datos las IA pueden detectar patrones, descubrir tendencias que podrían pasar desapercibidas en casos como estafas o modus operandi de criminales.
Es importante tener en cuenta que la aplicación de las IA en la seguridad ciudadana plantea desafíos y riesgos, como los sesgos típicos en la alimentación de grandes cantidades de datos.
Esto pondría en riesgo a poblaciones susceptibles a ser discriminadas o victimizadas, es importante asegurar que los algoritmos sean lo más justos posible y no perpetúen sesgos o discriminación contra de ciertos grupos.
Un camino mixto
Melanio Escobar, periodista y coordinador de la ONG RedesAyuda, señala que el tema de la Inteligencia Artificial “es un camino mixto, una yuxtaposición de valoraciones que uno pueda desarrollar a raíz de la premisa de lo que vemos hoy. Suponemos un valor altísimo para la humanidad: Las IA podrían ayudarnos a avanzar tecnológicamente decenas de años en cuestión de semanas o meses y eso nos puede deslumbrar”.
“Pero por el otro lado suponen un riesgo bastante grande no solo en temas de seguridad como por ejemplo los deepfakes, con videos y la voz de personas, o el control de minorías, espionaje, control social, los esquemas de Inteligencia Artificial pueden ser muy peligrosos.”
El público no podrá distinguir si videos o audios son reales o fabricados, además su implementación masiva pondrá en riesgo millones de empleos, lo que acarreará graves problemas en la estructura social.
“Creo que el desarrollo, estudio e implementación de las IA, no puede estar en manos exclusivas de empresas o de gobiernos, deben participar especialistas independientes, expertos tecnólogos, sociólogos, filósofos comunicadores, inclusive teólogos, muchos expertos deben unificar criterios que permitan crear un marco legal sensato para la implementación y desarrollo de las IA”, aseguró.
“Como te digo las IA pueden traer muchas cosas buenas que seguro las traerán, pero también pueden traer muchas cosas muy malas y aterradoras para la humanidad”, concluyó Escobar.
La llegada de las IA fue sorpresiva, asombró, impactó y asustó. Levantó amores y polémicas. Los primeros en quejarse fueron los artistas plásticos, fotógrafos, escritores, que vieron cómo salían al mercado miles de imágenes, cuentos y novelas con sus estilos, todo creado por IA con apenas una mínima participación humana.
En escuelas y universidades de pronto hacer tareas, investigaciones y hasta tesis podía completarse en una fracción mínima de tiempo, gracias a estas tecnología, el plagio mostró una nueva y peligrosa dimensión.
El abogado Raymond Orta, especialista en tecnología, recuerda que recientemente detectó el uso de IA para la elaboración de una tesis de doctorado en una universidad, “al no registrarse la IA como una de las fuentes, todo el trabajo doctoral quedó en duda y provocó que el postulante fuese reprobado”.
El reino de “no es lo que parece”
Las IA dieron sus primeros pasos en medio de una crisis global de confianza. Tras el escándalo de Facebook y Cambridge Analytica, la verdad quedó tambaleante.
“Hoy, nada es lo que parece y en medio de ese panorama surgen modelos inteligentes que permiten duplicar personas y sus voces, ser más disuasivos, llegar a públicos exactos. No es un asunto solo de mercadeo, los modelos de Inteligencia Artificial como ChatGPT son modelos avanzados de lenguaje que pueden utilizarse para persuadir, manipular y causar mucho bien o mucho daño”, señala Orta.
Seres virtuales entre nosotros
A mediados del año pasado dos noticias retumbaron en el mundo de las artes: Una fue la enfermedad mental incurable que ponía fin a la carrera del actor Bruce Willis. La otra pasó casi desapercibida: La familia de Willis había vendido su imagen y voz a una empresa de IA, o sea que a pesar de la enfermedad incapacitante y quizá hasta de su muerte, el recordado detective David Addison se mantendrá entre nosotros.
Pero la historia no queda allí. En Venezuela, una campaña pro gobierno nacía en YouTube. Supuestos noticieros norteamericanos presentaban el renacimiento económico venezolano, pero resulta que eran noticieros falsos, periodistas inexistentes, todo generado por una Inteligencia Artificial china.
En medio de este panorama, el 14 de abril, el presidente Nicolás Maduro en su nuevo programa Con Maduro +, presentó a Sira, una morena, bonita y con afro… una joven que no existe en el mundo real. La virtual Sira hará de periodista y será su asistente.
Este es apenas la punta del iceberg del papel que jugarán las IA en la vida de todos. En la seguridad, política, elecciones, justicia, medicina, agricultura, publicidad, seguridad y un largo sinfín de áreas atestiguaremos grandes cambios en las próximas semanas, meses y años.
Un superobservador
Hay áreas en las que la inteligencia artificial puede ser una herramienta valiosa para mejorarlas, como en la seguridad ciudadana, prevención del crimen, detección de delitos y respuesta a emergencias de manera más rápida y efectiva.
El análisis de grandes cantidades de datos en tiempo real por parte de las IA, así como de imágenes de cámaras de seguridad e información de redes sociales permite identificar patrones y comportamientos sospechosos. Lo que puede ayudar a la policía a detectar delitos.
Las IA pueden supervisar grandes movilizaciones, como peregrinaciones, y grandes concentraciones de gente para evitar estampidas mortales, pueden controlar el flujo de personas, límites de velocidad, supervisión de vehículos de transporte masivo.
Otra aplicación de la Inteligencia Artificial es vigilancia y seguimiento. Las IA pueden monitorear zonas específicas en tiempo real, y alertar a los cuerpos de seguridad si detectan actividades sospechosas, riesgos de derrumbes o colapsos de estructuras.
También pueden utilizarse para identificar a personas específicas en una multitud, lo que puede ser útil en la búsqueda de desaparecidos o identificar sospechosos en una investigación.
Al analizar grandes cantidades de datos las IA pueden detectar patrones, descubrir tendencias que podrían pasar desapercibidas en casos como estafas o modus operandi de criminales.
Es importante tener en cuenta que la aplicación de las IA en la seguridad ciudadana plantea desafíos y riesgos, como los sesgos típicos en la alimentación de grandes cantidades de datos.
Esto pondría en riesgo a poblaciones susceptibles a ser discriminadas o victimizadas, es importante asegurar que los algoritmos sean lo más justos posible y no perpetúen sesgos o discriminación contra de ciertos grupos.
Un camino mixto
Melanio Escobar, periodista y coordinador de la ONG RedesAyuda, señala que el tema de la Inteligencia Artificial “es un camino mixto, una yuxtaposición de valoraciones que uno pueda desarrollar a raíz de la premisa de lo que vemos hoy. Suponemos un valor altísimo para la humanidad: Las IA podrían ayudarnos a avanzar tecnológicamente decenas de años en cuestión de semanas o meses y eso nos puede deslumbrar”.
“Pero por el otro lado suponen un riesgo bastante grande no solo en temas de seguridad como por ejemplo los deepfakes, con videos y la voz de personas, o el control de minorías, espionaje, control social, los esquemas de Inteligencia Artificial pueden ser muy peligrosos.”
El público no podrá distinguir si videos o audios son reales o fabricados, además su implementación masiva pondrá en riesgo millones de empleos, lo que acarreará graves problemas en la estructura social.
“Creo que el desarrollo, estudio e implementación de las IA, no puede estar en manos exclusivas de empresas o de gobiernos, deben participar especialistas independientes, expertos tecnólogos, sociólogos, filósofos comunicadores, inclusive teólogos, muchos expertos deben unificar criterios que permitan crear un marco legal sensato para la implementación y desarrollo de las IA”, aseguró.
“Como te digo las IA pueden traer muchas cosas buenas que seguro las traerán, pero también pueden traer muchas cosas muy malas y aterradoras para la humanidad”, concluyó Escobar.
Siguenos en
Telegram,
Instagram,
Facebook y
Twitter
para recibir en directo todas nuestras actualizaciones