Investigación

Hoy la inteligencia artificial se está ocupando, prácticamente, para todo. Desde el mejorar la resolución de fotos viejas hasta la realización de complejos mapas mentales orientados a complicados procesos productivos.

Además, la facilidad que hoy existe para acceder a algunas de estas herramientas hace que su masividad crezca y crezca, sin visos de algún tipo de freno. 

¿Esto es bueno? Por estos días, el debate internacional está concentrado en las posibles respuestas para esa pregunta. Gigantes de la tecnología, como OpenAI (ChatGPT), Anthropic (Claude), xAI y Google DeepMind (Géminis 4 Argón) han manifestado públicamente los peligros reales que podría enfrentar la humanidad si es que este tipo de tecnología no se regula (por ejemplo, Sam Altman, el CEO de OpenAI, subrayó la necesidad de establecer límites y una infraestructura regulatoria para evitar que los sistemas autónomos escapen al control de las personas).

Por el contrario, y desde la vereda opuesta, el presidente de los Estados Unidos, Donald Trump, ha dicho que su administración no pondrá trabas al desarrollo de la inteligencia artificial ya que, según dijo, “esa tecnología superará a la revolución industrial”. 

La conversación sobre este tema está candente y la interrogante que apunta a cómo se puede garantizar que la inteligencia artificial generativa tenga objetivos alineados con el desarrollo de la humanidad, sigue más viva que nunca. 

De hecho, para Diego Fuentealba, doctor en informática y académico de la Facultad de Administración y Economía (FAE) de la Universidad de Santiago, “hoy no existen formas para que eso se garantice de forma plena”.

“La dificultad no está solamente en definir correctamente un objetivo sino que evitar que un sistema muy capaz encuentre formas inesperadas de cumplirlo, incluso saltándose restricciones”, acota.

Para el especialista, “la seguridad no puede depender únicamente del entrenamiento del modelo. Se necesitan controles externos, supervisión continua, permisos limitado y mecanismos de irrupción que la propia IA no pueda modificar. Es una lógica similar a la de la aviación: el resguardo depende de varias capas redundante”.

Fuentealba sostiene que, en el escenario actual, hay que distinguir en lo que una IA puede decir y controlar versus lo que puede hacer. “Los filtros siguen siendo necesarios, pero hoy los sistemas también pueden escribir códigos, utilizar herramientas, operar terminales y conectarse a otros servicios”, dice y recalca que ese es el argumento para la necesidad de contar con “entornos aislados, restringidos, con credenciales temporales y con autorización humana antes de la ejecución de acciones críticas”, sostiene. Y, por lo mismo, “mientras mayor sea la autonomía de un sistema mayores deben ser los controles”, asevera.

Uno de los temores expresados por las compañías desarrolladoras de IA se funda en que, por el nivel de desarrollo alcanzado, muchas veces no hay certezas para saber si una IA avanzada está engañando o intentando evadir restricciones de seguridad.

“Por eso los modelos deben ser sometidos a pruebas adversaliares (red teaming) donde se observa cómo reaccionan frente a limitaciones, conflictos de objeticos o situaciones en que creen que no están siendo supervisados”, dice el académico Usach.

Diego Fuentealba explica que “la investigación en interpretabilidad también intenta comprender qué ocurre internamente en esos sistemas, pero todavía no existe una prueba capaz de garantizar que un modelo nunca actuará de manera engañosa. Por eso debemos diseñar la seguridad suponiendo que ese comportamiento es posible y limitar sus consecuencias”. O sea, justamente lo que hoy están solicitando compañías como OpenAI y Anthropic.

LOS RIESGOS PARA EL EMPLEO

¿El avance en el desarrollo de la inteligencia artificial generativa afectará en términos considerables a la empleabilidad a nivel global? Diego Fuentealba sostiene que “todavía no a modo general”. Si bien, el ingeniero en ejecución en Computación argumenta que “la diferencia respecto a revoluciones tecnológicas anteriores es que, en estos tiempos, también se automatizan tareas cognitivas como la administración, contabilidad, programación, análisis o redacción”, también es claro en señalar que dicha realidad “no significa que desaparezcan profesiones completas”. 

Lo que sí ocurrirá, subraya, es que “muchas tareas cambiarán muy rápido”. Y en ese sentido, para el profesional, “el principal riesgo es que la reconversión laboral sea más lenta que la automatización”.

Por esto mismo, el profesional sostiene que “los estados deberían fortalecer la capacitación permanente y revisar sus sistemas tributarios y de protección social para que las ganancias de productividad derivadas de la IA no se concentren, únicamente, en quienes poseen la tecnología”. 

En lo que respecta a la carrera por lograr los modelos más desarrollados de IA generativa, Diego Fuentealba afirma que existe un riesgo importante ya que “eso requiere de enormes inversiones en chips, centros de datos, energía y en talento especializado”. 

El ingeniero manifiesta que, en esta materia, lo fundamental apunta a “garantizar el acceso a infraestructura, educación, conectividad, modelos abiertos y capacidad local para adaptar estas tecnologías a necesidades propias”. Y siguiendo esa línea, es esperable que la IA sea capaz de reducir las brechas educativas, de salud y de productividad. “Pero si su acceso queda concentrado en pocos países y empresas también podrían aumentarse”, dice.

¿CÓMO SE PUEDE PROTEGER A LA HUMANIDAD DE LOS “DEEPFAKES”?

Debido al gran desarrollo que está teniendo la industria de la inteligencia artificial generativa, para Diego Fuentealba “cada vez será más difícil determinar a simple vista si una imagen, un audio o un video son reales”.

Y por lo mismo, indica que “debemos pasar de intentar detectar las falsificaciones a verificar el origen de esos contenidos”. “Tecnologías como las firmas digitales y los estándares de procedencia permiten acreditar quien produjo una imagen y si fue modificada”, acota.

Ahora, para el académico de la Usach existe un riesgo adicional: que una persona pueda negar una grabación verdadera diciendo que fue generada por IA. “Por eso, necesitamos una alfabetización mediática, medios confiables y mecanismos sólidos de verificación”, subraya.

Frente a las dificultades de fiscalización, el profesional relata que ya existe un camino avanzado. “Naciones Unidas (ONU) está desarrollando mecanismos internacionales de gobernanza y la Unión Europea (UE)  avanzó bastante más con su AI Act. Esa normativa establece obligaciones específicas para modelos de propósito general y controles adicionales para aquellos que pueden representar riesgos sistémicos, incluyendo evaluación de riesgos, ciberseguridad y notificación de incidentes”, concluye.