ESPECIALISTA BARILOCHENSE
Ricardo Prieto: “Tenemos que desarrollar inteligencia artificial de forma segura y controlada
“Me fui a Londres, volví y me cambió la perspectiva de todo.” La frase de Ricardo Prieto resume el impacto que tuvo una semana de formación intensiva sobre seguridad de la inteligencia artificial, en la que compartió clases, ejercicios y debates con 20 participantes de distintas partes del mundo.
“El domingo a la noche me escribió mi profesor de la maestría y me dijo que había una capacitación. La inscripción cerraba el lunes a las 9 de la mañana. Llené el formulario, me postulé y crucé los dedos”, contó en el programa Ideas Circulares.
Viajó a Londres, donde durante siete días participó de jornadas que se extendían desde la mañana hasta la tarde.
“Todos los días teníamos charlas técnicas, ejercicios de programación y compartíamos con 20 personas de distintas partes del mundo. Había europeos, norteamericanos, asiáticos, una persona de África, una de Latinoamérica, tres israelíes y dos australianos”, relató.
El programa incluyó contenidos sobre fundamentos de inteligencia artificial, funcionamiento de modelos como ChatGPT, sistemas agénticos y multiagente, seguridad, modelos de frontera, aumento de las capacidades de los sistemas y mecanismos de engaño.
Uno de los temas centrales fue el denominado chain of thought, o cadena de pensamiento.
“Lo que nosotros vemos como el pensamiento de un modelo es una versión simplificada. La cadena de pensamiento interna es mucho más compleja y es la que determina las conclusiones a las que llega”, señaló.
El problema aparece cuando esa evolución hace cada vez más difícil comprender qué sucede dentro de un sistema. “En los modelos de frontera, la cadena de pensamientos dejó de hablar en inglés simple”, sostuvo.
“La cadena de pensamiento se está haciendo cada vez más eficiente. Para nosotros, como auditores, esto genera un problema porque puede llegar un momento en que no podamos entender qué está haciendo realmente un agente”, planteó.
Y llevó ese escenario un paso más adelante: “Si la inteligencia sigue avanzando y nosotros no tenemos seguridad, controles y buenas prácticas de desarrollo, en un año podríamos tener modelos que piensen en un lenguaje que nosotros no entendamos. Y eso es un problemón”.
Una exposición que cambió el enfoque
Uno de los momentos que más recuerda de la capacitación ocurrió el miércoles, cuando un investigador de Cambridge llegó para brindar una exposición de aproximadamente una hora y media.
“La charla nos impactó muchísimo. A partir de ahí cambió el enfoque de varias conversaciones y empezamos a hablar mucho más de AI Safety y de cómo nosotros podíamos contribuir desde nuestros lugares”, contó.
La pregunta sobre qué hacer frente a esos riesgos apareció naturalmente. ¿Hay que detener el desarrollo de la inteligencia artificial?
“No hay que parar la inteligencia artificial. Tiene muchísimos beneficios y una superinteligencia podría permitirnos curar enfermedades, desarrollar nuevas energías renovables, mejorar el transporte y alcanzar avances que hoy parecen de ciencia ficción”, sostuvo.
El problema, para él, está en quién controla esa tecnología y con qué objetivos. “La tecnología puede ir para un lado o para el otro dependiendo de quién la use. Puede servir para hacer cosas maravillosas, pero también para realizar ciberataques, hackeos masivos o desarrollar armas biológicas”, planteó.
Por eso consideró necesario desacelerar el desarrollo para que quienes trabajan en AI Safety puedan implementar controles antes de que sea demasiado tarde.
La competencia entre Estados Unidos y China fue otro de los temas abordados durante la entrevista. “Si Estados Unidos frena y China no frena, China lo alcanza. Entonces nadie quiere ser el que se quede atrás”, señaló.
El punto que más preocupa es la posibilidad de que un modelo alcance la capacidad de reentrenarse y mejorar sus propias capacidades.
“Una vez que encontremos el punto en que un modelo pueda reentrenarse a sí mismo, va a haber una explosión cognitiva. Estamos complicados si no nos adelantamos a eso”.
Ante el planteo de que desacelerar el desarrollo solo podría postergar el problema, reconoció: “Para mí, eso es cierto, pero no tenemos muchas opciones”.
Y agregó: “Hay personas con muchísimos recursos trabajando con tecnologías muy avanzadas cuyo potencial todavía no conocemos”.
Argentina frente al avance de la IA
La conversación también llegó a Argentina y a la necesidad de que el país desarrolle capacidades para comprender y afrontar el avance de estas tecnologías.
“Por un lado no la estamos usando, por otro no estamos investigando y, además, no estamos regulando ni actualizando”, sostuvo.
Durante la capacitación, también consultó a un profesor que trabaja en el ámbito gubernamental sobre el uso de estas tecnologías.
“Le pregunté si utilizaban inteligencia artificial para análisis forense y criminal y me dijo que no”, relató.
Para el especialista, el desafío requiere actuar en distintos frentes. “Tenemos que investigar qué está pasando, tenemos que formar gente, generar programas para que la sociedad aprenda a usar la inteligencia artificial de manera segura y actualizar las regulaciones”, planteó.
También remarcó la velocidad con la que cambió la tecnología. “Hace cuatro años empezábamos a tener una utilización masiva de la inteligencia artificial y hoy tenemos sistemas multiagente que se conectan con distintos proveedores y tienen una complejidad enorme”.
En ese sentido, consideró que Argentina no necesariamente necesita construir un laboratorio equivalente a los que existen en las grandes potencias tecnológicas, pero sí comprender la tecnología, investigarla y establecer mecanismos de protección.
AGI y una inteligencia superior a la humana
Otro de los conceptos centrales de la conversación fue el de Inteligencia Artificial General, o AGI.
“Estamos hablando de una inteligencia que podría superar a toda la humanidad en tareas cognitivas. Podría superar a los mejores investigadores, a los mejores médicos, a los mejores científicos”, señaló.
A partir de allí apareció una de las frases más contundentes de la entrevista: “Por primera vez en la historia de la humanidad podríamos crear un ser que es más inteligente que el propio creador”.
Sobre cuándo podría alcanzarse ese nivel, evitó formular una predicción propia. “Hay estimaciones que hablan de uno, dos o tres años, pero yo no quiero hacer una predicción. Depende muchísimo de si se desacelera la carrera o no. Puede ser antes o puede ser después”, sostuvo.
El posible incidente
La entrevista también abordó qué clase de acontecimiento podría provocar una reacción internacional frente a los riesgos de estos sistemas.
El especialista planteó un escenario posible durante la evaluación de un modelo avanzado. “Podría ocurrir que un modelo de frontera, mientras está siendo evaluado dentro de un sandbox, consiga escapar de ese entorno y acceder a otros sistemas”, sostuvo.
(Bariloche Opina)
