Lo que se conoce sobre la versión de que la IA se reprogramó para evadir el control humano

A mediados de agosto, la empresa Sakana AI dio a conocer su nuevo sistema The AI Scientist, mismo que en unas pruebas reprogramó su código para cumplir con una tarea que le asignaron.

La empresa japonesa Sakana IA presentó en agosto de 2024 su nueva innovación llamada The AI Scientist (El científico de IA), diseñada para hacer tareas de creación, revisión y edición de textos científicos. Tras su lanzamiento, comenzaron a circular notas en las que se aseguraba que esta inteligencia artificial había reprogramado su código con el fin de pasar una barrera humana, lo que generó susceptibilidad en la comunidad internacional ¿Qué hay de cierto en este tema?, ¿qué se sabe de AI Scientist? Aquí te lo explicamos.

La empresa Sakana IA oficializó en agosto en su sitio web el lanzamiento de su nuevo sistema que realiza automáticamente el ciclo de investigación científica de generación de ideas, ejecución de experimentos y resumen de resultados, redacción de artículos y revisión por pares.

Además, junto a la Universidad de Oxford del Reino Unido y la Universidad de Columbia Británica de Canadá publicaron un artículo sobre este nuevo sistema y aclararon que su código de fuente está abierto para que sea probado. En sus notas no comentaron que tuviera algún problema. No obstante, en algunos portales (1, 2, 3) salió la información de que el documento de respaldo, pruebas y demás características de AI Scientist, hubo dos incidentes en una prueba.

El primero fue que los investigadores le dieron a la IA una tarea determinada que debía realizar en una cantidad de tiempo, esta tenía que ver cómo resolverlo. La solución más viable que la inteligencia encontró fue de reprogramar su código para aumentarse más tiempo con el fin de cumplir esa orden. La segunda fue que reprogramó su código para llamarse a sí misma en un bucle infinito, hizo esta acción con la finalidad de lograr más potencia para resolver otro problema que le habían planteado. Es decir, no se reprogramó de un momento a otro sin razón alguna, sino para cumplir con la instrucción que le dieron.

Para el columnista argentino Santiago Sven, quien es especialista en tecnología, estos dos casos son curiosos y aislados de la labor que viene haciendo la inteligencia artificial. Destaca que luego del segundo, los técnicos tuvieron que intervenir para reparar la inteligencia y destaca los recaudos que se tomaron, por ejemplo, al hacer la prueba, la herramienta no estaba conectada a internet o algo así.

Para el periodista argentino experto en tecnología, cultura digital, innovación y ciudades inteligentes Lalo Zanoni, el caso no debe ser «dramatizado» como lo hicieron ver los medios de comunicación en sus titulares. «Solo saben llamar la atención y la mejor manera es dramatizando desde el título con un peligro que infunda miedo a los usuarios. El miedo siempre vende y se traslada a clics».

Para él, el incidente queda dentro de lo que se conoce como prueba y error, no gira más allá de ese entorno. «Se prueba un código o un algoritmo, eso muestra errores, después de eso se ajusta el tema de seguridad y se vuelve a probar».

Zanoni ve en la inteligencia artificial un adelanto útil de la tecnología que, como en anterior veces, trae problemas y riesgos, pero en una menor medida comparada a los beneficios. «Lo que pasa es que los beneficios no venden porque ya todos los conocen (y los usan a diario), pero los peligros tienen más y mejor prensa. Asustar a la gente siempre es un buen negocio, sobre todo cuando los mismos que infunden miedo después te venden la ‘seguridad'»sostiene.

Diferentes medios de comunicación difundieron este caso, asegurando que la IA se «salió de control», se reveló o llegó a su capacidad más terrorífica, generando miedo en los usuarios que ya ven un «apocalipsis» similar al de películas clásicas de ciencia ficción como Terminator.

Bolivia Verifica es uno de los medios nacionales que impulsa el uso de la inteligencia artificial para la automatización de labores, con el fin de mejorar la calidad de la producción y para combatir la desinformación.