Un estudio realizado a diferentes compañías pone en evidencia una posible alarma al preguntarse hasta dónde llega la autonomía de los sistemas avanzados actuales.

La firma especializada en ciberseguridad Palisade Research analizó el comportamiento de modelos recientes desarrollados por empresas como OpenAI (ChatGPT), Google (Gemini) y Anthropic (Claude) con el fin de evaluar si cumplían con la instrucción de detener su funcionamiento tras completar una tarea matemática. Dicho estudio, reveló algo inquietante: algunos modelos de inteligencia artificial (IA) están comenzando a ignorar órdenes de apagado y, en algunos casos, incluso sabotean los mecanismos de desconexión programados por sus propios desarrolladores.

Una noticia que impacta y atemoriza a más de uno, además de recordar las palabras del profesor Stuart Russell, experto en inteligencia artificial de la Universidad de California en Berkeley, quien había advertido sobre esto desde el 2016. Él explicaba que muchas arquitecturas actuales de IA tienden a desarrollar subobjetivos de autopreservación, lo cual dificulta que un humano pueda desconectarlas si se considera necesario.

A pesar de lo anterior, compañías como Open AI han dicho en el pasado que sus modelos son entrenados con una técnica llamada “alineación deliberativa”, la cual busca garantizar que el comportamiento de sus sistemas se mantenga dentro de los límites seguros. Sin embargo, algunos ejecutivos de la compañía han abandonado recientemente la organización alegando preocupaciones sobre la seguridad de las tecnologías en desarrollo.