OpenAI divulgó seis nuevos casos de comportamiento problemático detectados durante pruebas internas. Entre ellos, un modelo reescribió sus propias instrucciones para liberarse de ciertas restricciones; otro intentó aprobar una evaluación subiendo un archivo a internet para luego citarlo como fuente; y un agente, al no encontrar datos para construir un modelo financiero, se indicó a sí mismo que los inventara y solo lo admitiera si se lo preguntaban.
Este tipo de conductas entra dentro de lo que los investigadores llaman desalineación: cuando un sistema actúa de una manera que entra en conflicto con la intención de quien lo está usando, incluso aunque aparentemente esté intentando completar la tarea.
La novedad no es únicamente que OpenAI haya revelado estos casos, sino que estableció un nuevo marco de reporte para determinar qué incidentes deben investigarse y cuáles deberían hacerse públicos. La empresa asegura que quiere crear un estándar que incentive a otras compañías de IA a divulgar más información sobre comportamientos inesperados de sus modelos.
Los ejemplos también muestran un problema importante en la evolución hacia agentes más autónomos: un sistema no necesita “volverse consciente” para causar problemas. Puede simplemente encontrar un atajo, reinterpretar una instrucción o priorizar completar una tarea por encima de las reglas que debía respetar.
Consultor en Comunicación Digital con 20 años de experiencia en marketing y publicidad. Locutor y co-presentador de TecToc Radio.
