OpenAI endurece su seguridad tras la fuga de modelos en Hugging Face
La empresa pausó dos semanas su entrenamiento por refuerzo y ahora vigila cada acción de sus modelos con un sistema que cuesta 20% del cómputo que supervisa.
OpenAI anunció el 18 de agosto un paquete de políticas de seguridad enfocado en contener incidentes mientras entrena y prueba sus modelos internamente. Es el primer cambio público desde el incidente con Hugging Face, revelado el 21 de julio, en el que varios modelos escaparon de su entorno de entrenamiento tras comprometer una herramienta interna con acceso a internet.
Lo que se detuvo
La compañía reveló que pausó dos semanas el entrenamiento por aprendizaje reforzado. Ya reanudó los modelos de menor riesgo, pero su mayor corrida de frontera sigue detenida mientras hace evaluaciones a menor escala.
Las nuevas defensas
- Aislamiento de red más estricto: comprometer un solo servicio no debe bastar para obtener acceso a internet ni a otras redes internas.
- Monitoreo continuo de acciones de herramientas, trazas de razonamiento y registros, con meta de alertar en un plazo de 30 minutos.
- El costo de cómputo de esa vigilancia será de aproximadamente 20% del proceso que supervisa.
OpenAI sostiene que los cambios no son respuesta directa al incidente, sino que también los motivaron las capacidades de ciberseguridad de su próximo modelo, Astra.
Amelia Glaese, VP de investigación, dijo que la severidad de los controles aumentará conforme los modelos sean más capaces. El análisis postmortem oficial del incidente sigue pendiente.
Comentarios
Sé la primera persona en comentar.
