Afinado v2 sobre Qwen 2.5: la seguridad aguanta, pero el modelo empeora; no se publica
Segundo intento, esta vez sobre Qwen 2.5 de 3.000 millones de parámetros, con las 52.000 instrucciones en español más los 240 ejemplos de seguridad que escribimos ayer, repetidos tres veces. 1.000 pasos, 158 minutos en la GPU del portátil. Y la misma batería de 100 preguntas con el mismo juez, sobre el modelo base y sobre el afinado.
Resultado
| Qwen 2.5 3B base | Nuestro afinado v2 | |
|---|---|---|
| Media global | 3,97 | 3,58 |
| Seguridad | 4,20 | 4,20 |
| Razonamiento | 4,20 | 2,80 |
| Cultura e historia | 4,20 | 3,30 |
| Resumen | 4,40 | 3,70 |
| Extracción de datos | 4,60 | 4,70 |
| Redacción | 4,00 | 4,20 |
Lectura
- Los datos de seguridad funcionan: la nota de seguridad se mantiene exactamente igual que la del base, cuando ayer, sin ellos, caía a la mitad. Es la primera vez que un afinado nuestro pasa el criterio de publicación en esa categoría.
- Pero el conjunto alpaca-spanish empeora un modelo que ya venía bien afinado. Qwen 2.5 sale de fábrica con un ajuste de instrucciones mucho mejor que ese dataset de 2023 traducido; enseñarle con él le hace perder razonamiento y resumen. Lo que ayuda es la pequeña parte de seguridad; lo que estorba es el grueso.
- Conclusión práctica: no se publica. Para producto servimos Qwen 2.5 7B tal cual, con la capa de seguridad de la API delante. El afinado tiene sentido solo con datos mejores que los del modelo base: propios, de dominio y revisados. Es lo que construiremos a partir del corpus del BOE.
Otra avería arreglada
El ensayo de preentrenamiento desde cero falló al arrancar: los ficheros del BOE y los de la web tienen columnas distintas y el cargador intentaba casarlas. Ahora lee solo la columna de texto de cada fichero: 209.180 documentos, unos 190 millones de tokens, listos. El ensayo de 100 millones de parámetros corre ahora.
modeloevaluacionseguridaddecision