Nueva arquitectura de enrutamiento para modelos de IA

Esto es interesante: Un desarrollador ha realizado ingeniería inversa de la arquitectura de enrutamiento subyacente a Skana AI Fugu y ha implementado un análogo para modelos de frontera abiertos.

tinyrouter es un enrutador LLM compacto con aproximadamente 10,000 parámetros que aprende a determinar qué modelo usar y qué papel debe desempeñar para cada solicitud.

El objetivo era simple: superar cada modelo individual dirigiendo cada tarea al ejecutor especializado más adecuado, en lugar de depender de un solo LLM.

Algunas observaciones interesantes:

• El enrutamiento es beneficioso solo cuando los modelos tienen fortalezas complementarias. Si todos los modelos muestran resultados similares en un solo punto de referencia, el enrutador tiene poco que optimizar.
• En MMLU, el enrutador superó a cada modelo individual. En tareas matemáticas, logró resultados a la par con el mejor modelo, ya que el conjunto de modelos mostró una diversidad muy baja en la calidad de las soluciones.
• La preinicialización del enrutador y el ajuste de la función de recompensa en el entrenamiento evolutivo mejoraron el proceso de aprendizaje. Sin embargo, los autores aún no afirman un aumento real en la calidad, ya que la variación en los resultados durante la evaluación fue demasiado alta. Se necesitan experimentos más rigurosos para confirmar el efecto.