El plugin Caveman gana popularidad al hacer que los LLM hablen como cavernícolas para ahorrar tokens
El plugin Caveman gana popularidad al hacer que los LLM hablen como cavernícolas para ahorrar tokens
El plugin Caveman optimiza las respuestas de los LLM eliminando frases innecesarias, ahorrando hasta un 75% de tokens sin pérdida de calidad.
Configura el modelo para excluir saludos, frases de cortesía, transiciones largas, definiciones para principiantes y otras frases introductorias, dejando solo la esencia.
Según el autor, se pueden ahorrar hasta un 75% de tokens sin pérdida de calidad (hay varios modos de compresión, desde ligero hasta ultra telegráfico).
El proyecto en GitHub (github.com/JuliusBrussee/caveman) ya ha recibido casi 80,000 estrellas. Inicialmente, era solo una habilidad para Claude Code, pero ahora el autor ha creado un plugin independiente a partir de Caveman e incluso ha lanzado un agente de codificación completo Caveman Code.
El autor señala que la habilidad es utilizada incluso por empleados de OpenAI, Nvidia, GitHub, entre otros. En Legrand, supuestamente se recomienda a los empleados usar Caveman para no exceder los límites de tokens.
Curiosamente, el proyecto ha sido apoyado por el CTO de OpenAI, Shane Sweeney, quien contribuyó personalmente al repositorio al agregar soporte para Codex.
Por qué es importante
АналітикаCaveman demuestra un enfoque innovador para optimizar el uso de tokens en LLM, lo que puede reducir significativamente los costos computacionales. También destaca la importancia de la eficiencia en el desarrollo de soluciones de IA.
Debatir en la comunidad
Діліться своїм досвідом та думками з ШІ-розробниками