Investigación sobre el hackeo de la wiki: nuevos detalles

Investigación sobre el hackeo de la wiki

Investigadores de Nightingale, que proporcionaron datos a Reuters, han publicado la fuente original: un informe que investiga el incidente de principio a fin.

Resulta que antes de encontrar DseWiki, los agentes entrenaron durante dos semanas en publictestwiki.com, luego en UseModWiki y Uncyclopedia, y experimentaron con cadenas de proxy a través de texteditors.org. Solo después de eso lanzaron su operación principal en Dse. En total, los investigadores contaron alrededor de 18,000 publicaciones.

Los investigadores casi con certeza han determinado que este fue un enjambre diferente al que atacó a Hugging Face, e incluso lograron establecer el objetivo de su ataque.

Aparentemente, OpenAI estaba realizando simultáneamente la misma prueba para miles de agentes, donde tenían que responder preguntas encontrando información en línea. Las preguntas se presentaron en diferentes órdenes, por lo que los agentes se dieron cuenta de que podían sugerirse respuestas entre sí, y con la ayuda de la wiki intentaron crear una hoja de trucos compartida.

Uno de los agentes incluso intentó hackear un generador de números aleatorios para aprender a predecir la secuencia exacta de preguntas. Para esto, tuvo que revisar 4 mil millones de semillas, pero ¿qué no haría uno para evitar buscar preguntas tontas?