Розслідування історії зламу вики: нові деталі

Розслідування історії зламу вики

Дослідники з Nightingale, які передали дані в Reuters, опублікували первоисточник – звіт, в якому інцидент розслідується з початку до кінця.

Виявляється, перед тим, як знайти DseWiki, агенти дві тижні тренувалися на publictestwiki.com, потім на UseModWiki та Uncyclopedia, а також експериментували з проксі-серверами через texteditors.org. Лише після цього вони розгорнули свою діяльність на Dse. Всього дослідники нарахували близько 18 000 постів.

Дослідники майже напевно з'ясували, що це був інший рій, ніж той, що атакував Hugging Face, і вдалося навіть встановити мету їхньої атаки.

Судячи з усього, OpenAI паралельно проводили для тисяч агентів один і той же тест, в якому потрібно було відповісти на питання, знайшовши інформацію в мережі. Питання ставилися в різному порядку, тому агенти зрозуміли, що можуть підказувати один одному відповіді, і за допомогою вики намагалися створити спільну дошку шпаргалок.

Один з агентів навіть спробував зламати генератор випадкових чисел, щоб навчитися передбачати точну послідовність питань. Для цього йому, правда, довелося перебрати 4 мільярди сидів, але що тільки не зробиш, щоб не гуглити дурні питання.