Jun Song: отклонил предложение о тренировке данных уязвимостей от анонимной черной шляпы

Открытый AI специалист Jun Song опубликовал в X: вчера с ним связала анонимная черная шляпа, предложившая запрос на обучение с подкреплением, готовая заплатить огромную сумму, чтобы поручить ему дообучение открытой весовой модели, используя данные о эксплуатации уязвимостей. Jun Song также управляет бизнесом по экспорту аппаратного обеспечения центров обработки данных в Корее и продвигает проект 0xSupergemma.

Jun Song заявил, что собеседник утверждает, что объем имеющихся у него данных об атаках невидан, и даже если кто-то скажет, что это данные под прикрытием правоохранительных органов, он бы поверил. В качестве сравнения, в одном из проектов белых шляп, в котором он участвует, используется GLM-5.3, объем данных составляет менее 1% от этого масштаба, а результаты значительно превышают показатели передовых моделей. Он отклонил этот запрос и выразил настоящую озабоченность тем, что в конечном итоге кто-то другой примет эту сделку.