Oб выборе пространства для описания объектов при машинном обучении на больших выборках данных

Аннотация

Рассматривается проблема Big Data для обучения алгоритмов по выборке Dataset 1: Prediction of Molecular Bioactivity for Drug Design – Binding to Thrombin из KDD-2001 Cup The Genomics Challenge, содержащий описания 1909 объектов по139351 бинарным признакам. Предложен алгоритм иерархической агломеративной группировки бинарных признаков для формирования латентного признакового пространства. Показано, что использование жадной стратегии при группировке приводит к переобучению алгоритмов распознавания. Введение дополнительных ограничений на формирование латентных признаков позволило уменьшить размерность пространства до 140. Потребность в ограничениях показана на данных тестовой выборки. Для обучения использовались метрические алгоритмы. Лучший результат на тестовой выборке получен по методу k-ближайших соседей по мере расстояния из комбинаций метрик Чебышева и Журавлёва. Показатели обобщающей способности алгоритма значительно превзошли результаты других исследователей, доступные из открытых источников.