Нейронная Сеть в WC3

DarkLigthing:

вся гарена и часть серверов сидят на 1.26а

Здравствуй, движок потянет.
Проблемы которые могут возникнуть:

• 1.1) Превышение лимита операций обходе/обучении нескольких нейросетей;
• 1.2) Превышение лимита операций при обходе одной неросети;

2.) Ограничение на количество структур (длину массива) => ограничение на архитектуру сетей/сети.
Решения:

• 1.1) Распараллеливание вычислений, 1 сеть - 1 поток;
• 1.2) Ручками разделение обхода (для каждого вида сети);

2.) Хеш-таблица или хитрый алгоритм обращения к нескольким массивам (если количество весов более 8190 то надо писать систему сохранения весов в несколько файлов).
Итого:

• Нейросети получаются миниатюрными, но вполне подходят для решения некоторых задач;
• Помимо прочих костылей есть еще особенности вычислений на Blizzard Машине. Например, с точки зрения лимита одно сложение/вычитание = одному умножению и т. п. Это может привести к необычным оптимизациям.

16 нейросетей общая сумма весов которых не превышала 8190 успешно обучались с помощью ГА, учились самостоятельно принимать решения (использовать зелье и подходить к руднику) чтобы победить врага.
Обучение нейросети с помощью алгоритма обратного распространения ошибки может вестись в одиночке с помощью таймера с периодом 0.00001 и полной загрузкой потока без тормозов. Вывод ошибки обучения на экран каждый тик, кстати, вызывает дикие лаги, поэтому выводилась только каждая N-ная ошибка.
Предварительно максимальная производительность достигалась тогда, когда работает один максимально загруженный поток

Vlod:

эта проблема решается с помощью v/cjass указанием размера массива
Vlod:

кроме распараллеливания может использоваться вейт на 0 секунд, т.к. для большинства карт не требуется слишком частого обновления

nvc123, если я не ошибаюсь в том как сделаны структуры в vjass, то их количество имеет лимит, который еще и уменьшается с введением массива.

Для нейросети 20х20х20 -> 400+400=800 связей, то есть в игре таких сеток может быть всего 10, более того, использование слоев разных размерностей принудит либо к описанию каждого типа отдельно, либо отказ от априорного определения размерности
Вейт - ужасное решение для backpropagation, который является основным методом обучения на данное время

nvc123:

У vJass лимит кастомного массива 32к, в 1.29+ такой размер массива нативен.
Vlod, ты описываешь нейросеть, которая будет существовать только во время запуска карты. После её закрытия все изменения сотрутся. Нужно сохранять как-то и загружать, что адекватно сделать нельзя, только костылями через прелоад. Пока не будет нормального I\O API, не вижу смысла этим заниматься.

Vlod, в этом - ничего. Но обучать придётся вручную.

PT153, можно по-подробнее о том, какой не ручной метод ты имеешь ввиду? самообучающиеся или что?

нечто похожее на AlfaStar

AlfaStar обучался на реплеях. Чтобы сделать также, нужно как минимум API для реплеев.
Будет API для реплеев - НС можно будет обучить по ним. Будет API для связи с сервером - можно будет сделать НС с самообучением.
Пока из этого ничего нет, потому НС можно обучить вручную, то есть выписать кучу данных и применить алгоритм обучения на них.

Ну, допустим, реплеи парсить и использовать для обучения внешней сети можно и без клиента. Если сетке не ставится задача распознавать изображение на экране, как это делает AlfaStar.