Вычислительная мощность искусственного интеллекта · Редакционный отдел KAEL
Планирование вычислительной мощности: сначала определите проблему, затем выберите ресурсы
Отправной точкой для создания вычислительной мощности является уточнение исследовательских задач и требований к доставке. Одна и та же конфигурация устройства может создавать совершенно разное взаимодействие с пользователем при разных масштабах данных, структурах моделей и требованиях к реагированию.
Разделить нагрузку по задачам
Записывайте предварительную обработку данных, обучение модели, поиск параметров и вывод отдельно. Предварительная обработка может быть ограничена скоростью хранения, для обучения может потребоваться больше видеопамяти, а вывод больше зависит от времени отклика. Если смешать эти ссылки в одну, это отнимает много времени, легко купить не те ресурсы.
Установите небольшой базовый уровень
Сначала проведите эксперимент с репрезентативными данными, запишите время работы, пиковую нагрузку памяти и использование устройства, а затем увеличьте размер входных данных. Наблюдение за тенденциями роста более ценно, чем копирование конфигураций других команд.
Пусть ресурсы служат исследованиям
При планировании учитывайте время ожидания в очереди, неудачные повторные запуски и хранение результатов. Производительность оборудования — это только одна часть уравнения; набор стабильных и повторяемых экспериментальных процедур может действительно сократить исследовательский цикл с помощью новых вычислительных мощностей.
