Ученые предложили новый подход к исправлению ошибок искусственного интеллекта

19 августа 2019
676
Две статьи коллектива ученых из Великобритании, России и Испании, опубликованных в журнале Physics of Life Reviews, продолжили обсуждение двух важных проблем в теории искусственного интеллекта: как быстро и эффективно исправлять ошибки искусственного интеллекта и чем объясняется эффективность малых нейронных ансамблей в многомерном мозге? 

Как отмечает Александр Горбань, в многомерных пространствах облака данных приобретают неожиданно простые свойства. Даже в больших случайных наборах данных каждая точка с большой вероятностью отделима от всех других точек плоскостью, которая строится по явным формулам.

«Это явление стохастической отделимости (stochastic separation) одновременно служит основой и коррекции ошибок искусственного интеллекта, и таких нейрофизиологических феноменов как «бабушкины клетки» (grandmother of concept cells). Так называются отдельные нейроны, селективно реагирующие на предъявление какого-либо образа («бабушки»).

Системы искусственного интеллекта ошибаются и будут ошибаться. Человек должен разработать эффективную технологию обработки ошибок искусственного интеллекта или отказаться от использования искусственного интеллекта в важных проектах», – подчеркнул профессор Горбань.

Согласно GMT-подходу, если обнаружена ошибка искусственного интеллекта, то ее можно исправить на будущее, отделив простым правилом (плоскостью) ситуацию с ошибкой от прочих ситуаций, где ошибок не было. При этом каскады таких простых корректоров строятся сравнительно легко. Они позволяют исправлять ошибки искусственного интеллекта без переучивания исходной системы, которое требует несравненно больше времени и различных ресурсов.

По мнению ученых, «бабушкины клетки легко могут отделить специфический многомерный сигнал от всех остальных без создания сложных и существенно нелинейных правил. Новые модели нейронной памяти в многомерном мозге также предложены профессорами Горбанем, Макаровым и Тюкиным (GMT-модели). В обсуждении GMT-подхода участвовали десять всемирно известных экспертов, результатом этого обсуждения стало доказательство состоятельности GMT-подхода. Модели уже подтверждены реальными приложениями, в которых работает новая технология исправления ошибок. Она исправляет ошибки искусственного интеллекта «на лету» и позволяет системам искусственного интеллекта обучать друг друга. Новые GMT-модели памяти допускают экспериментальную проверку и уже дают неожиданные предсказания. Обсуждение экспертами открывает новые проблемы и горизонты работы.