Архитектура и основные составные части систем ИИ

Основные понятия и история развития систем ИИ. Подходы к построению систем ИИ, архитектура, основные части и особенности.

Лыкошин Александр

2022-24

## Классификация искусственного интеллекта - Среди специалистов ИИ нет единой точки зрения на область искусственного интеллекта и даже на цели исследования. - В настоящее время различают две точки зрения (направления) к моделированию искусственного интеллекта (Al — artificial intelligence): - **моделирование внутренней структуры системы** (нейробионическое направление), - **строгое задание результата функционирования** (информационное направление).

- Сторонники нейробионики моделируют искусственным образом процессы, происходящие в мозгу человека. - исследуется понимание механизмов восприятия, выявление способов работы мозга, создание технических средств для моделирования биологических структур и протекающих в них процессах. - изучение механизмов естественного мышления и анализ данных о способах формирования разумного поведения человека могут создать основу для построения систем искусственного интеллекта, - моделирование, воспроизведение техническими средствами принципов и конкретных особенностей функционирования биологических объектов. - Практически это разработка элементов, подобных нейронам, объединение их в системы — нейросети, нейрокомпьютеры. - В настоящее время эти технологии являются наиболее быстро развивающимися.

- Сторонники второго направления убеждены, что «важнее всего результат»: - хорошее совпадение поведения искусственно созданных и естественных интеллектуальных систем, внутренних механизмов формирования поведения, - разработчик искусственного интеллекта не должен копировать или даже учитывать особенности естественных, живых аналогов. - Такой подход называется информационным - Основная цель - не построение технического аналога биологической системы, а адекватное моделирование функционирования системы, т. е. создания средств решения задач, традиционно считающихся интеллектуальными.

## Нейробионическое направление - Нейронные модели не только повторяют функции мозга, но и способны выполнять функции, имеющие свою собственную ценность. - Две взаимно обогащающие друг друга цели нейронного моделирования: - понять функционирование нервной системы человека на уровне физиологии и психологии, - создать вычислительные системы (искусственные нейронные сети), выполняющие функции, сходные с функциями мозга. - Информационные технологии сфокусированы на второй цели

#### Нейробионическое направление - модель Хэбба - Еще в 1949 г. была создана модель человеческого обучения — модель Д. Хэбба. Он предложил закон обучения, явившийся стартовой точкой для алгоритмов обучения искусственных нейронных сетей. - В пятидесятые и шестидесятые годы группа исследователей создала первые искусственные нейронные сети. Выполненные первоначально как электронные сети, они были позднее перенесены в более гибкую среду компьютерного моделирования.

#### Нейробионическое направление - модель Хэбба - Большинство современных алгоритмов обучения выросло из концепций Хэбба. - Модель обучения без учителя, в которой синаптическая сила (вес) возрастает, если активированны оба нейрона, источник и приемник. - Таким образом, часто используемые пути в сети усиливаются и феномен привычки и обучения через повторение получает объяснение.

#### Нейробионическое направление - модель Хэбба - В искусственной нейронной сети, использующей обучение по Хэббу, наращивание весов определяется произведением уровней возбуждения передающего и принимающего нейронов: `$ w_{ij}(n+1) = w(n) + \alpha \times out_{i} \times out_{j} $`, где <small> - `$ w_{ij}(n) $` – значение веса от нейрона i к нейрону j до подстройки, - `$ w_{ij}(n+1) $` – значение веса от нейрона i к нейрону j после подстройки, - `$ α $` – коэффициент скорости обучения, - `$ out_{i} $` – выход нейрона i и вход нейрона j, - `$ out_{j} $` – выход нейрона j. </small>

#### Нейробионическое направление - Идея нейрокомпьютера появилась практически одновременно с зарождением последовательных фон-неймановских ЭВМ. - Ключевая работа МакКаллока и Питтса по нейровычислениями - 1943 - за два года до записки фон Неймана о принципах организации вычислений в последовательных универсальных ЭВМ - схема компьютера на аналогии с работой человеческого мозга - упрощенная модель нервной клетки — нейрон. - Нейровычисления предъявляют жесткие требования к вычислительной мощности, - стали приобретать популярность только в семидесятые годы. - проблема вычислительной сложности для большого количества нейронов и их связей.

#### Нейробионическое направление - Первый экспериментальный нейрокомпьютер Snark был построен Марвином Минским в 1951 году - 40 искусственных нейронов 

#### Нейробионическое направление - Первые успехи нейрокомпьютинга связывают с разработкой персептрона (от английского perception — восприятие) американцем Френком Розенблаттом. - Одна из первых моделей нейронных сетей, которая вызвала большой интерес из-за своей способности обучаться распознаванию простых образов. - Персептрон состоял из бинарных нейроподобных элементов и имел простую топологию, что позволило достаточно полно проанализировать ее работу и создать многочисленные физические реализации. - Работы Минского и Пейперта, доказавшие ограниченные возможности простейшего персептрона, погасили энтузиазм большинства исследователей на два десятилетия.

#### Нейробионическое направление - Широкий интерес научной общественности к нейросетям начался в начале восьмидесятых годов после теоретических работ физика Хопфилда - коллективное взаимодействие нейронов, энергия сети, температура обучения и т. д. - Практическое применение нейросетей началось после публикации Румельхартом метода обучения многослойного персептрона, названного ими методом *обратного распространения ошибки*. - Таким образом, ограничения персептронов, доказательства которых представили Минский и Пейперт, оказались преодолимыми.

#### Нейробионическое направление ##### Классификация систем нейронной обработки - Системы нейронной обработки - Специализированные системы (нейрокомпьютеры) - Нейроэмуляторы - Нейропакеты общего назначения - Системы разработки нейроприложений - Системы готовых решений на основе нейросетей 

#### Нейробионическое направление - Доступность и возросшие вычислительные возможности современных компьютеров привели к широкому распространению программ, использующих принципы нейросетевой обработки данных, но исполняемых на последовательных компьютерах. - Этот подход не использует параллелизм, но ориентируется исключительно на способность нейросетей решать неформализованные задачи и реализуется нейроэмуляторами.

#### Нейробионическое направление - Нейропакеты общего назначения — законченные независимые программные продукты, предназначенные для широкого класса задач (например, статистической обработке данных). - Бесплатные и условно-бесплатные пакеты; как правило, это обычные многослойные персептроны с одним или несколькими правилами обучения. - Коммерческие пакеты (BrainMaker Professional, NeuroForecaster и т.п.)

#### Нейробионическое направление - Системы разработки нейроприложений — это программное обеспечение, способное генерировать программный код, использующий обученные нейросети для обработки данных. - Пример - MATLAB с прилагающимся к нему нейросетевым инструментарием, ограниченно вписавшимся в матричную идеологию этой системы. - среда для синтеза нейросетевых методик с прочими методами обработки (wavelet — анализ, статистика, финансовый анализ и т. п.).

#### Нейробионическое направление - Системы готовых решений на основе нейросетей — это конечный результат. - Нейросети скрыты от пользователя в готовых автоматизированных комплексах, предназначенных для решения конкретных производственных задач (управление предприятием, организационно-техническими системами, реакторами и т. д.). - Например, продукт Falcon встраивается в банковскую автоматизированную систему обслуживания платежей по пластиковым карточкам. - не требуют программирования, легко осваиваются, - нейроприложения могут использоваться для создания сложных систем обработки данных в реальном времени; - не предполагают глубокого знакомства пользователя с нейросетями, представляют комплексное решение проблемы.

#### Нейробионическое направление - Также можно представить возможные классификации систем по типу входных и выходных сигналов на бинарные и аналоговые сети. - Первые оперируют с двоичными сигналами, и выход каждого нейрона может принимать только два значения: логический ноль («заторможенное» состояние) и логическая единица («возбужденное» состояние). - В аналоговых сетях выходные значения нейронов способны принимать непрерывные значения.

#### Нейробионическое направление ##### Классификация по типу связей и типу обучения, т. е. базовых нейроархитектур, впервые предложенную Бартом Коско | Тип связей | Обучение с учителем | Обучение без учителя | |-----------------|---------------------|------------------------| | Без обратных связей | Многослойные персептроны (аппроксимация функций, классификация) | Соревновательные сети, карты Кохонена (сжатие данных, выделение признаков) | | С обратными связями | Рекуррентные аппроксиматоры (предсказание временных рядов, обучение в режиме on-line) | Сеть Хопфилда (ассоциативная память, кластеризация данных, оптимизация) |

#### Нейробионическое направление - Приложения нейронных сетей охватывают разнообразные области применений: - распознавание образов, обработка зашумленных данных, дополнение образов, ассоциативный поиск, классификация, оптимизация, прогноз, диагностика, обработка сигналов, абстрагирование, управление процессами, сегментация данных, сжатие информации, моделирование сложных процессов, машинное зрение, распознавание речи и т.д. - В настоящее время в каждой предметной области можно найти постановки нейросетевых задач.

#### Нейробионическое направление - Представители разных наук считают, что перевод известных методов на новый язык нейросетевых схем ничего принципиально нового не дает. Статистики говорят, что нейросети — это всего лишь частный способ статистической обработки данных, специалисты по оптимизации — что методы обучения нейросетей давно известны в их области, теория аппроксимации функций рассматривает нейросети наряду с другими методами многомерной аппроксимации. - Представляется, что именно синтез различных методов и идей в едином нейросетевом подходе и является неоценимым достоинством нейрокомпыотинга. - Единая терминология для широкого круга задач ускоряет и удешевляет разработку приложений. - Нейросетевые алгоритмы заведомо параллельны - позволяет распределять вычислительную нагрузку.

## Информационное направление - Информационное направление разделяется на: 1. Эвристическое программирование 2. Системы, основанные на знаниях 3. Интеллектуальное программирование

#### Информационное направление 1. Эвристическое программирование — это разработка оригинальных методов, алгоритмов решения задач, подобных человеческим, а в некоторых случаях даже и лучших. - Под эвристикой понимается правило, стратегия, метод или прием, используемые для повышения эффективности системы, которая пытается найти решения сложных задач. - Эвристическая программа — это программа для компьютера, использующая эвристики. _Словарь Вебстера: «эвристический» означает «способствующий открытию»._

#### Эвристическое программирование - Всякая предметная (проблемная) область деятельности может быть описана в виде некоторой совокупности сведений о структуре этой области, основных ее характеристиках, процессах, протекающих в ней, а также о способах решения возникающих в ней задач. - Все эти сведения образуют знания о предметной области. - При использовании интеллектуальных систем для решения задач в данной предметной области необходимо собрать о ней сведения и создать концептуальную модель этой области.

#### Эвристическое программирование - В области извлечения знаний можно выделить два основных направления: формализация качественных знаний и интеграция знаний. - Первое направление связано с созданием разнообразных методов, позволяющих переходить от знаний, выраженных в текстовой форме, к их аналогам, пригодным для ввода в память интеллектуальной системы. - В связи с этой проблемой развивались не только традиционные методы обработки экспериментальных данных, но и совершенно новое направление, получившее название нечеткой математики. Возникновение этого направления связано с именем американского специалиста Л. Заде. - Нечеткая математика и ее методы оказали существенное влияние на многие области искусственного интеллекта и, в частности, на весь комплекс проблем, связанных с представлением и переработкой качественной информации.

#### Эвристическое программирование - Полученные от экспертов знания нужно оценить с точки зрения их соответствия ранее накопленным знаниям и формализовать их для ввода в память интеллектуальной системы. - Кроме того, знания, полученные от различных экспертов, надо еще согласовать между собой; эти знания могут быть внешне несовместимыми и даже противоречивыми; инженер по знаниям должен устранить эти противоречия.

#### Эвристическое программирование - Следующая большая проблема, изучаемая в искусственном интеллекте, — это представление знаний в памяти системы. - Для этого разрабатываются разнообразные модели представления знаний. В настоящее время в интеллектуальных системах используются четыре основные модели знаний. - Первая модель, возможно, наиболее близка к тому, как представляются знания в текстах на естественном языке. - В ее основе лежит идея о том, что вся необходимая информация может быть описана как совокупность троек вида: (a R Ь), где а и h два объекта или понятия, a R — двоичное отношение между ними. - Такая модель графически может представляться в виде сети, в которой вершинам соответствуют объекты или понятия, а дугам — отношения между ними. Дуги помечены именами соответствующих отношений. - Такая модель носит название семантической сети.

## 3. Интеллектуальное программирование - Это направление в искусственном интеллекте соответствует программистскому взгляду на эту область. Трудоемкость разработки интеллектуальных приложений зависит от использованного языка, инструментальных систем, парадигмы программирования, средств разработки ИИС и приобретения знаний, систем когнитивной графики

#### 3. Интеллектуальное программирование - Среди огромного количества языков программирования в работах по искусственному интеллекту используется небольшая часть. 1) Традиционные языки программирования типа С, C++, но ограниченно, - как правило, для создания инструментальных средств. 2) Специализированные языки программирования: - LISP и все его многочисленные версии, ориентированные на обработку списков; - язык логического программирования PROLOG. - язык рекурсивных функций РЕФАЛ. 3) Отдельно стоят языки для представления знаний. Это языки, ориентированные на фреймы K.L-1, K.RL, FRL или язык ПИЛОТ, ориентированный на модель знаний в виде продукций

## Приложение 1

Примеры: - Eliza (1964-66) - Sophia the Robot (2016) - Ameca (2021-22)

Eliza (1964-66)  [https://web.njit.edu/~ronkowit/eliza.html](https://web.njit.edu/~ronkowit/eliza.html)

Sophia the Robot (2016)  <!-- .element style="max-height: calc(66vh);max-width: calc(66vw);" --> - [My Greatest Weakness is Curiosity | Sophia the Robot at Brain Bar](https://www.youtube.com/watch?v=Io6xuGmS5pM) - [Meet Sophia, World's First AI Humanoid Robot | Tony Robbins](https://www.youtube.com/watch?v=Sq36J9pNaEo)

- Ameca (2021-22)  - [Ask Ameca Q&A | Humanoid Robot Answers Your Questions](https://www.youtube.com/watch?v=fQ2JpkFBAOs) - [Ameca conversation using GPT 3 - Will robots take over the world?](https://www.youtube.com/watch?v=EWACmFLvpHE) - [Watch Ameca the humanoid robot FIRST live interaction in public demo!](https://www.youtube.com/watch?v=Z12kNRDgvGQ)

## Приложение 2. ГОСТ Р 59277-2020 Системы искусственного интеллекта. Классификация систем искусственного интеллекта

## Ключевые термины - **Искусственный интеллект (artificial intelligence)**: - Комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение, поиск решений без заранее заданного алгоритма и достижение инсайта) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. - **Нейротехнологии**: - Технологии, которые используют или помогают понять работу мозга, мыслительные процессы, высшую нервную деятельность, в том числе технологии по усилению, улучшению работы мозга и психической деятельности. - **Система искусственного интеллекта (artificial intelligence system)**: - Техническая система, в которой используются технологии искусственного интеллекта. <!----> <!---->

## Принципы классификации систем искусственного интеллекта Искусственный интеллект как область знаний охватывает все области человеческой деятельности, включая: информатику, математику, философию, психологию, термодинамику, лингвистику, здравоохранение, инженерию, экономику, когнитивные науки и др. Эти знания используются в таких приложениях, как: системы управления, системы принятия решений, многоагентные системы, системы обработки естественного языка, распознавание образов, распознавание речи, обработка знаний, интеллектуальный анализ данных, логистика и другие приложения.

## Базовые классы СИИ 1. по классам и категориям объектов в управлении; 2. по технологиям построения, приобретения и использования знаний; 3. по функциям, которые выполняет СИИ в контуре управления; 4. по методам и технологиям, используемым в СИИ; 5. по методам и средствам взаимодействия СИИ с другими системами и человеком-оператором.

## Основания для классификации: 1) по степени автономности; 2) по степени автоматизации; 3) по архитектурному принципу; 4) по структуре и процессам обработки знаний: а) по модели знаний; б) по управлению знаниями; в) по методу обучения; 5) по специализации систем ИИ: а) специализированные (используют единый домен знаний); б) комплексные (используют множество доменов знаний); 6) по методам обработки информации; 7) по функциям в контуре управления; 8) по методам достижения интеграции и интероперабельности СИИ; 9) по опасности последствий; 10) по конфиденциальности; 11) по видам деятельности; 12) по взаимодействию с человеком-оператором.

## Схема классификации СИИ <!--<a href="img/gost_r_59277-2020_0.png" target="_blank">--> <!--<img class="r-stretch" src="img/gost_r_59277-2020_0.png" alt="Схема классификации СИИ"/>--> <!--</a>--> <!--<img class="r-stretch" src="img/gost_r_59277-2020_0.png" alt="Схема классификации СИИ"/>--> <!--<a href="img/gost_r_59277-2020_0.png" target="_blank">[Увеличить]</a>-->  <small>[Открыть в новом окне](img/gost_r_59277-2020_0.png)</small>

## 1. по степени автономности 1. Автономные системы 2. Встроенные системы 3. Гибридные системы

## 2. По степени автоматизации 1. Автоматизированные системы 2. Автоматические системы

## 3. по архитектурному принципу 1. Централизованные системы 2. Распределенные системы

## 4. По видам деятельности 1. Государственное управление 2. Безопасность 3. Общеотраслевое регулирование 4. Промышленность 5. Здравоохранение 6. Торговля 7. Финансы и банки 8. Транспорт и логистика 9. Сельское хозяйство 10. "Умный город" 11. Экология 12. Образование и наука 13. Нефть и газ 14. Прочее

## 5. По функциям контура управления 1. Системы с обратной связью 2. Системы реального времени 3. Адаптивные системы 4. Системы формирования цели (Системы целеполагания) 5. Системы формирования контура управления и обучения 6. Системы обработки измерений 7. Системы идентификации и диагностики 8. Системы когнитивного моделирования 9. Системы логического вывода 10. Системы принятия (поддержки) решений 11. Экспертно-аналитические системы 12. Системы оценки достижения цели 13. Ситуационные центры 14. Системы прогнозирования 15. Прочее

## 6. По специализации систем 1. Экспертные системы (управление знаниями) 2. Игровые системы 3. Системы естественного языка 4. Системы компьютерного зрения 5. Промышленные роботы 6. Беспилотные аппараты 7. Прочее

## 7. По комплексности и сложности систем 1. Многоагентные системы 2. Системы "Большие данные" 3. Промышленный интернет вещей 4. Киберфизические системы 5. Системы жизненного цикла 6. Системы сетевой экспертизы 7. Распределенные системы управления 8. Система распределенных ситуационных центров 9. Прочее

## 8. По методам обработки информации (1/2) 1. Нейросети 2. Обучение на примере 3. Эволюционные и генетические алгоритмы 4. Муравьиные алгоритмы 5. Имунные вычисления 6. Глубокое обучение 7. Роевые вычисления 8. Метод Байеса 9. Уменьшение размерности 10. Природные вычисления 11. <a class="navigate-right" href="#">...</a>

## 8. По методам обработки информации (2/2) 10. <a class="navigate-left" href="#">...</a> 11. Мягкие вычисления 12. Кластеризация 13. Дерево решений 14. Регуляризация 15. Аналоговая обработка данных 16. Обработка фурье-образов 17. Регрессия 18. Решение обратных задач 19. Система правил 20. Прочее

## 9. По управлению знаниями, моделям и методам обучения (1/2) 1. Процедурные 2. Декларативные 3. Онтологические 4. Семантические 5. Продукционные 6. Фреймовые 7. Нейросетевая 8. Генетическая 9. Логическая 10. Статистическая 11. <a class="navigate-left" href="#">...</a>

## 9. По управлению знаниями, моделям и методам обучения (1/2) 10. <a class="navigate-left" href="#">...</a> 11. Нечеткие знания 12. Классификации 13. Многомерное представление (3Д, 4Д) 14. Функциональные 15. Технологические 16. Методологические 17. Комбинированное обучение 18. Непрерывное обучение 19. Единовременное обучение 20. Прочее

## 10. По методам достижения интеграции и интероперабельности 1. Системы с интеграцией на базе онтологий 2. Системы на базе профилирования 3. Системы, использующие классификаторы 4. Прочее

## 11. По опасности последствий (*) 1. Социальная 2. Политическая 3. Экономическая 4. Технологическая 5. Техногенная 6. Экологическая 7. Безопасность государства <small>_(*) Классификация в соответствии с категорированием объектов критической информационной инфраструктуры: (1) Социальной значимости (здоровье и жизнь людей); Политической значимости (причинение ущерба государству); Экономической значимости (ущерб субъектам и/или бюджетам); Экологической значимости (воздействие на окружающую среду); Значимость для обороны/безопасности, Правопорядка._</small>

## 12. По конфиденциальности** 1. Уровень конфиденциальности (0-3) <small>_(**) Классификация соответствует следующим классам конфиденциальности: (0) Открытая информация; (1) Внутренняя информация; (2) Конфиденциальная информация; (3) Секретная информация._</small>

## Спасибо за внимание #### Вопросы..? [Следующая часть >>](../nn-02/index.html)