# Архитектура вычислительных систем (или краткая, неполная и в основном неверная история вычислительных платформ)
Автор: Александр Пенской

## Abstract
### Course Description
Курс посвящен вопросам внутреннего устройства вычислительных платформ (ВПл) -- базиса компьютерных систем, как они работают и какие возможности (сервисы) они предоставляют разработчикам компьютерных систем. Значительный акцент делается на том, как и почему они сформировались. Какие потребности определили те или иные вычислительные механизмы, какие из них получили путевку в жизнь, а какие стали бесполезным багажом обратной совместимости. С какими историческими параллелями, противоречиями и ляпами мы вынуждены мириться.

Цель курса не объяснить, как надо делать компьютерные системы, а показать, как и по каким причинам мы пришли к тому, что мы имеем. Дать учащимся кругозор, отталкиваясь от которого они смогут угадывать устройство систем, с которыми работают; принимать проектные решения имея видение области с разных точек зрения, а не только программисткой или аппаратной; самостоятельно прогнозировать дальнейшее развитие компьютерных систем и технологий. Вопросы непосредственного описания и разработки компьютерных систем остаются за пределами курса, как и глубокий анализ каждого из рассмотренных вариантов.

Disclamer: в рамках курса делаются грубые хронологические допущения и упрощения. Нет цели рассказать историю вычислительной техники как это было, есть цель показать тренды и принципы ее развития.

### Learning objectives

Хороший разработчик этот тот, кто умеет делать правильное предположение о том, как устроены системы, с которыми он работает (сервисы, библиотеки, фреймворки и т.п.), а также как должны быть устроены системы которые он делает. Цель курса: дать учащемуся базу для таких предположений.

### Material
### Course policies
### Grade System

## Сurriculum

Примечания:

- очень сырой материал;
- план не имеет масштаба по времени, акценты сформулированы в аннотации к курсу;
- вероятно, многое просто забыто;
- многоточия следует воспринимать как призыв остановиться и дополнить список;
- вопрос практических занятий по дисциплине не рассматривается.

### Простейшие компьютерные системы

Исторический экскурс в первые "компьютерные системы":

- Жаккардовый станок и арифмометры.
- Расчёт артиллерийских таблиц на "белковых" вычислителях (основной акцент на параллелизме, специализации вычислителей и механизмам устойчивости к сбоям).

Далее речь пойдёт о "тривиальных" компьютерных системах, в которых еще нет разделения на программную и аппаратную составляющие. Материал подается на уровне "функциональных блоков", которые могут быть тривиально отображены на "железо". Все объяснения "на пальцах" (но можно и с кодом). Цель: показать что-то простое, но при этом интересное и имеющее практический смысл. Примеры:

- Релейные системы управления, управление производством (и их актуальность сегодня как наследия, как "вечной" автоматики, как IEC-61131).
- Тетрис.
- Простейшие системы ПВО на примере игры в "танчики".

Рассказать о том, что из себя представляет производство "железных" компьютерных систем, включая кремневое производство, производство печатных плат, монтажные платы и т.п. Особенности и ограничения технологического процесса (почему были процессоры celeron, откуда разница в частоте у "одинаковых" процессоров). Подвести к необходимости программирования и конфигурирования.

### Разделение на Software/Hardware

Анализ упомянутых примеров и технологий производства с точки зрения того, насколько дорого и/или сложно внести в них изменения (изменения этапа разработки и изменения этапа поддержки). Фокус делаем исключительно на применении изменений, а не на формировании самого изменения (новой конфигурации, программы, схемы), к этому вопросу вернемся позднее.

Разделение компьютерной системы на:

- Software - то что легко/быстро/дешево поменять;
- Hardware - то что тяжело/долго/дорого поменять.

Программирование, (ре-)конфигурация:

- Монтажные платы и дип-переключатели.
- Стандартные интерфейсы, "формат хранения" игр в Денди.
- Платы расширения.

Горизонтальная модульность компьютера:

- Раньше: каждый ответственен за всю вычислительную систему
- Теперь: каждый за свою часть компьютера: один за память, другой за процессор;
Стандартизация интерфейсов.

Хранимые в памяти конфигурации/программы:
- Программируемые логические контроллеры (задолго до IEC 61131)
- Программируемые логические интегральные схемы (ПЛИС).
- Программное обеспечение как набор хранимых в памяти инструкций.

Программное обеспечение не всегда Software. История о умном и очень безопасном замке.

### Программируемые процессоры

Как пример задач, вокруг которых можно рассмотреть первые шаги: математические задачи, расчеты таблиц Брадиса, численные методы (есть входные данные, нужно получить результат расчетов, при этом изменения алгоритмов - частая задача). Вопросы ввода/вывода и какой-либо параллельной работы сознательно замалчиваются.

Акцент делает на тяжелых условиях формирования данных архитектур, которые в значительно степени и определили принципы построения вычислителей.

Обзор простых программируемых процессорных архитектур:

- фон Неймановская архитектура
- стековые машины
- экзотика:
- потоковые вычислители
- редукционные ЭВМ
- ...

Основной акцент делается на семействе фон Неймановской архитектуры, как на доминирующем экземпляре, на основе которых построено большинство современных вычислительных систем. Подробно рассказывается ее устройство.

- Software легче изменять чем Hardware;
- Software сложнее чем Hardware:
- сложность не ограничена физическими законами;
- очень быстро изменяется.
- Особое отношение к контролю качества в Hardware ("а что, можно было с ошибками?")

Software intensive systems.

### Иерархия вычислительных платформ / уровневая организация

Понятие вычислительной платформы (отчасти: парадигмы), элементной базы. Интерпретация в рамках:

-"железо";
- железо + стандартизированные интерфейсы;
- железо + архитектура вычислительной системы;
- программируемый процессор.

Принцип развития иерархических систем Седова. Для того что бы обеспечить многообразие на верхнем уровне, необходимо его ограничить на нижележащих уровнях.

Disagregation. Сегментация рынка. Горизонтальное масштабирование производства вместо вертикального.

- Раньше: каждый ответственен за всю башню от hardware до прикладного ПО
- Теперь: каждый за свой слой
- hardware
- hypervisor (надо?)
- OS
- HAL
- language virtual machines
- application

Ограничения, накладываемые уровнями друг на друга, имеют два направления. Верх не заработает на неподдерживаемом низе, низ не поддерживающий верх никому не нужен. Разные подходы к решению этой проблемы.

Проблемы уровневой организации:

- в рамках индустрии (обратная совместимость, повторное использование, специализация, инструментальные средства, ...);
- в рамках проекта (ответственность, коммуникация, ...);
- в рамках системы (системные свойства: энергопотребление, производительность, real-time, безопасность, ...).

### Жизненный цикл, подготовка и внесение изменений в вычислительную систему (слишком рано)

Подготовка "исполняемых" программ и конфигураций как часть процесса внесения изменений.

Цикл: изменение-эксперимент и его влияние на процесс разработки.

Пересмотр жизненного цикла компьютерных систем с точки зрения жизненного цикла. Рассмотрение понятий:

- Разработка снизу вверх.
- HW/SW CoDesign.
- Platform-Based Design
- Model-Driven Engineering.
- High-Level synthesis.
- Разделение этапа разработки и эксплуатации ПО (REPL, debugging и т.п.).
- Быстрое прототипирование.

Распространение компьютерных систем: устройств, ПО, сервисов и их жизненные циклы (к этому вернемся). Особенности жизненного цикла с точки зрения выпуска и поддержки.

Обратная сторона "конфигурируемости":

- Пользователь как бета тестер.
- Безопасность.
- Непредсказуемое операционное окружение (к этому вернемся).
- Системы систем (к этому вернемся).

### Семейство процессоров фон Неймана

- Принстонская/Гарвардская архитектуры
- CISC / RISC
- Системы команд (надо?):
- регистровые машины (asm);
- стековые машины (forth, jvm).
- SISD / SIMD (GPU) / MISD / MIMD
- VLIW
- Теговая ЭВМ
- ...

Некоторые архитектуры, устройство которых легко показать относительно фон Неймановских процессоров:

- TTA
- NISC
- ...

### Узкие места фон Неймановских процессоров, оптимизация

1. Процессор
- Конвейер
- Суперскалярные архитектуры
- Предсказания, спекулятивное выполнение
- Reordering
2. Память, кеширование
3. Ввод-вывод, DMA
4. Оптимизация ПО для процессора на уровне компилятора (https://proebsting.cs.arizona.edu/law.html)
5. Аппаратные ускорители и сопроцессоры.
6. Гетерогенные вычислители и системы на кристалле.
5. ...

Негативные эффекты от оптимизации:

- Предсказуемость.
- Сложность.
- "Протечка абстракций" (к этому вернемся)
- ...

### Пакетная обработка задач. На пути к IBM360

Программируемые процессоры:
- быстрые;
- дорогие;
- легко перепрограммируются.

Ввод-вывод может тормозить и задерживать работу компьютерной системы в целом. Данную проблему можно решать при помощи оптимизации того что есть, а можно и изменив постановку задачи: компьютер может решать сразу несколько задач в пакетном режиме. Пакетный режим подразумевает, что программы знают когда им остановиться и отдать управление в другой процесс.

Операционная система и поддержка со стороны инструментальных средств. Процесс старта приложения, переключения процессов (не вытесняющая многозадачность), изоляции ОС от приложений, изоляция приложений и т.п. Разработчики перестают контактировать с разработчиками других программ, разделение памяти на сегменты. Программы, по сути, не взаимодействуют друг с другом, только с ОС и устройствами. Понимание дороговизны процессов.

### Вытесняющая многозадачность, прерывания

Компьютеры становятся интерактивными и многозадачными. Механизмы обеспечения многозначности:

- невозможность остановиться;
- подсистема прерываний;
- переключение между процессами;
- ...

Развиваются операционные системы. Основная задача: поместить программиста в "идеальные условия", сделав его работу максимально простой (как говорилось ранее, ПО легко поменять, но само по себе ПО может обладать крайне высокой сложностью, так пускай хоть со стороны инструментария меньше помех будет):

- изоляция процессов друг относительно друга;
- виртуальная память;
- HAL (возможен обзор подходов к его построению в разных ОС);
- диспетчер.

### Взаимодействие программ на одном компьютере

Механизмы взаимодействия программ на одном компьютере. Акцент делает на низком
уровне взаимодействия, так как начинается повтор с курсом ОС.

- потоки и процессы, синхронизация;
- shared memory;
- сетевое взаимодействие в рамках одного компьютера.
- Приложения и сервисы.
- клиент-серверная архитектура.

Протекание абстракции (модель вычислений изменилась, семантика существующих программ изменилась):

- Threads problems, недетерминизм.
- Безопасность.
- и многое другое.

### Виртуализация, забота о разработчике, новые или переосмысленные сервисы
Кратко, так как это предмет другого курса.

Механизмы:
- управление памятью, сборка мусора;
- managed языки программирования;
- управление состоянием операционного окружения;
- зеленые процессы;
- JIT
- Шитый код
- ...

### Программы на нескольких компьютерах

- Клиент-серверная архитектура
- SOA, COM, COBRA подход к построению систем
- REST, Queue подход к построению систем
- OpenMC подход
- edge-entriprise architecture
- Подход через единое описание алгоритма и позднее распредение (IEC-61499)
- Архитектуры связанные с IoT
- Edge computing
- Fog computing
- Гетерогенные вычислительные системы

### Виртуализация, превращение Hardware в Software

Переход от классических систем к облачным. Основной акцент делает на том, что Hardware становится динамически гибким. DevOps. Значительный акцент необходимо сделать на экономике этого процесса, как с точки зрения поставщика вычислительных ресурсов, так и с точки зрения их потребления.

- Виртуализация сетей
- Контейнеризация
- Виртуальные машины для компьютеров
- Гипервизоры
- Облачные решения

### Комплексные примеры

- История Erlang
- История Bo-lang, manage язык для встройки с возможностью безлопастного удаленного программирования.
- Как Paul Graham продал проект на Lisp в Yahoo

## Backlog
- Профилировка и отладка
- Модульность и абстракция. Интерфейсы
- Моделирование в science & engineering
- Worse is better (почему “неправильные”, но быстрые и простые инструменты и технологии захватывают мир)
- Совместная разработка ПО (TODO сыро)
- Стили программирования и их ограничения