Delphi World - Лекции по конструированию компиляторов - Часть 1
Delphi World - это проект, являющийся сборником статей и малодокументированных возможностей  по программированию в среде Delphi. Здесь вы найдёте работы по следующим категориям: delphi, delfi, borland, bds, дельфи, делфи, дэльфи, дэлфи, programming, example, программирование, исходные коды, code, исходники, source, sources, сорцы, сорсы, soft, programs, программы, and, how, delphiworld, базы данных, графика, игры, интернет, сети, компоненты, классы, мультимедиа, ос, железо, программа, интерфейс, рабочий стол, синтаксис, технологии, файловая система...
Лекции по конструированию компиляторов - Часть 1

Автор: В.А.Серебряков

Предисловие

Предлагаемая вниманию читателя книга основана на курсе лекций, прочитанных автором на факультете вычислительной математики и кибернетики Московского государственного университета в 1991- 1993 гг. Автор надеется, что издание книги восполнит существенный пробел в литературе на руссом языке по разработке компиляторов.

Содержание книги представляет собой "классические" разделы предмета: лексический и синтаксический анализ, организация памяти, генерация кода. Сделана попытка на протяжении всего изложения провести единую "атрибутную" точку зрения на процесс разработки компилятора. В книге не затрагиваются чрезвычайно важные вопросы глобальной оптимизации и разработки компиляторов для машин с параллельной архитектурой. Автор надеется восполнить эти пробелы в будущем. Книга будет полезной как студентам и аспирантам программистских специальностей, так и профессионалам в этих областях.

Оглавление

Глава 1. Введение                                            6
  1.1. Место компилятора в программном обеспечении           6
  1.2. Структура компилятора                                 7
Глава 2. Лексический анализ                                 11
  2.1. Регулярные множества и регулярные выражения          13
  2.2. Конечные автоматы                                    14
  2.3. Построение детерминированного конечного
       автомата по регулярному выражению                    17
  2.4. Построение детерминированного конечного
       автомата с минимальным числом состояний              20
  2.5. Программирование лексических анализаторов            22
  2.6. Конструктор лексических анализаторов LEX             27
Глава 3. Синтаксический анализ                              31
  3.1. Основные понятия и определения                       31
  3.2. Таблично-управляемый предсказывающий разбор          33
    3.2.1. Алгоритм разбора сверху-вниз                     33
    3.2.2. Множества FIRST и FOLLOW                         37
    3.2.3. Конструирование таблиц
           предсказывающего анализатора                     39
    3.2.4. LL(1)-грамматики                                 40
    3.2.5. Удаление левой рекурсии                          41
    3.2.6. Левая факторизация                               43
    3.2.7. Рекурсивный спуск                                44
    3.2.8. Диаграммы переходов для рекурсивного спуска      46
    3.2.9. Восстановление после синтаксических ошибок       48
  3.3. Разбор снизу-вверх типа сдвиг-свертка                49
    3.3.1. Основа                                           49
    3.3.2. LR(k)-анализаторы                                51
    3.3.3. LR грамматики                                    56
    3.3.4. Конфликты разбора типа сдвиг-свертка             62
    3.3.5. Восстановление после синтаксических ошибок       63
Глава 4. Промежуточные представления программы              64
  4.1. Представление в виде ориентированного графа          64
  4.2. Трехадресный код                                     64
  4.3. Линеаризованные представления                        69
  4.4. Организация информации в генераторе кода             72
  4.5. Уровень промежуточного представления                 73
Глава 5. Элементы теории перевода                           74
  5.1. Преобразователи с магазинной памятью                 74
  5.2. Синтаксически управляемый перевод                    76
  5.3. Атрибутные грамматики                                79
    5.3.1. Определение атрибутных грамматик                 79
    5.3.2. Атрибутированное дерево разбора                  80
    5.3.3. Язык описания атрибутных грамматик               81
Глава 6. Контекстные условия языков программирования        85
  6.1. Описание областей видимости и блочной структуры      85
  6.2. Структура среды Модулы-2                             86
  6.3. Занесение в среду и поиск объектов                   90
Глава 7. Организация таблиц символов компилятора            98
  7.1. Таблицы идентификаторов и таблицы символов           98
  7.2. Таблицы идентификаторов                              99
  7.3. Таблицы символов и таблицы расстановки              102
  7.4. Функции расстановки                                 103
  7.5. Таблицы на деревьях                                 104
  7.6. Реализация блочной структуры                        108
  7.7. Сравнение различных методов реализации таблиц       109
Глава 8. Генерация кода                                    110
  8.1. Модель машины                                       110
  8.2. Динамическая организация памяти                     113
  8.3. Назначение адресов                                  122
  8.4. Трансляция переменных                               124
  8.5. Трансляция целых выражений                          130
  8.6. Распределение регистров при вычислении
       арифметических выражений                            132
  8.7. Трансляция логических выражений                     143
  8.8. Выделение общих подвыражений                        151
  8.9. Генерация оптимального кода методами
    синтаксического анализа                                155
    8.9.1. Сопоставление образцов                          155
    8.9.2. Синтаксический анализ для Т-грамматик           158
    8.9.3. Выбор дерева вывода наименьшей стоимости        165
Глава 9. Системы автоматизации построения трансляторов     169
  9.1. Система Супер                                       169
  9.2. Система Yacc                                        172
Литература                                                 175

Глава 1. Введение

1.1. Место компилятора в программном обеспечении

Компиляторы составляют существенную часть программного обеспечения ЭВМ. Это связано с тем, что языки высокого уровня стали основным средством разработки программ. Только очень незначительная часть программного обеспечения, требующая особой эффективности, программируется с помощью ассемблеров. В настоящее время распространено довольно много языков программирования. Наряду с традиционными языками, такими, как Фортран, широкое распространение получили так называемые "универсальные языки" (Паскаль, Си, Модула-2, Ада и другие), а также некоторые специализированные (например, язык обработки списочных структур Лисп). Кроме того, большое распространение получили языки, связанные с узкими предметными областями, такие, как входные языки пакетов прикладных программ. Для некоторых языков имеется довольно много реализаций. Например, реализаций Паскаля, Модулы-2 или Си для ЭВМ типа IBM/PC на рынке десятки. С другой стороны, постоянно растущая потребность в новых компиляторах связана с бурным развитием архитектур ЭВМ. Это развитие идет по различным направлениям. Совершенствуются старые архитектуры как в концептуальном отношении, так и по отдельным, конкретным линиям. Это можно проиллюстрировать на примере микропроцессора Intel-80X86. Последовательные версии этого микропроцессора 8086, 80186, 80286, 80386, 80486, 80586 отличаются не только техническими характеристиками, но и, что более важно, новыми возможностями и, значит, изменением (расширением) системы команд. Естественно, это требует новых компиляторов (или модификации старых). То же можно сказать о микропроцессорах Motorola 68010, 68020, 68030, 68040. В рамках традиционных последовательных машин возникает большое число различных направлений архитектур. Примерами могут служить архитектуры CISC, RISC. Такие ведущие фирмы, как Intel, Motorola, Sun, DEC, начинают переходить на выпуск машин с RISC-архитектурами. Естественно, для каждой новой системы команд требуется полный набор новых компиляторов с распространенных языков.

Наконец, бурно развиваются различные параллельные архитектуры. Среди них отметим векторные, многопроцессорные, с широким командным словом (вариантом которых являются суперскалярные ЭВМ). На рынке уже имеются десятки типов ЭВМ с параллельной архитектурой, начиная от супер-ЭВМ (Cray, CDC и другие), через рабочие станции (например, IBM/RS-6000) и кончая персональными (например, на основе микропроцессора I- 860). Естественно, для каждой из машин создаются новые компиляторы для многих языков программирования. Здесь необходимо также отметить, что новые архитектуры требуют разработки совершенно новых подходов к созданию компиляторов, так что наряду с собственно разработкой компиляторов ведется и большая научная работа по созданию новых методов трансляции.

1.2. Структура компилятора

Обобщенная структура компилятора и основные фазы компиляции показаны на рис. 1.1. На фазе лексического анализа (ЛА) входная программа, представляющая собой поток символов, разбивается на лексемы - слова в соответствии с определениями языка. Основным формализмом, лежащим в основе реализации лексических анализаторов, являются конечные автоматы и регулярные выражения. Лексический анализатор может работать в двух основных режимах: либо как подпрограмма, вызываемая синтаксическим анализатором за очередной лексемой, либо как полный проход, результатом которого является файл лексем. В процессе выделения лексем ЛА может как самостоятельно строить таблицы имен и констант, так и выдавать значения для каждой лексемы при очередном обращении к нему. В этом случае таблица имен строится в последующих фазах (например, в процессе синтаксического анализа).

      +-------------+   +-------------+ +-----------------+
      | Лексический |-->| Диагностика | |+---------------+|
 Вход |   анализ    |   +-------------+ || Поток лексем +||
 ---->|-------------|------------------>|| таблицы имен  ||-+
      |   Конечные  |                   || и констант    || |
      |   автоматы  |                   |+---------------+| |
      +-------------+                   +-----------------+ |
            +-----------------------------------------------+
            v
 +-------------------+  +-------------+ +------------------+
 | Синтаксический    |->| Диагностика | |+----------------+|
 |    анализ         |  +-------------+ || Дерево разбора ||
 |-------------------+----------------> ||  + таблицы     ||+
 | Контекстно-сво-   |                  || имен и констант|||
 | бодные грамматики |                  |+----------------+||
 +-------------------+                  +------------------+|
           +------------------------------------------------+
           v
  +-------------+   +-----------++----------------------+
  | Контекстный |-->|Диагностика||+--------------------+|
  |  анализ     |   +-----------+|| Атрибутированное   ||
  |-------------|--------------->|| дерево или  дерево ||-+
  | Атрибутные  |                || + таблица символов || |
  | грамматики  |                |+--------------------+| |
  +-------------+                +----------------------+ |
             +--------------------------------------------+
             v
     +----------------+    +--------------------------+
     |   Генерация    |    |+------------------------+|
     | промежуточного |    || Промежуточная форма    ||
     |  представления |    || (префиксная, пост-     ||
     |----------------|--->||  фиксная, тройки и др.)||---+
     | СУ-трансляция  |    |+------------------------+|   |
     +----------------+    +--------------------------+   |
             +--------------------------------------------+
             |  +-------------------------------------+
             v  v                                     |
     +-------------+   +-------------------------+    |
     | Оптимизация |   |+-----------------------+|    |
     |-------------|-->|| Промежуточная форма   ||    |
     | Потоковый   |   || (ориентированный граф)||--> |
     |   анализ    |   |+-----------------------+|    |
     +-------------+   +-------------------------+    |
             +----------------------------------------+
             |
             v
     +-----------------------+     +-------------+
     | Генерация кода        |     |+-----------+|
     |-----------------------+---->||           ||
     | Таблицы решений,      |     || Объектный ||
     | динамическое          |     ||  модуль   ||
     | программирование и др.|     |+-----------+|
     +-----------------------+     +-------------+

                       Рис. 1.1

На этапе ЛА обнаруживаются некоторые (простейшие) ошибки (недопустимые символы, неправильная запись чисел, идентификаторов и др.).

Основная задача синтаксического анализа - разбор структуры программы. Как правило, под структурой понимается дерево, соответствующее разбору в контекстно-свободной грамматике языка. В настоящее время чаще всего используется либо LL(1)- анализ (и его вариант - рекурсивный спуск), либо LR(1)-анализ и его варианты (LR(0), SLR(1), LALR(1) и другие). Рекурсивный спуск чаще используется при ручном программировании синтаксического анализатора, LR(1) - при использовании систем автоматизации построения синтаксических анализаторов. Результатом синтаксического анализа является синтаксическое дерево со ссылками на таблицу имен. В процессе синтаксического анализа также обнаруживаются ошибки, связанные со структурой программы.

На этапе контекстного анализа выявляются зависимости между частями программы, которые не могут быть описаны контекстно- свободным синтаксисом. Это в основном связи "описание- использование", в частности анализ типов объектов, анализ областей видимости, соответствие параметров, метки и другие. В процессе контекстного анализа строится таблица символов, которую можно рассматривать как таблицу имен, пополненную информацией об описаниях (свойствах) объектов. Основным формализмом, использующимся при контекстном анализе, являются атрибутные грамматики. Результатом работы фазы контекстного анализа является атрибутированное дерево программы. Информация об объектах может быть как рассредоточена в самом дереве, так и сосредоточена в отдельных таблицах символов. В процессе контекстного анализа также могут быть обнаружены ошибки, связанные с неправильным использованием объектов.

Затем программа может быть переведена во внутреннее представление. Это делается для целей оптимизации и/или удобства генерации кода. Еще одной целью преобразования программы во внутреннее представление является желание иметь переносимый компилятор. Тогда только последняя фаза (генерация кода) является машинно-зависимой. В качестве внутреннего представления может использоваться префиксная или постфиксная запись, ориентированный граф, тройки, четверки и другие. Фаз оптимизации может быть несколько. Оптимизации обычно делят на машинно-зависимые и машинно-независимые, локальные и глобальные. Часть машинно-зависимой оптимизации выполняется на фазе генерации кода. Глобальная оптимизация пытается принять во внимание структуру всей программы, локальная - только небольших ее фрагментов. Глобальная оптимизация основывается на глобальном потоковом анализе, который выполняется на графе программы и представляет по существу преобразование этого графа. При этом могут учитываться такие свойства программы, как межпроцедурный анализ, межмодульный анализ, анализ областей жизни переменных и т.д.

Наконец, генерация кода - последняя фаза трансляции. Результатом ее является либо ассемблерный модуль, либо объектный (или загрузочный) модуль. В процессе генерации кода могут выполняться некоторые локальные оптимизации, такие как распределение регистров, выбор длинных или коротких переходов, учет стоимости команд при выборе конкретной последовательности команд. Для генерации кода разработаны различные методы, такие как таблицы решений, сопоставление образцов, включающее динамическое программирование, различные синтаксические методы.

Конечно, те или иные фазы транслятора могут либо отсутствовать совсем, либо объединяться. В простейшем случае однопроходного транслятора нет явной фазы генерации промежуточного представления и оптимизации, остальные фазы объединены в одну, причем нет и явно построенного синтаксического дерева.

Проект Delphi World © Выпуск 2002 - 2017
Автор проекта: Эксклюзивные курсы программирования