WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 |   ...   | 2 | 3 || 5 | 6 |   ...   | 12 |

Лексический анализатор, наряду с разбиением исходного потока символов на лексемы, может включать в исходный текст дополнительную информацию или исключать из него строки символов. Примером дополнительно включаемой информации являются номера строк. Если их не включить, то информация о том, в какой строке исходного текста находилась та или иная лексема, будет, в случае выполняющего сканирование в отдельном проходе компилятора, утеряна после лексического анализа.

Однако для диагностики на фазе синтаксического анализа необходимо иметь возможность ссылаться на ошибки в программе с указанием номеров строк оригинального исходного текста. С другой стороны, комментарии включаются в текст программы или описания объекта проектирования только для предоставления человеку дополнительных пояснений. Они никак не влияют на генерируемый в дальнейшем код, и лексический анализатор обычно их просто исключает.

Пример структуры программы сканирования Пусть реализуемый язык состоит только из оператора присваивания.

БНФ языка:

<Присваивание> ::= <Идент> = <Выражение> Правило показывает, что в левой части присваивания – идентификатор, далее следует символ присваивания (=), справа – выражение;

<Выражение> ::= <Операнд> | <Операнд> <Бин.оп> <Выражение> Выражение – это операнд, или операнд, за которым следует бинарная операция и выражение;

<Бин.оп> ::= "-" | "+" | "*" | "/" Бинарная операция – символ арифметической операции "-", "+","*" или "/";

<Операнд> ::= <Идент> | Операнд – это идентификатор или константа;

<Идент> ::= <Буква> Идентификатор состоит из одной буквы;

::= <Цифра> | <Цифра> Константа – последовательность цифр, состоящая хотя бы из одной цифры.

Лексический анализатор преобразует исходную программу в последовательность символов. Для удобства дальнейшей обработки лексем их разбивают на классы. В данном случае можно выделить следующие классы лексем:

1 – идентификатор;

2 – константа;

3 – символ присваивания;

4 – символы операций умножения и деления;

5 – символы операций сложения и вычитания.

Заметим, что необходимость разделения бинарных операций на две группы диктуется их различным приоритетом, играющим важную роль при генерации постфиксной записи.

Фрагмент программы лексического анализа:

/* prog - файл с транслируемой программой, lex выходной файл лексем */ while(!feof (prog)) { ch = readsym();

/* чтение очередного символа ch с пропуском пробелов */ if(isAlpha(ch)) fprintf(lex, "%c %d", ch, 1);

else if(isDigit(ch)) digit();

/* Процедура чтения числа и вывода его в файл */ else if(ch == '=') fprintf(lex, "%c %d", ch, 3);

else if(ch == '*' || ch == '/') fprintf(lex, "%c %d", ch, 4);

else if(ch == '+' || ch == '-') fprintf(lex, "%c %d", ch, 5);

else printf("Недопустимый символ языка - %c \n", ch);

} Контрольные вопросы 1. Дайте определение «лексемы».

2. В чем основная задача лексического анализатора 3. Какие из перечисленных далее видов информации лексический анализатор должен включать в выходной файл лексем: символы языка, номер строки для каждой лексемы, комментарии к программе, символы форматирования программы (пробелы, табуляции, переходы на новую строку).

6. КОНЕЧНЫЕ АВТОМАТЫ Существует полное соответствие между регулярными выражениями (а поэтому и грамматиками типа 3) и конечными автоматами, которые определяются следующим образом:

Конечный автомат – это устройство для распознавания строк какоголибо языка. У него есть конечное множество состояний, отдельные из которых называются последними. По мере считывания каждой литеры строки контроль передается от состояния к состоянию в соответствии с заданным множеством переходов. Если после считывания последней литеры строки автомат будет находиться в одном из последних состояний, о строке говорят, что она принадлежит языку, принимаемому автоматом. В ином случае строка не принадлежит языку, принимаемому автоматом.

Конечный автомат формально определяется пятью характеристиками:

-конечным множеством состояний ( K ) -конечным входным алфавитом ( ) -множеством переходов ( ) -начальным состоянием ( S0 K ) -множеством последних состояний ( f K ) M = ( K,,, S0, f ).

Пример: Состояниями автомата являются А и В, входным алфавитом – {0,1}, начальным состоянием – А, множеством последних состояний – {A}, а переходами (А, 0) = А, (В, 0) = В, (А, 1) = В, (В, 1) = А.

Эти переходы означают, что при чтении 0 в состоянии А управление передается в состояние А и т.д. При чтении строки 0 1 0 0 1 0 1 управление последовательно передается в следующем порядке через состояния:

А, А, В, В, В, А, А, В, А.

Так как А есть последнее состояние, строка принимается конечным автоматом, однако при чтении строки 0 0 1 1 автомат проходит через состояния А, А, А, В, А, В поскольку В не является последним состоянием, эта строка не принимается, т.е. она не принадлежит языку, принимаемому этим автоматом.

В связи с тем, что нули не влияют на состояние автомата, а каждая единица изменяет его состояние с А на В и с В на А, и начальное состояние является тем же, что и последнее состояние, язык, принимаемый автоматом, состоит из тех строк, которые содержат четное число единиц.

Переходы можно представить с помощью таблицы (таблица 6.1) и схематически (рис.6.1).

Таблица 6.Состояния А В Вход 0 А В 1 В А 0 A B Рис.6.1. Переходы детерминированного конечного автомата.

Такой автомат называют детерминированным, потому что в каждом элементе таблицы переходов содержится одно состояние. В недетерминированном конечном автомате это положение не выдерживается.

Рассмотрим конечный автомат, определяемый следующим образом:

M1 = ( K1,,, S1, f1 ), 1 Где K1 = {A, В}, = {0,1}, S1 = {А}, f1= {В}, а переходы представлены в таблице 6.2 и на рис.6.2:

Таблица 6.Состояния А В Вход 0 {В} 1 {A,В} {B} 0,A B Рис.6.2. Переходы недетерминированного конечного автомата M1.

Первая строка будет принята, так как имеется переход (последовательность переходов), ведущий к последнему состоянию при чтении строки. Имеется также переход к непоследнему состоянию, но это не влияет на приемлемость строки. Поэтому прежде чем прийти к выводу о том, что строка не может быть принята недетерминированным конечным автоматом, необходимо перепробовать все возможные последовательности переходов.

Существует детерминированный конечный автомат М2, соответствующий автомату М1, который принимает тот же язык. Переходы автомата М2 приведены в таблице 6.3 и на рис.6.3.

M2 = (K2, 2, 2, S2, f2 ), где K2 = {A, В, C}, 2= {0,1}, S2 = {А}, f2= {В} Таблица 6.Состояния А В C Вход 0 C В C 1 В B C 0,B 0,A C Рис.6.3. Переходы детерминированного конечного автомата M2.

Как и М1, М2 принимает строки из нулей и единиц тогда и только тогда, когда строка начинается с единицы. Однако при распознавании строки с помощью М2 возврат никогда не требуется, т.к. в процессе чтения определенного входного символа из любого состояния произойдет точно один переход к другому состоянию. Это значит, что при использовании Мвремя распознавания строки будет пропорционально ее длине.

Соответствие лексическому анализу заключается в том, что каждому языку типа 3 соответствует детерминированный конечный автомат, который распознает строки этого языка. Например, строки, генерируемые грамматикой G1c порождающими правилами:

А 1А | 1В | В 0В | 1В | 0 | где А – начальный символ, распознаются с помощью М1 или М2. Грамматику получают из недетерминированного конечного автомата М1 следующим образом:

1. Начальное состояние автомата становится начальным символом предложения грамматики.

2. Переходам (А, 1) = А, (В, 0) = В, (А, 1) = В, (В, 1) = В.

соответствуют порождающие правила А 1А | 1В В 0В | 1В тому, что в состоянии А есть переход при чтении 1 к последнему состоянию В соответствует А и аналогично В 0 | Можно также, наоборот, из грамматики вывести автомат М1.

Контрольные вопросы 1. Какому типу грамматик по иерархии Хомского соответствуют конечные автоматы 2. Дайте определение конечного автомата.

3. Чем отличается детерминированный конечный автомат от недетерминированного 4. Можно ли однозначно преобразовать регулярное выражение в детерминированный конечный автомат 7. КОНТЕКСТНО-СВОБОДНЫЕ ГРАММАТИКИ Грамматики типа 3 (регулярные) удобны для генерирования символов, которые создаются во время лексического анализа, но они не очень подходят для описания способов объединения этих символов в предложения типичных языков высокого уровня. Например, как уже отмечалось выше, согласование скобок нельзя специфицировать с помощью грамматики типа 3. КСграмматики (типа 2), хотя и не могут специфицировать все свойства типичных языков программирования, являются более универсальными и поэтому более пригодными в качестве основы для фазы синтаксического анализа (разбора) компиляции.

КС-грамматики традиционно служат основой для фазы синтаксического анализа компиляции. Если какой-либо язык программирования нельзя генерировать с помощью КС-грамматики, всегда можно найти такую КС-грамматику, которая генерирует надмножество языка, т.е. язык, включающий в себя заданный язык программирования.

Применение такой грамматики для синтаксического анализа означает, что ряд ограничений в реальном языке (например, обязательное объявление всех идентификаторов в программе) не будет проверяться анализатором.

Однако в компиляторе нетрудно предусмотреть другие действия по выполнению необходимых проверок в исходной программе (например, за счет применения таблицы символов).

Из определения КС-грамматики ясно, что класс КС-грамматик более мощный (т.е. может генерировать больше языков), чем класс регулярных грамматик, но менее мощный, чем класс контекстно-зависимых (КЗграмматик). Язык { an bn | n 0 } является контекстно-свободным, но не регулярным. Он генерируется грамматикой с порождающими правилами S aSb | С другой стороны, язык { an bn cn | n 0 } является контекстно-зависимым, а не контекстно-свободным.

Контекстно-свободные грамматики имеют ряд характеристик, для которых справедливы следующие положения.

1) Каноническая форма а) Каждая КС-грамматика эквивалентна (т.е. генерирует тот же язык) грамматике в нормальной форме Хомского, т.е. со всеми порождающими правилами вида A BC | a при обычных условиях, касающихся терминалов и нетерминалов.

б) Каждая КС-грамматика эквивалентна грамматике в нормальной форме Грейбаха, т.е. со всеми порождающими правилами вида A b где – строка нетерминалов (возможно, пустая).

2) Самовложение Если в грамматике G есть нетерминал A, для которого A 1 A (здесь 1 и 2 являются непустыми строками терминалов и/или нетерминалов), то о такой грамматике говорят, что она содержит самовложение. Например, две приведенные ниже грамматики содержат самовложение:

1) G1 = ({S}, {a, b}, P, S), где элементы P:

S aSb S 2) G2 = ({S, A}, {begin, end,[,]}, P, S), где элементы P:

S begin A end S A [S] В последнем случае об A и S говорят, что они проявляют свойство самовложения. Теоретически любая КС-грамматика, не содержащая самовложения, эквивалентна регулярной грамматике и генерирует регулярный язык. С другой стороны, регулярная грамматика не может содержать самовложения. Именно самовложение позволяет эффективно различать КС (нерегулярные) и регулярные языки. Как видно из второго примера, согласование скобок и т.п. требует самовложения, поэтому его нельзя специфицировать посредством регулярной грамматики.

С точки зрения разбора важно, что КС язык в состоянии распознавать автомат магазинного типа, эквивалентный конечному автомату, к которому добавлена память магазинного типа (стек). В функции автомата магазинного типа входит:

а) чтение входного символа, замещение верхнего символа стека строкой символов (возможно, пустой) и изменение состояния или б) все то же самое, но без чтения входного символа.

Автомат магазинного типа можно представить кратным (K, S, Г,, S0, Z0 ), где K – конечное множество состояний, S – входной алфавит, Г – алфавит магазинный, – множество переходов, S0 – начальное состояние, Z– символ магазина, который первоначально находится в стеке.

Рассмотрим, например, автомат магазинного типа М, определенный следующим образом:

K = {A}, S0 ={A}, S = { '(', ')'}, Z0 = I.

Г = {O, I}, задается как (A, I, '(') = (A, IO) (что означает: в состоянии A с I в вершине стека при чтении '(' перейти к состоянию A и заменить I на IO).

(A, O, '(') = (A, OO), (A, O, ')') = (A, ), (A, I, ) = (A, ).

Автомат М распознает согласуемые пары скобок. Открывающие скобки (представляемые как O) помещаются в стек и удаляются оттуда, когда встречается соответствующая закрывающая скобка. Строка скобок принимается, если после считывания всей строки стек остается пустым. Это – обычный способ принятия строк автоматами магазинного типа, хотя можно также определить автоматы магазинного типа, которые принимают строки по конечному состоянию. Эти два типа эквивалентны.

Описанный выше автомат магазинного типа является детерминированным, т.е. для каждого допустимого входного символа имеется однозначный переход. Что же касается конечных автоматов, то мы можем также определять недетерминированные автоматы магазинного типа, содержащие множество переходов для заданного входа, состояния и содержания стека.

При разборе происходит эффективное моделирование соответствующего автомата магазинного типа. Некоторые КС языки не могут анализироваться детерминированным образом (т.е. без возврата). Язык, допускающий детерминированный анализ, называется детерминированным; большинство языков программирования являются детерминированными или, по крайней мере, почти таковыми.

Pages:     | 1 |   ...   | 2 | 3 || 5 | 6 |   ...   | 12 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.