Post on 30-Jul-2015
Комбинаторные категориальные грамматики
NLU/RGhttp://nlu-rg.ru
Дмитрий Тимофеевdimitri.timofeev@hotmail.com
СПбГПУ
20 февраля 2014 года
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 1 / 25
Категориальные грамматики
I Гуссерль, Лесьневский.I Теория семантических категорий.
I Казимир Айдукевич, 1935. “Die syntaktischeKonnexitat”.I Теория синтаксической связности.
I Иегошуа Бар-Хиллел, 1953. “AQuasi-arithmetical Notation for SyntacticDescription”.I Учтен порядок слов. Категориальныеграмматики.
I Иоахим Ламбек, 1958. “The mathematics ofsentence structure”.I Категориальные грамматики каклогическое исчисление.
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 2 / 25
Развитие категориальных грамматик
I Комбинаторные категориальные грамматики.I Lyons, Geach, Bach, Dowty, . . .I Mark Steedman, Anna Szabolcsi.I Комбинаторная логика (Шейнфинкель, Карри, Фейс).
I Логика категориальных типов.I Categorial Type Logics, Type Logical Grammars.I Johan van Benthem.I Субструктурные логики: исчисление Ламбека, линейная логика(Жерар). Теория типов.
I Алгебраическая формулировка категориальных грамматик.I Ламбек: pregroup grammars.I Интерпретация в теории категорий.
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 3 / 25
План
I Категориальные грамматики (AB-исчисление).I Комбинаторные категориальные грамматики.
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 4 / 25
AB-исчисление (Айдукевич, Бар-Хиллел)
I Синтаксис описывается категориями и правилами.I Категории (приписаны к каждому слову в словаре):
I Атомарные категории: s (предложение), np (именная группа), . . .I Составные категории: функции над категориями.I Две операции для построения составных категорий.
I \ — «аргумент слева».I / — «аргумент справа».
I Пример: (s\np)/np — категория переходного глагола.
I Правила:
(X/Y ) Y →> X
Y (X\Y ) →< X
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 5 / 25
John loves Mary
Johnnp
loves(s\np)/np
Marynp
>s\np
<s
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 6 / 25
Композиционная семантика
I К каждому слову вместе с категорией можно приписать λ-терм.
“John′′ := np : john
“Mary ′′ := np : mary
“loves ′′ := (s\np)/np : λx .λy .love(y , x)
I Композиция этих термов задается правилами:
(X/Y ) : f Y : x →> X : f (x)
Y : x (X\Y ) : f →< X : f (x)
Johnnp : john
loves(s\np)/np : λx .λy .love(y , x)
Marynp : mary
>s\np : λy .love(y ,mary)
<s : love(john,mary)
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 7 / 25
Complex argument
I “John promised Mary to go”I “John persuaded Mary to go”
“promised ′′ := ((s\np)/(sinf \np))/np : λx .λP .λy .promise(y , x ,P y)
“persuaded ′′ := ((s\np)/(sinf \np))/np : λx .λP .λy .persuade(y , x ,P x)
“to ′′ := (sinf \np)/(sbase\np) : λP .P
“go ′′ := sbase\np : λx .go(x)
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 8 / 25
John promised Mary to go
Johnnpjohn
promised((s\np)/(sinf \np))/np
λx.λP.λy .promise(y ,x,P y)
Marynpmary
(s\np)/(sinf \np)λP.λy .promise(y ,mary ,P y)
to(sinf \np)/(sbase\np)
λP.P
gosbase\npλx.go(x)
(sinf \np)λx.go(x)
s\npλy .promise(y ,mary ,(λx.go(x)) y)s
promise(john,mary ,go(john))
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 9 / 25
John persuaded Mary to go
Johnnpjohn
persuaded((s\np)/(sinf \np))/np
λx.λP.λy .persuade(y ,x,P x)
Marynpmary
(s\np)/(sinf \np)λP.λy .persuade(y ,mary ,P mary)
to(sinf \np)/(sbase\np)
λP.P
gosbase\npλx.go(x)
(sinf \np)λx.go(x)
s\npλy .persuade(y ,mary ,(λx.go(x)) mary)s
persuade(john,mary ,go(mary))
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 10 / 25
Ограничения AB-исчисления
Некоторые грамматические конструкции в AB-исчислении описатьневозможно.I Из-за отсутствия ассоциативности:
I Подъем правого узла (right-node raising):“((John cooked) and (Mary ate)) the beans”
I Актуальное членение:“(Ed saw) Ted” и “Ed (saw Ted)”
I Из-за отсутствия коммутативности:I Перестановка слов:“(Ed saw) yesterday (his tall old friend Ted)”
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 11 / 25
Комбинаторная категориальная грамматика
I Каждой синтаксической категории можно сопоставитьсемантический тип.I Тип λ-термов, соответствующих элементам категории.I Категория np — тип e (сущности).I Категория s — тип t (истинностные значения высказываний).
I Операциям / и \ соответствуют функции.I Семантическому типу et (то же самое, что e → t) соответствуюткатегории s\np и s/np.
I Семантический тип не зависит от конкретного порядка слов, но сточки зрения синтаксиса это надо учесть.
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 12 / 25
Комбинаторная категориальная грамматика
I λ-термы можно строить из других λ-термов с помощьюкомбинаторов (функций без свободных переменных).
Идея:I Выберем подходящий набор комбинаторов, которые позволяютиз одних термов строить другие.
I Типу аргумента (исходного терма) сопоставляется новый тип, типзначения.
I Добавим к AB-исчислению правила, которые будут по тем жезаконам преобразовывать синтаксические категории.
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 13 / 25
Комбинаторы
I Подъем типа (type-raising):T x ≡ λf .f x
I Композиция функций (function composition):B f g ≡ λx .f (g x)
I Подстановка (substitution):S f g ≡ λx .f x (g x)
I В различных вариантах CCG используются разные наборыдополнительных комбинаторов.
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 14 / 25
Подъем типа
Tσ((στ)τ) xσ ≡ λfστ .f x
T Maxe ≡ λPet .P Max
Правила:
X : a →>T Y /(Y \X ) : λf .f a
X : a →<T Y \(Y /X ) : λf .f a
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 15 / 25
Композиция функций
B(στ)((εσ)(ετ)) fστ gεσ ≡ λxε.f (g x)
“Max eats” :
B (λP .P Max) (λy .λz .eat(z , y))
≡ λx .(λP .P Max) ((λy .λz .eat(z , y)) x)
→ λx .(λP .PMax) (λz .eat(z , x))
→ λx .(λz .eat(z , x)) Max
→ λx .eat(Max , x)
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 16 / 25
Композиция функций
Правила (гармоническая композиция, harmonic composition):
(X/Y ) : f (Y /Z ) : g →>B X/Z : λx .f (g x)
(Y /Z ) : g (X\Y ) : f →<B X\Z : λx .f (g x)
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 17 / 25
Композиция функций
Johnnp : john
loves(s\np)/np : λx .λy .love(y , x)
Marynp : mary
>s\np : λy .love(y ,mary)
<s : love(john,mary)
Johnnp : john
>Ts/(s\np) : λP .P john
loves(s\np)/np : λx .λy .love(y , x)
>Bs/np : λx .love(john, x)
Marynp : mary
>s : love(john,mary)
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 18 / 25
Композиция функций
Перекрестная композиция, crossed composition:
(X/Y ) : f (Y \Z ) : g →>B×X\Z : λx .f (g x)
(Y /Z ) : g (X\Y ) : f →<B×X/Z : λx .f (g x)
Ednp
saw(s\np)/np
today(s\np)\(s\np)
<B×(s\np)/np
his tall friend Tednp
>s\np
<s
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 19 / 25
Подстановка
S(σ(τε))(στ)σε fσ(τε) gστ xσ ≡ (f x (g x))ε
“. . . filed without reading”
S (λz .λQet .λy .[Q y ∧ (without(read(y , z)))]) (λz .λy .[file(y , z)])
→
λz .λy .file(y , z) ∧ (without(read(y , z)))]
Правило:
(Y /Z ) (X\Y )/Z ) →<S×X/Z
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 20 / 25
Подстановка
“[articles] which Ed filed without reading”
which(n\n)/(s/np)
Ednp
>Ts/(s\np)
filed(s\np)/np
without reading((s\np)\(s\np))/np
<S×(s\np)/np
>Bs/np
n\n
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 21 / 25
Модальности
I Из-за неограниченного применения правил можно допуститьсинтаксически некорректные предложения.
I Варианты ограничений:I Запретить применять конкретные правила для конкретныхязыковых конструкций.I Неудобно (грамматики зависят и от правил, и от словаря).
I Включить ограничения на контекст применения правил в самиправила.I Общепринятая сегодня практика.
I Модальности операторов / и \ (Baldridge and Kruijff):I ? — неассоциативный, некоммутативный оператор.I � — ассоциативный, некоммутативный оператор.I × — неассоциативный, коммутативный оператор.I ∙ — ассоциативный, коммутативный оператор.
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 22 / 25
Синтаксический анализ
I Эффективные алгоритмы:I CKYI Shift-ReduceI Статистический парсинг на основе логарифмических моделей.
I Проблема — ложная неоднозначность.I Мы сами этого добивались: “Ed (saw Ted)” и “(Ed saw) Ted”.
Ednp
saw(s\np)/np
Tednp
>s\np
<s
Ednp
>Ts/(s\np)
saw(s\np)/np
>Bs/np
Tednp
>s
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 23 / 25
Литература
Jason Baldridge and Frederick Hoyt.Categorial grammar.In Tibor Kiss and Artemis Alexiadou, editors, Handbook of Syntax. deGruyter, Berlin.To appear.http://www.jasonbaldridge.com/papers/baldridge_cg_handbook_syntax.pdf.
Mark Steedman and Jason Baldridge.Combinatory categorial grammar.In Non-Transformational Syntax: Formal and Explicit Models ofGrammar, pages 181–224. 2011.http://www.inf.ed.ac.uk/teaching/courses/nlg/readings/SteedmanBaldridgeCCG.pdf.
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 24 / 25
Спасибо за внимание!
Дмитрий Тимофеев (СПбГПУ) CCG 20 февраля 2014 года 25 / 25