Прикладные задачи компьютерной лингвистики

1) Вводные сведения об особенностях естественного языка, этапах и сложностях обработки текста, применяемых подходах. Сегментация и токенизация текста: методы и средства, виды токенизации.

2) Автоматический морфологический анализ и синтез словоформ. Виды морфоанализа, разрешение морфологической омонимии. Современные морфологические процессоры и их функции.

3) Статистика текстов и статистическая языковая модель. Корпуса текстов, их особенности и применение. N-граммная языковая модель: построение, оценка качества и возможные приложения. Понятие коллокации, меры ассоциации для их распознавания.

4) Основные подходы к синтаксическому анализу предложений. Виды синтаксических связей. Синтаксическая сегментация. Синтаксические парсеры на правилах и на базе машинного обучения, способы их построения и оценки.

5) Локальный семантический анализ, модели представления семантики предложений. Задача разметки семантических ролей и методы ее решения. Дискурсивный анализ связного текста и его средства.

6) Модели дистрибутивной семантики, векторные представления слов. Построение счетной модели, разреженные вектора слов, особенности векторного пространства слов. Нейросетевые модели Word2vec и FastText: принципы обучения, свойства векторного пространства слов.

7) Векторизация текстов на базе статистики для классификации и кластеризации документов текстовой коллекции. Показатель tf-idf. Меры близости (схожести) текстов. Машинное обучение для классификации и кластеризации текстов и текстовых объектов, способы оценки качества.

8) Машинный перевод (МП) как ключевая прикладная задача: стратегии и поколения систем. Технологии статистического МП. Применение нейросетевой модели seq2seq, возникновение архитектуры Transformer. Оценки качества систем МП.

9) Рекуррентные нейронные сети для построения контекстуализированных векторных представлений слов и их недостатки. Нейросетевые языковые модели на основе архитектуры Transformer. Энкодерная модель BERT: особенности обучения и применения.

10) Автоматическая генерация текстов документов: стратегии и возможности. Генерация текстов на основе шаблонов и правил. Генеративные нейросетевые модели семейства GPT, их применение для генерации текстов.

11) Задачи извлечения информации из текстов: подходы и виды извлекаемых данных. Решение задачи как разметки последовательностей на базе машинного обучения. Особенности задачи оценки тональности текста, аспектный анализ мнений.

12) Автоматическое реферирование и аннотирование документов. Виды аннотаций и рефератов, стратегии их построения: экстрагирование и абстрагирование. Статистические методы экстрагирования. Абстрагирование на основе нейросетевых моделей.

13) Вопросно-ответные системы и разговорные агенты (чат-боты). Виды вопросно-ответных систем, стратегии анализа вопросов, ведения диалога и построения ответов. Методы построения чат-ботов. ChatGPT: особенности обучения и применения.