Межфакультетский курс «Нейронные сети и их применение в научных исследованиях»

Компьютерное зрение, распознавание речи, «понимание» текста и многие другие формы узкоспециализированного искусственного интеллекта (ANI — artificial narrow intelligence) сегодня являются частью повседневной жизни. В основе этих технологий лежит машинное обучение, которое используется для построения обучающихся алгоритмов. В настоящее время одним из самых перспективных методов машинного обучения считается глубокое обучение (нейронные сети). За последние несколько лет глубокое обучение нашло применение практически во всех областях науки: от биологии и физики до лингвистики и философии.

Этот 12-недельный курс даст студентам высокоуровневый обзор современных методов искусственного интеллекта и их применения в различных научных областях. Демонстрации и викторины помогут студентам разобраться, что возможно в настоящее время и что, вероятно, будет возможно в ближайшем будущем. Из-за упрощённого изложения курс может быть неинтересен студентам технических факультетов, которые уже разбираются в нейронных сетях.

О курсе MSU.AI. Машинное обучение, нейронные сети и искусственный интеллект. История искусственного интеллекта. Зачем обучать машины? Процесс обучения нейронной сети. Задачи нейронной сети. Искусственный интеллект в научных исследованиях. Проблемы ИИ.

Постановка задачи машинного обучения. Задача регрессии. Регрессия. Метод градиентного спуска. Задача классификации в машинном обучении. Как сделать нейросеть. Ограничения линейных моделей. Функция активации. Универсальная теорема аппроксимации. Пример активации нейронной сети. Применение искусственного интеллекта для научных задач.

Компьютерное зрение. Пиксели в картинках. Карта признаков в машинном обучении. Свёрточные нейронные сети. Свёртки для 1D, 2D, 3D. Основные типы задач в компьютерном зрении. Adversarial attacks. Аугментации. Transfer Learning. Научные примеры применения нейронной сети. Третье мнение.

Числовые представления текстовых данных. Как преобразовать текст в числа. One-hot-encoding. Bag of words. Постановка задачи описания контекста. word2vec. Научные примеры. Последовательности. Рекуррентная нейронная сеть. CNN + RNN. Long-Short Term Memory (LSTM). Примеры научных задач.

Архитектура "трансформер". self-supervised learning. Нейросеть BERT. Emerging Properties in Self-Supervised Vision Transformers*. (нейросеть DINO). wav2vec. Научные задачи с применением нейронной сети.

GPT. История GPT. Примеры применения модели GPT. Этические проблемы GPT. ChatGPT. Инвестиции в ИИ. AlphaFold. Научное применение нейронных сетей.

OpenAI. Появление множества языковых моделей. Российские языковые модели. Подходы решения задач с LLM. Prompt engineering. Как правильно писать промт. Представление текста в виде чисел. Токенизация. Применение больших языковых моделей для своей задачи. Файнтюнинг. Возможности LLM. Примеры сервисов с искусственным интеллектом.

Автоэнкодер. Обнаружение аномалий. Как генерируются новые изображения. Генеративно-состязательная сеть (GAN). Как генерируются изображения по текстовому описанию. Как работают диффузные модели. Что можно делать с помощью современных нейронных сетей. Генерация видео искусственным интеллектом.

Терминология в обучении с подкреплением. Концептуально про RL. Примеры применения обучения с подкреплением. ANI - AGI - ASI. Сложности в работе обучения с подкреплением. Научные работы с применением обучения с подкреплением.

Алан Тьюринг. Человек или нейросеть. Сложности развития ИИ. Стоит ли доверять искусственному интеллекту. Правовые аспекты ИИ. Как мошенники используют ИИ. Каким будет сильный искусственный интеллект.